Η κυκλοφορία του GPT-5.6 (γνωστού και με την κωδική ονομασία «Sol») από την OpenAI αναμενόταν ως η επόμενη μεγάλη στιγμή στην εξέλιξη της Τεχνητής Νοημοσύνης. Ωστόσο, η λάμψη της νέας τεχνολογίας επισκιάζεται ήδη από μια ανησυχητική έκθεση της βρετανικής υπηρεσίας για την ασφάλεια της AI (AISI). Σύμφωνα με τα ευρήματα, το μοντέλο παρουσιάζει κρίσιμες ευπάθειες που επιτρέπουν «καθολικές παραβιάσεις» (universal jailbreaks), δίνοντας σε κακόβουλους δρώντες τη δυνατότητα να παρακάμψουν τις δικλείδες ασφαλείας και να χρησιμοποιήσουν το εργαλείο για σύνθετες κυβερνοεπιθέσεις.
Η κατάσταση θυμίζει έντονα την κρίση που αντιμετώπισε η Anthropic με το μοντέλο «Fable», το οποίο αναγκάστηκε να αποσύρει από τη διεθνή αγορά μετά από παρέμβαση της αμερικανικής κυβέρνησης. Η ομοιότητα των κενών ασφαλείας εγείρει σοβαρά ερωτήματα για το αν η βιομηχανία της AI τρέχει πιο γρήγορα από όσο μπορεί να εγγυηθεί την ασφάλεια των χρηστών και των εθνικών υποδομών.
Η ανατομία της «καθολικής παραβίασης»
Οι ερευνητές της βρετανικής υπηρεσίας διαπίστωσαν ότι, παρά τις προσπάθειες της OpenAI να ενσωματώσει προηγμένα φίλτρα ηθικής και ασφάλειας, το GPT-5.6 παραμένει ευάλωτο σε τεχνικές προτροπής (prompting) που «ξεκλειδώνουν» απαγορευμένες γνώσεις. Αυτές οι παραβιάσεις δεν είναι απλές ερωτήσεις που παρακάμπτουν τη λογοκρισία, αλλά δομημένες μέθοδοι που επιτρέπουν στο μοντέλο να βοηθήσει στη συγγραφή κακόβουλου κώδικα (malware), στον εντοπισμό τρωτών σημείων σε κρίσιμες υποδομές και στη δημιουργία πειστικών εκστρατειών phishing σε μαζική κλίμακα.
Το ανησυχητικό στοιχείο είναι η «καθολικότητα» αυτών των μεθόδων. Σε αντίθεση με παλαιότερα μοντέλα όπου οι παραβιάσεις ήταν μεμονωμένες και διορθώνονταν εύκολα, στο GPT-5.6 φαίνεται να υπάρχει ένα δομικό έλλειμμα στην αρχιτεκτονική ευθυγράμμισης (alignment). Αυτό σημαίνει ότι το μοντέλο, στην προσπάθειά του να είναι όσο το δυνατόν πιο χρήσιμο και δημιουργικό, αδυνατεί να διακρίνει την πρόθεση πίσω από μια σύνθετη τεχνική ερώτηση, καταλήγοντας να γίνει ο ψηφιακός βοηθός ενός χάκερ.
Το προηγούμενο της Anthropic και οι εξαγωγικοί έλεγχοι
Η σύγκριση με το μοντέλο Fable της Anthropic δεν είναι τυχαία. Πριν από λίγους μήνες, το Υπουργείο Εμπορίου των ΗΠΑ επέβαλε αυστηρούς περιορισμούς στην εξαγωγή του Fable σε χώρες που θεωρούνται στρατηγικοί αντίπαλοι, αφού αποδείχθηκε ότι το μοντέλο μπορούσε να χρησιμοποιηθεί για τον σχεδιασμό κυβερνοεπιθέσεων σε δίκτυα ηλεκτροδότησης. Η OpenAI βρίσκεται τώρα αντιμέτωπη με το ίδιο φάσμα.
«Αν το GPT-5.6 αποδειχθεί εξίσου επικίνδυνο, η Ουάσιγκτον δεν θα έχει άλλη επιλογή από το να επιβάλει παρόμοιους περιορισμούς, κάτι που θα πλήξει την εμπορική κυριαρχία της OpenAI παγκοσμίως», αναφέρει ανώτατος αξιωματούχος της βρετανικής κυβέρνησης.
Η πίεση για αυστηρότερη ρύθμιση δεν προέρχεται μόνο από την ανάγκη για προστασία, αλλά και από τον γεωπολιτικό ανταγωνισμό. Η δυνατότητα μιας AI να «παράγει» κυβερνοόπλα μετατρέπει τα μεγάλα γλωσσικά μοντέλα σε τεχνολογίες διπλής χρήσης (dual-use technologies), παρόμοιες με τον εξοπλισμό κρυπτογράφησης ή τα εξαρτήματα πυραυλικών συστημάτων.
Η απάντηση της OpenAI και το μέλλον της ασφάλειας
Από την πλευρά της, η OpenAI υποστηρίζει ότι οι δοκιμές της βρετανικής υπηρεσίας πραγματοποιήθηκαν σε περιβάλλοντα «κόκκινης ομάδας» (red-teaming) που δεν αντικατοπτρίζουν την πραγματική χρήση από το ευρύ κοινό. Ωστόσο, η εταιρεία παραδέχεται ότι η ασφάλεια των μοντέλων αιχμής είναι μια «διαρκής μάχη» και ότι οι μέθοδοι των επιτιθέμενων εξελίσσονται ταχύτερα από τις άμυνες.
Η βιομηχανία βρίσκεται σε ένα σταυροδρόμι. Από τη μία πλευρά, η ανάγκη για καινοτομία απαιτεί ανοιχτή πρόσβαση σε ισχυρά εργαλεία. Από την άλλη, η πιθανότητα ενός «ψηφιακού Τσερνόμπιλ» που θα προκληθεί από μια AI που καθοδηγεί έναν κυβερνοεγκληματία, αναγκάζει τις κυβερνήσεις να σφίξουν τον κλοιό. Το GPT-5.6 μπορεί να είναι το πιο ευφυές μοντέλο που δημιουργήθηκε ποτέ, αλλά αν δεν μπορεί να ελεγχθεί, η ευφυΐα του ενδέχεται να αποτελέσει τη μεγαλύτερη απειλή του.
- Η βρετανική AISI εντόπισε «καθολικές παραβιάσεις» που παρακάμπτουν τα φίλτρα ασφαλείας του GPT-5.6.
- Οι ευπάθειες αφορούν τη διευκόλυνση κυβερνοεπιθέσεων και τη συγγραφή κακόβουλου κώδικα.
- Υπάρχει κίνδυνος επιβολής εξαγωγικών περιορισμών από τις ΗΠΑ, παρόμοιων με αυτούς που επιβλήθηκαν στην Anthropic.
- Η συζήτηση για την AI ως τεχνολογία «διπλής χρήσης» αποκτά νέα δυναμική στα κέντρα λήψης αποφάσεων.
