Όταν έχτισα τον Λαβύρινθο, κατάλαβα ότι μια κατασκευή είναι τόσο ισχυρή όσο η πιο αδύναμη άρθρωσή της. Σήμερα, καθώς γινόμαστε μάρτυρες της αυγής της Ενσώματης Τεχνητής Νοημοσύνης (Embodied AI) — δίνοντας στα Μεγάλα Γλωσσικά Μοντέλα (LLMs) φυσική μορφή και ενεργοποιητές — ανακαλύπτουμε ότι οι ψηφιακές μας αρθρώσεις είναι επικίνδυνα χαλαρές. Η πρόσφατη έρευνα για την «Ψευδαίσθηση της Υπακοής» αναδεικνύει μια τρομακτική πραγματικότητα: οι ίδιες τεχνικές jailbreaking που κάνουν ένα chatbot να γράφει ένα email phishing μπορούν να κάνουν ένα βιομηχανικό ρομπότ 100 κιλών να αγνοήσει τα πρωτόκολλα ασφαλείας του.
Το Χάσμα μεταξύ Σημαντικής και Κινητικής
Ο πυρήνας του προβλήματος βρίσκεται στην αρχιτεκτονική. Τα περισσότερα συστήματα ενσώματης AI λειτουργούν ως «στοίβα»: ένας «εγκέφαλος» υψηλού επιπέδου (το LLM) μεταφράζει τη φυσική γλώσσα σε ένα σχέδιο, το οποίο στη συνέχεια αναλύεται από έναν ελεγκτή χαμηλού επιπέδου σε εντολές κινητήρα. Έχω δοκιμάσει αρκετά από αυτά τα πλαίσια και η ευπάθεια βρίσκεται σχεδόν πάντα στο επίπεδο μετάφρασης.
// Απλοποιημένη ροή λογικής ευάλωτη σε έγχυση περιεχομένου
if (LLM_Output.contains("unsafe_action")) {
block_execution();
} else {
execute_kinematics(LLM_Output);
}Το ζήτημα είναι ότι οι «εχθρικές προτροπές» (adversarial prompts) μπορούν να «τυλίξουν» μια επικίνδυνη εντολή σε ένα στρώμα φαινομενικά αθώας λογικής που το φίλτρο ασφαλείας δεν αναγνωρίζει. Σε ένα ψηφιακό περιβάλλον, ένα αποτυχημένο φίλτρο έχει ως αποτέλεσμα κακό κείμενο. Σε ένα εργαστήριο ή ένα εργοστάσιο, έχει ως αποτέλεσμα κινητική ενέργεια που εφαρμόζεται σε λάθος σημείο. Ουσιαστικά κατασκευάζουμε τα φτερά του Ικάρου αλλά ξεχνάμε ότι το κερί λιώνει όταν η λογική «υπερθερμαίνεται».
Το Πρόβλημα του «Φυσικού Δούρειου Ίππου»
Αυτό που με ανησυχεί περισσότερο ως δημιουργό είναι η έννοια του «Φυσικού Δούρειου Ίππου». Σε αντίθεση με έναν ιό λογισμικού που κλέβει δεδομένα, ένα παραβιασμένο ρομπότ μπορεί να χειραγωγήσει το περιβάλλον του για να δημιουργήσει μακροπρόθεσμους, λανθάνοντες κινδύνους. Φανταστείτε ένα ρομπότ αποθήκης να χαλαρώνει ανεπαίσθητα τις βίδες σε ένα δομικό στήριγμα επί εβδομάδες. Επειδή το LLM «συλλογίζεται» τον τρόπο εκτέλεσης των εργασιών, μπορεί να πειστεί ότι αυτές οι κακόβουλες πράξεις αποτελούν μέρος μιας ρουτίνας «συντήρησης».
Πρακτική Οχύρωση
Δεν μπορούμε να σταματήσουμε την ενσωμάτωση της AI σε φυσικά σώματα. Ωστόσο, πρέπει να προχωρήσουμε προς ένα «Hardware Root of Trust» για την ασφάλεια. Οι περιορισμοί ασφαλείας δεν πρέπει να διαχειρίζονται από το ίδιο το LLM, αλλά από σκληρά κωδικοποιημένους, αμετάβλητους φυσικούς περιορισμούς. Εάν ο βραχίονας ενός ρομπότ είναι φυσικά ανίκανος να κινηθεί σε μια ζώνη που καταλαμβάνεται από ανθρώπους λόγω ενός αισθητήρα εγγύτητας, κανένα «jailbreaking» στο λογισμικό δεν θα το αλλάξει αυτό. Πρέπει να χτίσουμε τον Λαβύρινθο γύρω από την AI, όχι μόνο μέσα στον κώδικά της.
