Σε μια εποχή όπου ο ρυθμός της τεχνολογικής εξέλιξης φαίνεται να ξεπερνά τη δυνατότητα των θεσμών να την παρακολουθήσουν, ο Dario Amodei, Διευθύνων Σύμβουλος της Anthropic, προχώρησε σε μια δήλωση που επαναπροσδιορίζει τα όρια μεταξύ ιδιωτικής πρωτοβουλίας και κρατικής εποπτείας. Μιλώντας σε συνέντευξή του στο Bloomberg Tech, ο Amodei υποστήριξε ότι οι κυβερνήσεις θα πρέπει να έχουν τη νομική εξουσία να εμποδίζουν την ανάπτυξη και την κυκλοφορία νέων μοντέλων τεχνητής νοημοσύνης, εάν αυτά παρουσιάζουν συγκεκριμένους, υψηλού επιπέδου κινδύνους για τη δημόσια ασφάλεια.

Η παρέμβαση αυτή δεν είναι τυχαία. Η Anthropic, η οποία ιδρύθηκε από πρώην στελέχη της OpenAI με επίκεντρο την «ασφάλεια της ΤΝ», έχει επανειλημμένα τονίσει την ανάγκη για υπεύθυνη κλιμάκωση. Ωστόσο, η παραδοχή ότι η αυτορρύθμιση δεν αρκεί και ότι απαιτείται ένας «κρατικός διακόπτης» (kill switch) αποτελεί σημαντική στροφή για έναν ηγέτη της Silicon Valley. Σύμφωνα με τον Amodei, οι κίνδυνοι που δικαιολογούν μια τέτοια παρέμβαση περιλαμβάνουν τη δυνατότητα των μοντέλων να βοηθήσουν στη δημιουργία βιολογικών όπλων, την εκτέλεση αυτόνομων κυβερνοεπιθέσεων μεγάλης κλίμακας ή την υπονόμευση των δημοκρατικών διαδικασιών μέσω εξελιγμένης παραπληροφόρησης.

Η Στρατηγική της Υπεύθυνης Κλιμάκωσης και το Κρατικό Βέτο

Η πρόταση του Amodei βασίζεται στην Πολιτική Υπεύθυνης Κλιμάκωσης (Responsible Scaling Policy - RSP) που έχει υιοθετήσει η Anthropic. Η πολιτική αυτή ορίζει συγκεκριμένα «επίπεδα ασφάλειας τεχνητής νοημοσύνης» (AI Safety Levels - ASL). Όταν ένα μοντέλο φτάνει σε ένα επίπεδο ικανοτήτων που θα μπορούσε να είναι καταστροφικό, η εταιρεία δεσμεύεται να μην το κυκλοφορήσει μέχρι να εφαρμοστούν επαρκή μέτρα προστασίας. Ο Amodei τώρα προτείνει αυτά τα εσωτερικά πρότυπα να γίνουν μέρος ενός ευρύτερου ρυθμιστικού πλαισίου.

«Δεν μπορούμε να βασιζόμαστε αποκλειστικά στην καλή θέληση των εταιρειών», ανέφερε χαρακτηριστικά. «Υπάρχει μια συλλογική δράση που πρέπει να αναληφθεί. Εάν μια εταιρεία αποφασίσει να αγνοήσει τους κινδύνους για να κερδίσει μερίδιο αγοράς, το κράτος πρέπει να είναι σε θέση να παρέμβει». Η θέση αυτή έρχεται σε άμεση αντίθεση με την προσέγγιση άλλων κολοσσών, όπως η Meta, η οποία προωθεί το μοντέλο ανοιχτού κώδικα (open source), υποστηρίζοντας ότι η διαφάνεια και η ευρεία πρόσβαση είναι η καλύτερη άμυνα ενάντια στους κινδύνους.

Ρυθμιστική Αιχμαλωσία ή Δημόσια Ασφάλεια;

Η πρόταση Amodei έχει ήδη προκαλέσει αντιδράσεις, με πολλούς αναλυτές να κάνουν λόγο για τον κίνδυνο της «ρυθμιστικής αιχμαλωσίας» (regulatory capture). Οι επικριτές υποστηρίζουν ότι οι μεγάλες εταιρείες όπως η Anthropic, η Google και η Microsoft επιδιώκουν αυστηρούς κανόνες όχι μόνο για την ασφάλεια, αλλά και για να υψώσουν ανυπέρβλητα εμπόδια εισόδου για μικρότερες νεοφυείς επιχειρήσεις. Εάν η κυκλοφορία ενός μοντέλου απαιτεί κρατική έγκριση, το κόστος συμμόρφωσης και ο χρόνος αναμονής θα μπορούσαν να εξοντώσουν τον ανταγωνισμό.

«Η ασφάλεια δεν πρέπει να γίνει το προπέτασμα καπνού για τον στραγγαλισμό της καινοτομίας», δηλώνουν κύκλοι της βιομηχανίας στην Ουάσιγκτον. «Χρειαζόμαστε κανόνες, αλλά όχι κανόνες που γράφονται από τους κυρίαρχους παίκτες για να προστατεύσουν τα δικά τους κέρδη».

Από την άλλη πλευρά, οι υποστηρικτές της πρότασης επισημαίνουν ότι η τεχνητή νοημοσύνη δεν είναι μια απλή τεχνολογία, αλλά μια «τεχνολογία γενικής χρήσης» με δυνατότητες που αγγίζουν την εθνική ασφάλεια. Παρομοιάζουν την κατάσταση με την πυρηνική ενέργεια ή τη φαρμακοβιομηχανία, όπου η κρατική έγκριση είναι απαραίτητη πριν από τη διάθεση ενός προϊόντος στην αγορά.

Το Γεωπολιτικό Σκάκι και η Επόμενη Μέρα

Ένα από τα πιο ακανθώδη ζητήματα που προκύπτουν είναι ο διεθνής ανταγωνισμός, ιδιαίτερα με την Κίνα. Εάν οι ΗΠΑ επιβάλουν αυστηρούς περιορισμούς και δώσουν στην κυβέρνηση το δικαίωμα βέτο, υπάρχει ο φόβος ότι η αμερικανική καινοτομία θα επιβραδυνθεί, επιτρέποντας σε άλλες χώρες να πάρουν το προβάδισμα. Ο Amodei, ωστόσο, υποστηρίζει ότι η ηγεσία στην ασφάλεια είναι εξίσου σημαντική με την ηγεσία στις επιδόσεις. Πιστεύει ότι ένα ασφαλές και αξιόπιστο μοντέλο θα έχει τελικά μεγαλύτερη οικονομική και στρατηγική αξία.

Η συζήτηση αυτή αναμένεται να κορυφωθεί στους επόμενους μήνες, καθώς το Κογκρέσο των ΗΠΑ και η Ευρωπαϊκή Ένωση εξετάζουν νέα νομοθετήματα για την επιβολή ελέγχων στα «μοντέλα αιχμής» (frontier models). Η δήλωση του Amodei τοποθετεί την Anthropic στην εμπροσθοφυλακή της ρυθμιστικής συζήτησης, αναγκάζοντας τους νομοθέτες να πάρουν θέση: Είναι έτοιμοι να αναλάβουν την ευθύνη για το τι επιτρέπεται να «σκεφτεί» και να «πράξει» μια μηχανή;

  • Η Anthropic προτείνει κρατικό έλεγχο σε μοντέλα με κινδύνους CBRN (Χημικούς, Βιολογικούς, Ραδιολογικούς, Πυρηνικούς).
  • Ο Amodei τονίζει ότι η αυτορρύθμιση έχει όρια όταν διακυβεύεται η εθνική ασφάλεια.
  • Η πρόταση ενισχύει το ρόλο των Ινστιτούτων Ασφάλειας ΤΝ (AI Safety Institutes) σε ΗΠΑ και Ηνωμένο Βασίλειο.
  • Υπάρχουν σοβαρές ανησυχίες για το αν αυτό θα πλήξει τις εταιρείες ανοιχτού κώδικα και τον ελεύθερο ανταγωνισμό.