Η σχέση μεταξύ της Silicon Valley και του Πενταγώνου υπήρξε ιστορικά μια ισορροπία τρόμου και ευκαιρίας. Ωστόσο, η ανάδυση της Anthropic, μιας εταιρείας που ιδρύθηκε με γνώμονα την «ασφάλεια» και την «ηθική» της τεχνητής νοημοσύνης, φέρνει στο προσκήνιο μια πρωτοφανή ρήξη με την αμερικανική κυβέρνηση. Στο επίκεντρο της διαμάχης βρίσκεται ο έλεγχος των μοντέλων Claude σε απόρρητα προγράμματα, όπου οι απαιτήσεις για απόλυτη εθνική κυριαρχία συγκρούονται με την επιθυμία της εταιρείας να διατηρήσει τις «συνταγματικές» δικλείδες ασφαλείας της.
Η «Συνταγματική» Τεχνητή Νοημοσύνη υπό Πίεση
Η Anthropic έχει οικοδομήσει τη φήμη της πάνω στην έννοια της Constitutional AI (Συνταγματική ΤΝ). Πρόκειται για μια μέθοδο εκπαίδευσης όπου το μοντέλο ακολουθεί ένα σύνολο αρχών για να αυτο-διορθώνεται, αποφεύγοντας επιβλαβή ή μεροληπτικά αποτελέσματα. Ενώ αυτό είναι επιθυμητό στον εμπορικό τομέα, στις απόρρητες στρατιωτικές επιχειρήσεις και τις υπηρεσίες πληροφοριών, οι περιορισμοί αυτοί θεωρούνται από πολλούς στην Ουάσιγκτον ως «τροχοπέδη».
Σύμφωνα με πηγές που γνωρίζουν τις διαπραγματεύσεις, η αμερικανική κυβέρνηση πιέζει για πρόσβαση στα «βάρη» (weights) των μοντέλων και για τη δυνατότητα παράκαμψης ορισμένων ηθικών φίλτρων που θα μπορούσαν να εμποδίσουν την ανάλυση πληροφοριών σε εμπόλεμες ζώνες. Η Anthropic, από την πλευρά της, φοβάται ότι μια τέτοια παραχώρηση θα μπορούσε να οδηγήσει σε κατάχρηση της τεχνολογίας της, μετατρέποντας ένα εργαλείο υποστήριξης σε ένα αυτόνομο όπλο χωρίς ηθικές αναστολές.
Ο Παράγοντας της Κίνας και η Γεωπολιτική Επιτάχυνση
Η πίεση που ασκείται στην Anthropic δεν είναι τυχαία. Η Ουάσιγκτον παρακολουθεί με κομμένη την ανάσα την πρόοδο της Κίνας στον τομέα της στρατιωτικής ΑΙ. Το Πεκίνο δεν δεσμεύεται από ηθικά πλαίσια παρόμοια με αυτά της Δύσης, γεγονός που δημιουργεί ένα αίσθημα επείγοντος στο Υπουργείο Άμυνας των ΗΠΑ. Η ρήξη με την Anthropic αντικατοπτρίζει μια ευρύτερη αγωνία: μπορεί η δημοκρατική Δύση να παραμείνει ανταγωνιστική αν επιβάλει αυστηρούς ηθικούς περιορισμούς στα όπλα του μέλλοντος;
- Η ανάγκη για επεξεργασία τεράστιου όγκου δεδομένων σε πραγματικό χρόνο.
- Η χρήση της ΑΙ για την πρόβλεψη κινήσεων του αντιπάλου σε τακτικό επίπεδο.
- Ο κίνδυνος «δηλητηρίασης» των μοντέλων από εχθρικούς παράγοντες.
Οι ΗΠΑ επιδιώκουν να ενσωματώσουν το Claude σε «κλειστά» (air-gapped) δίκτυα, όπου η εταιρεία δεν θα έχει καμία εποπτεία. Αυτή η έλλειψη ελέγχου είναι το σημείο μηδέν της διαφωνίας. Η Anthropic υποστηρίζει ότι χωρίς τη συνεχή παρακολούθηση της συμπεριφοράς του μοντέλου, οι κίνδυνοι για «παραισθήσεις» (hallucinations) ή απρόβλεπτες ενέργειες αυξάνονται γεωμετρικά.
Το Στρατιωτικό-Βιομηχανικό Σύμπλεγμα στην Εποχή του Λογισμικού
Ιστορικά, το στρατιωτικό-βιομηχανικό σύμπλεγμα βασιζόταν σε υλικό (hardware) – αεροπλάνα, πλοία, πυραύλους. Σήμερα, η ισχύς μετατοπίζεται στο λογισμικό και τους αλγορίθμους. Εταιρείες όπως η Anthropic, η OpenAI και η Palantir είναι οι νέοι «εθνικοί πρωταθλητές». Όμως, σε αντίθεση με την Boeing ή τη Lockheed Martin, αυτές οι εταιρείες έχουν μια κουλτούρα που συχνά έρχεται σε αντίθεση με τη στρατιωτική ιεραρχία.
«Δεν πρόκειται απλώς για μια εμπορική συμφωνία, αλλά για τον καθορισμό των ηθικών ορίων της αμερικανικής ισχύος στον 21ο αιώνα», δηλώνει ανώτατος αναλυτής αμυντικής πολιτικής.
Η ρήξη αυτή αναδεικνύει επίσης το κενό νομοθεσίας. Ενώ η εκτελεστική εντολή του Προέδρου Μπάιντεν για την ΑΙ έθεσε κάποιες βάσεις, δεν προέβλεψε το βάθος της σύγκρουσης μεταξύ ιδιωτικής ηθικής και κρατικής ανάγκης. Το αποτέλεσμα αυτής της αντιπαράθεσης θα καθορίσει αν η ΑΙ θα παραμείνει ένα ελεγχόμενο εργαλείο ή αν θα εξελιχθεί σε μια ανεξέλεγκτη δύναμη στα χέρια των κρατικών μηχανισμών.
Συμπέρασμα: Μια Εύθραυστη Ισορροπία
Η Anthropic βρίσκεται σε ένα σταυροδρόμι. Αν υποχωρήσει στις απαιτήσεις της κυβέρνησης, κινδυνεύει να χάσει την ταυτότητά της ως η «ασφαλής» εναλλακτική στην ΑΙ. Αν αρνηθεί, κινδυνεύει να αποκλειστεί από τα τεράστια κονδύλια του αμυντικού προϋπολογισμού και να θεωρηθεί «μη συνεργάσιμη» σε θέματα εθνικής προτεραιότητας. Η λύση πιθανότατα θα βρεθεί σε μια μέση οδό τεχνικών συμβιβασμών, αλλά η εμπιστοσύνη μεταξύ των δύο πλευρών έχει ήδη κλονιστεί σοβαρά.
