Στην καρδιά μιας νέας, αχαρτογράφητης διπλωματικής εποχής, οι δύο υπερδυνάμεις του πλανήτη, οι Ηνωμένες Πολιτείες και η Κίνα, βρίσκονται σε μια διαδικασία που θυμίζει τις πιο κρίσιμες στιγμές του Ψυχρού Πολέμου. Αυτή τη φορά, ωστόσο, ο εχθρός δεν είναι μόνο η ιδεολογία ή τα πυρηνικά οπλοστάσια, αλλά η απρόβλεπτη φύση της Τεχνητής Νοημοσύνης (ΤΝ). Καθώς πλησιάζει η επόμενη σύνοδος κορυφής, οι πληροφορίες αναφέρουν ότι οι δύο πλευρές εργάζονται εντατικά για τη δημιουργία «ελέγχων κρίσης» (crisis controls) που θα αποτρέψουν μια τυχαία κλιμάκωση που θα μπορούσε να προκληθεί από αυτόνομα συστήματα ή αλγοριθμικά σφάλματα.
Η Στρατηγική της «Ψηφιακής Κόκκινης Γραμμής»
Η ανάγκη για έναν δίαυλο επικοινωνίας σχετικά με την ΤΝ πηγάζει από τον φόβο του λεγόμενου «Flash War» – ενός αστραπιαίου πολέμου που ξεκινά και κλιμακώνεται σε χιλιοστά του δευτερολέπτου, προτού οι άνθρωποι προλάβουν καν να αντιληφθούν τι συνέβη. Στο επίκεντρο των συζητήσεων βρίσκεται η δέσμευση ότι η λήψη αποφάσεων για τη χρήση πυρηνικών όπλων θα παραμείνει αποκλειστικά υπό ανθρώπινο έλεγχο (human-in-the-loop). Αυτό που κάποτε θεωρούνταν σενάριο επιστημονικής φαντασίας, αποτελεί πλέον επείγουσα προτεραιότητα για τους επιτελείς των δύο κρατών.
Οι προτεινόμενοι μηχανισμοί περιλαμβάνουν τη δημιουργία μιας «ψηφιακής κόκκινης γραμμής», παρόμοιας με το τηλέφωνο που συνέδεε την Ουάσιγκτον με τη Μόσχα μετά την κρίση των πυραύλων στην Κούβα. Αυτή η νέα γραμμή δεν θα εξυπηρετεί μόνο την πολιτική επικοινωνία, αλλά θα επιτρέπει στους επιστήμονες και τους στρατιωτικούς αναλυτές να ανταλλάσσουν δεδομένα σε πραγματικό χρόνο για την αποσαφήνιση αλγοριθμικών ανωμαλιών που θα μπορούσαν να εκληφθούν ως εχθρικές ενέργειες.
Αυτόνομα Όπλα και η Ηθική της Ισχύος
Ένα από τα πιο ακανθώδη ζητήματα είναι η χρήση αυτόνομων φονικών συστημάτων (LAWS). Ενώ και οι δύο χώρες επενδύουν δισεκατομμύρια στην ανάπτυξη drones και υποβρυχίων που καθοδηγούνται από ΤΝ, υπάρχει μια αυξανόμενη συνειδητοποίηση ότι η έλλειψη κανόνων εμπλοκής αποτελεί κίνδυνο για όλους. Το Πεκίνο, αν και παραδοσιακά πιο επιφυλακτικό στις διεθνείς επιθεωρήσεις, φαίνεται να αναγνωρίζει ότι η αστάθεια που προκαλεί η ΤΝ μπορεί να υπονομεύσει την εσωτερική του ασφάλεια και την οικονομική του ανάπτυξη.
Οι συζητήσεις επικεντρώνονται επίσης στη διαφάνεια των αλγορίθμων. Πώς μπορεί μια πλευρά να είναι σίγουρη ότι η ΤΝ της άλλης δεν είναι προγραμματισμένη για «πρώτο πλήγμα» σε περίπτωση κυβερνοεπίθεσης; Η απάντηση ίσως βρίσκεται σε κοινά πρωτόκολλα δοκιμών και αξιολόγησης κινδύνου, αν και η αμοιβαία δυσπιστία παραμένει το μεγαλύτερο εμπόδιο. Η Ουάσιγκτον φοβάται την κλοπή πνευματικής ιδιοκτησίας, ενώ το Πεκίνο φοβάται τον τεχνολογικό αποκλεισμό που επιβάλλουν οι ΗΠΑ μέσω των περιορισμών στις εξαγωγές ημιαγωγών.
Η Γεωπολιτική των Ημιαγωγών και η ΤΝ
Δεν μπορεί να υπάρξει συζήτηση για την ΤΝ χωρίς αναφορά στην υλική της βάση: τα τσιπ. Η στρατηγική των ΗΠΑ να περιορίσουν την πρόσβαση της Κίνας σε προηγμένους ημιαγωγούς (όπως αυτοί της Nvidia) αποτελεί το υπόβαθρο αυτών των διαπραγματεύσεων. Η Κίνα χρησιμοποιεί την ανάγκη για παγκόσμια σταθερότητα στην ΤΝ ως μοχλό πίεσης για να χαλαρώσουν αυτοί οι περιορισμοί, υποστηρίζοντας ότι η «ασφαλής ΤΝ» απαιτεί πρόσβαση στην καλύτερη δυνατή τεχνολογία.
Από την άλλη πλευρά, οι ΗΠΑ υποστηρίζουν ότι η υπεύθυνη ανάπτυξη της ΤΝ δεν εξαρτάται από την υπολογιστική ισχύ, αλλά από τα δημοκρατικά πρότυπα και τη λογοδοσία. Αυτό το χάσμα αξιών καθιστά τις συνομιλίες για τον έλεγχο των κρίσεων εξαιρετικά δύσκολες. Παρόλα αυτά, η ύπαρξη και μόνο αυτών των συνομιλιών αποτελεί ένα θετικό βήμα, καθώς υποδηλώνει ότι και οι δύο πλευρές αντιλαμβάνονται πως ένας πόλεμος που ξεκινά από ένα σφάλμα κώδικα δεν θα έχει νικητή.
- Η διατήρηση του ανθρώπινου ελέγχου στα πυρηνικά συστήματα είναι η κορυφαία προτεραιότητα.
- Η δημιουργία «ανοιχτών γραμμών» για την ΤΝ μπορεί να αποτρέψει την κλιμάκωση από παρεξηγήσεις.
- Ο ανταγωνισμός για τους ημιαγωγούς παραμένει το κεντρικό σημείο τριβής.
- Η διεθνής κοινότητα πιέζει για ένα παγκόσμιο πλαίσιο δεοντολογίας στην πολεμική ΤΝ.
Συμπερασματικά, η επερχόμενη σύνοδος δεν αφορά μόνο το εμπόριο ή τα σύνορα, αλλά τη διαχείριση μιας δύναμης που μπορεί να ξεπεράσει τον δημιουργό της. Η επιτυχία αυτών των ελέγχων κρίσης θα καθορίσει αν η Τεχνητή Νοημοσύνη θα είναι το εργαλείο που θα οδηγήσει σε μια νέα εποχή ευημερίας ή η θρυαλλίδα μιας καταστροφής που κανείς δεν επιδίωξε.
