Η εποχή όπου η Τεχνητή Νοημοσύνη (ΤΝ) αποτελούσε απλώς ένα θεωρητικό εργαλείο στα χέρια των στρατιωτικών αναλυτών έχει παρέλθει ανεπιστρεπτί. Σήμερα, η ΤΝ βρίσκεται στον πυρήνα της επόμενης επανάστασης στις στρατιωτικές υποθέσεις (RMA), επηρεάζοντας τα πάντα, από την εφοδιαστική αλυσίδα μέχρι τα συστήματα στόχευσης στο πεδίο της μάχης. Ωστόσο, στην Ουάσιγκτον, μια ετερόκλητη συμμαχία νομοθετών αρχίζει να εκφράζει έντονες ανησυχίες για την ταχύτητα με την οποία το Πεντάγωνο υιοθετεί αυτές τις τεχνολογίες χωρίς ένα σαφές ηθικό και νομικό πλαίσιο.
Σύμφωνα με πρόσφατες αναφορές από το NOTUS και άλλες πηγές του Καπιτωλίου, οι Αμερικανοί νομοθέτες επεξεργάζονται διατάξεις που θα θέσουν τις πρώτες πραγματικές «κόκκινες γραμμές» στη χρήση της ΤΝ από το Υπουργείο Άμυνας. Το διακύβευμα δεν είναι μόνο η αποτελεσματικότητα των όπλων, αλλά η ίδια η ουσία της ανθρώπινης ευθύνης στον πόλεμο.
Το Πυρηνικό Ταμπού και ο «Άνθρωπος στον Βρόχο»
Η πιο κρίσιμη από τις προτεινόμενες ρυθμίσεις αφορά τον έλεγχο των πυρηνικών όπλων. Υπάρχει μια αυξανόμενη συναίνεση μεταξύ των Δημοκρατικών και ορισμένων Ρεπουμπλικανών ότι η απόφαση για τη χρήση πυρηνικών όπλων πρέπει να παραμείνει αποκλειστικά ανθρώπινη. Παρά το γεγονός ότι το Πεντάγωνο έχει ήδη εσωτερικές οδηγίες που απαιτούν ανθρώπινη παρέμβαση, οι νομοθέτες επιδιώκουν να καταστήσουν αυτή την απαίτηση νόμο του κράτους.
Η ανησυχία πηγάζει από την πιθανότητα η ΤΝ να χρησιμοποιηθεί για την επιτάχυνση των διαδικασιών λήψης αποφάσεων σε περιόδους κρίσης. Αν ένας αλγόριθμος εντοπίσει μια υποτιθέμενη απειλή και προτείνει μια άμεση αντεπίθεση, ο χρόνος που έχει στη διάθεσή του ένας ηγέτης για να σκεφτεί μειώνεται δραματικά. Η νομοθετική πρωτοβουλία στοχεύει να διασφαλίσει ότι κανένας αλγόριθμος δεν θα μπορεί ποτέ να «πατήσει το κουμπί» αυτόνομα, ανεξάρτητα από το πόσο γρήγορα εξελίσσεται μια σύγκρουση.
Αυτόνομα Φονικά Συστήματα και το Ηθικό Κενό
Πέρα από τα πυρηνικά, η συζήτηση επεκτείνεται στα λεγόμενα Φονικά Αυτόνομα Οπλικά Συστήματα (LAWS). Αυτά είναι drones ή ρομποτικά συστήματα που μπορούν να επιλέξουν και να πλήξουν στόχους χωρίς άμεση ανθρώπινη εντολή. Ενώ το Πεντάγωνο υποστηρίζει ότι τέτοια συστήματα μπορούν να μειώσουν τις παράπλευρες απώλειες μέσω μεγαλύτερης ακρίβειας, οι επικριτές φοβούνται μια «αλγοριθμική διολίσθηση» όπου η ευθύνη για τη ζωή και το θάνατο μεταβιβάζεται σε κώδικα.
Οι προτεινόμενες τροπολογίες στον Νόμο περί Εξουσιοδότησης της Εθνικής Άμυνας (NDAA) ζητούν αυστηρότερη επίβλεψη και διαφάνεια στον τρόπο με τον οποίο εκπαιδεύονται αυτοί οι αλγόριθμοι. Υπάρχει ο φόβος ότι αν μια ΤΝ κάνει λάθος στο πεδίο της μάχης και διαπράξει ένα έγκλημα πολέμου, δεν θα υπάρχει κανένας νομικά υπεύθυνος. Το Κογκρέσο απαιτεί τώρα σαφείς πρωτοκόλλους για την απόδοση ευθυνών, διασφαλίζοντας ότι οι διοικητές παραμένουν υπόλογοι για τις πράξεις των μηχανών τους.
Ο Ανταγωνισμός με την Κίνα και το Δίλημμα της Καινοτομίας
Μια από τις μεγαλύτερες προκλήσεις για τους νομοθέτες είναι η ισορροπία μεταξύ ασφάλειας και ανταγωνιστικότητας. Η Κίνα επενδύει δισεκατομμύρια στην στρατιωτική ΤΝ, με στόχο να ξεπεράσει τις ΗΠΑ μέχρι το 2030. Πολλοί στο Πεντάγωνο και στην αμυντική βιομηχανία προειδοποιούν ότι οι υπερβολικοί περιορισμοί θα μπορούσαν να «δέσουν τα χέρια» των ΗΠΑ, αφήνοντάς τες ευάλωτες σε αντιπάλους που δεν δεσμεύονται από παρόμοιες ηθικές αναστολές.
Ωστόσο, η νέα τάση στο Κογκρέσο υποστηρίζει ότι η υπεύθυνη χρήση της ΤΝ είναι στην πραγματικότητα ένα στρατηγικό πλεονέκτημα. Ένα σύστημα ΤΝ που είναι αξιόπιστο, διαφανές και προβλέψιμο είναι πιο αποτελεσματικό σε βάθος χρόνου από ένα σύστημα που κινδυνεύει να προκαλέσει ακούσια κλιμάκωση. Η δημιουργία διεθνών προτύπων ξεκινά από την εγχώρια νομοθεσία, και οι ΗΠΑ ελπίζουν να ηγηθούν δια του παραδείγματος.
Διαφάνεια στις Προμήθειες και η Σχέση με τη Silicon Valley
Τέλος, οι νομοθέτες εξετάζουν το οικονομικό και επιχειρησιακό σκέλος της προμήθειας ΤΝ. Το Πεντάγωνο βασίζεται όλο και περισσότερο σε εμπορικές εταιρείες τεχνολογίας για την ανάπτυξη αυτών των συστημάτων. Αυτό δημιουργεί ερωτήματα σχετικά με την ιδιοκτησία των δεδομένων, την ασφάλεια του κώδικα και το κατά πόσον οι εταιρείες της Silicon Valley κατανοούν τις μοναδικές απαιτήσεις του στρατιωτικού περιβάλλοντος.
Οι νέες διατάξεις αναμένεται να απαιτούν από τους αναδόχους να παρέχουν περισσότερες πληροφορίες σχετικά με τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση της ΤΝ, προκειμένου να αποφευχθούν φαινόμενα προκατάληψης ή κενών ασφαλείας που θα μπορούσαν να γίνουν αντικείμενο εκμετάλλευσης από ξένες υπηρεσίες πληροφοριών. Η εποχή των «λευκών επιταγών» για αδιαφανή τεχνολογικά προγράμματα φαίνεται να πλησιάζει στο τέλος της, καθώς το Κογκρέσο διεκδικεί τον ρόλο του ως ελεγκτής της δύναμης του Πενταγώνου στην ψηφιακή εποχή.
