Καθώς η τεχνολογία της Τεχνητής Νοημοσύνης (ΤΝ) ενσωματώνεται με ταχύτατους ρυθμούς στα σύγχρονα οπλικά συστήματα, η διεθνής κοινότητα βρίσκεται μπροστά σε ένα υπαρξιακό ερώτημα: Ποιος πατάει τη σκανδάλη όταν ο στόχος αναγνωρίζεται από έναν αλγόριθμο; Την απάντηση σε αυτό το ερώτημα επιχειρεί να δώσει ο Γερουσιαστής Mark Kelly από την Αριζόνα, μέσω μιας τροπολογίας στο νομοσχέδιο για την Εθνική Άμυνα (NDAA), η οποία θέτει ως απαράβατο όρο την «τελική ανθρώπινη ευθύνη» στην αποκαλούμενη «αλυσίδα εξόντωσης» (kill chain).

Ο Kelly, πρώην αστροναύτης και πιλότος του Ναυτικού, γνωρίζει καλά ότι η ταχύτητα του πεδίου της μάχης συχνά ξεπερνά την ανθρώπινη αντίληψη. Ωστόσο, η τροπολογία του δεν αποτελεί απλώς μια γραφειοκρατική προσθήκη, αλλά μια ηθική οριοθέτηση απέναντι στην πλήρη αυτοματοποίηση του θανάτου. Η κίνηση αυτή έρχεται σε μια στιγμή που το Πεντάγωνο επενδύει δισεκατομμύρια σε προγράμματα όπως το Replicator, το οποίο στοχεύει στην ανάπτυξη χιλιάδων αυτόνομων συστημάτων χαμηλού κόστους.

Η Ανατομία της «Αλυσίδας Εξόντωσης»

Στη στρατιωτική ορολογία, η «αλυσίδα εξόντωσης» περιλαμβάνει τα στάδια του εντοπισμού, της παρακολούθησης, της στοχοποίησης και της τελικής προσβολής ενός αντιπάλου. Η ΤΝ μπορεί ήδη να επιταχύνει τα πρώτα στάδια με ακρίβεια που ξεπερνά τον άνθρωπο, αναλύοντας δορυφορικές εικόνες και δεδομένα αισθητήρων σε χιλιοστά του δευτερολέπτου. Το πρόβλημα προκύπτει στο τελευταίο στάδιο: την απόφαση για τη χρήση θανατηφόρου βίας.

Η τροπολογία Kelly απαιτεί από το Υπουργείο Άμυνας να διασφαλίσει ότι ένας άνθρωπος θα έχει πάντα την εποπτεία και τη δυνατότητα παρέμβασης. Αυτό που οι ειδικοί ονομάζουν «Human-in-the-loop» (άνθρωπος στον βρόχο) ή «Human-on-the-loop» (άνθρωπος πάνω από τον βρόχο). Η διάκριση είναι λεπτή αλλά ουσιαστική. Στην πρώτη περίπτωση, η μηχανή περιμένει την εντολή. Στη δεύτερη, η μηχανή ενεργεί αυτόνομα αλλά ο άνθρωπος μπορεί να την σταματήσει. Η τροπολογία Kelly κλίνει προς την αυστηρότερη εκδοχή της ευθύνης, φοβούμενη ότι η υπερβολική εμπιστοσύνη στους αλγορίθμους θα μπορούσε να οδηγήσει σε τραγικά λάθη χωρίς υπεύθυνο.

Το Νομικό Κενό και η Ηθική της Λογοδοσίας

Ένα από τα ισχυρότερα επιχειρήματα υπέρ της τροπολογίας είναι το «κενό λογοδοσίας». Εάν ένα αυτόνομο drone βομβαρδίσει κατά λάθος έναν άμαχο πληθυσμό λόγω ενός σφάλματος στον κώδικα (bug) ή μιας λανθασμένης εκπαίδευσης του μοντέλου μηχανικής μάθησης, ποιος δικάζεται; Ο προγραμματιστής; Ο κατασκευαστής; Ο διοικητής που έδωσε την άδεια για την αποστολή; Η διεθνής νομοθεσία περί πολέμου βασίζεται στην αρχή της πρόθεσης και της διάκρισης, έννοιες που η ΤΝ, ως μαθηματικό μοντέλο, δεν μπορεί να κατανοήσει με τον τρόπο που τις αντιλαμβάνεται η ανθρώπινη συνείδηση.

«Δεν μπορούμε να αναθέσουμε την ηθική μας πυξίδα σε ένα λογισμικό, όσο εξελιγμένο κι αν είναι», αναφέρουν πηγές προσκείμενες στο γραφείο του Γερουσιαστή. «Η ευθύνη για την αφαίρεση μιας ζωής πρέπει να παραμείνει ένα βάρος που μόνο ένας άνθρωπος μπορεί να φέρει».

Ωστόσο, υπάρχουν και οι αντίφωνες φωνές. Ορισμένοι αναλυτές υποστηρίζουν ότι η απαίτηση για ανθρώπινη παρέμβαση σε κάθε βήμα θα μπορούσε να καταστήσει τις αμερικανικές δυνάμεις ευάλωτες απέναντι σε αντιπάλους, όπως η Κίνα ή η Ρωσία, που ίσως δεν υιοθετήσουν παρόμοιους περιορισμούς. Σε έναν πόλεμο που εξελίσσεται με την ταχύτητα του φωτός (cyber-warfare και hypersonic missiles), η ανθρώπινη αντίδραση μπορεί να θεωρηθεί το «αδύναμο σημείο» του συστήματος.

Γεωπολιτικές Επιπτώσεις και η Κούρσα των Εξοπλισμών

Η πρωτοβουλία Kelly δεν αφορά μόνο την εσωτερική πολιτική των ΗΠΑ, αλλά στέλνει ένα μήνυμα παγκοσμίως. Αν η υπερδύναμη που ηγείται στην τεχνολογία ΤΝ θέσει αυστηρά όρια, δημιουργεί ένα προηγούμενο για διεθνείς συνθήκες, παρόμοιες με αυτές για τα χημικά όπλα ή τις νάρκες ξηράς. Το 2026 αποτελεί έτος καμπής, καθώς η χρήση drones με δυνατότητες ΤΝ σε συγκρούσεις στην Ανατολική Ευρώπη και τη Μέση Ανατολή έχει ήδη δείξει ότι η θεωρία απέχει ελάχιστα από την πράξη.

Η πρόκληση για το Πεντάγωνο θα είναι η εφαρμογή αυτής της τροπολογίας χωρίς να θυσιαστεί η επιχειρησιακή αποτελεσματικότητα. Η λύση ίσως βρίσκεται στην «επικοινωνία ανθρώπου-μηχανής» (human-machine teaming), όπου η ΤΝ λειτουργεί ως ενισχυτής της ανθρώπινης κρίσης και όχι ως αντικαταστάτης της. Η τροπολογία του Kelly ουσιαστικά ζητά από την τεχνολογία να προσαρμοστεί στην ανθρώπινη ηθική, και όχι το αντίστροφο.

Συμπερασματικά, η μάχη για την τροπολογία Kelly είναι μια μάχη για την ψυχή του σύγχρονου πολέμου. Σε έναν κόσμο όπου οι αλγόριθμοι μπορούν να αποφασίζουν για τις επενδύσεις μας, την ενημέρωσή μας και την κοινωνική μας δικτύωση, η διατήρηση του ανθρώπινου ελέγχου πάνω στην τελική απόφαση της ζωής και του θανάτου είναι ίσως η σημαντικότερη γραμμή άμυνας που έχουμε τραβήξει ποτέ.