Σε μια εποχή όπου η τεχνολογική υπεροχή μεταφράζεται όλο και περισσότερο σε αλγοριθμική ισχύ, οι προειδοποιήσεις από τα υψηλότερα κλιμάκια του στρατιωτικού κατεστημένου αποκτούν μια ιδιαίτερη, σχεδόν υπαρξιακή βαρύτητα. Ο Στρατηγός Bryan Fenton, επικεφαλής της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ (SOCOM), έθεσε πρόσφατα το δάκτυλο επί τον τύπον των ήλων, υπογραμμίζοντας ότι η ενσωμάτωση της Τεχνητής Νοημοσύνης (ΤΝ) στα οπλικά συστήματα πρέπει να συνοδεύεται από μια αδιαπραγμάτευτη εγγύηση: η βία πρέπει να ασκείται αποκλειστικά εκεί που υπάρχει πρόθεση.
Η δήλωση αυτή, που δημοσιεύθηκε αρχικά στο Fortune, δεν αποτελεί απλώς μια τεχνική παρατήρηση, αλλά μια βαθιά ηθική και στρατηγική τοποθέτηση. Καθώς τα αυτόνομα συστήματα και οι αλγόριθμοι στόχευσης γίνονται ταχύτεροι από την ανθρώπινη σκέψη, το ερώτημα δεν είναι πλέον αν η ΤΝ μπορεί να σκοτώσει, αλλά αν μπορεί να το κάνει με την ίδια «διακριτική ευχέρεια» και ηθική ευθύνη που απαιτείται από έναν εκπαιδευμένο στρατιώτη.
Η Ηθική της «Προγραμματισμένης» Βίας
Η έννοια της «πρόθεσης» στον πόλεμο είναι το θεμέλιο του Διεθνούς Ανθρωπιστικού Δικαίου. Όταν ένας στρατιώτης λαμβάνει την απόφαση να πυροβολήσει, η απόφαση αυτή φιλτράρεται μέσα από την εκπαίδευση, τους κανόνες εμπλοκής και, τελικά, την ανθρώπινη συνείδηση. Στην περίπτωση της ΤΝ, η «πρόθεση» είναι μια μαθηματική πιθανότητα. Ο Στρατηγός Fenton επισημαίνει ότι η βιομηχανία και ο στρατός πρέπει να διασφαλίσουν ότι δεν θα υπάρξει «διαρροή» βίας σε μη επιθυμητούς στόχους λόγω σφαλμάτων στα δεδομένα ή «παραισθήσεων» των μοντέλων.
Το πρόβλημα έγκειται στο λεγόμενο «μαύρο κουτί» (black box) των νευρωνικών δικτύων. Αν ένας αλγόριθμος αποφασίσει ότι ένα πολιτικό όχημα αποτελεί απειλή λόγω μιας λανθασμένης συσχέτισης στα δεδομένα εκπαίδευσής του, η βία που θα ασκηθεί θα είναι ακριβής ως προς την εκτέλεση, αλλά λανθασμένη ως προς την πρόθεση. Η πρόκληση για τις Ειδικές Δυνάμεις, που συχνά επιχειρούν σε πυκνοκατοικημένες περιοχές και ασαφή περιβάλλοντα, είναι να διατηρήσουν τον έλεγχο σε ένα σύστημα που έχει σχεδιαστεί να λειτουργεί με ταχύτητες που ξεπερνούν τον ανθρώπινο έλεγχο (human-in-the-loop).
Η Ταχύτητα του Πολέμου έναντι της Ανθρώπινης Κρίσης
Ένα από τα κύρια επιχειρήματα υπέρ της ΤΝ στο πεδίο της μάχης είναι η μείωση του χρόνου από τον εντοπισμό έως την εξουδετέρωση (sensor-to-shooter cycle). Σε έναν πόλεμο με αντιπάλους όπως η Κίνα ή η Ρωσία, τα δευτερόλεπτα μπορεί να σημαίνουν τη διαφορά μεταξύ νίκης και ήττας. Ωστόσο, αυτή η ανάγκη για ταχύτητα έρχεται σε άμεση σύγκρουση με την ανάγκη για προσεκτική αξιολόγηση.
- Δεδομένα και Αξιοπιστία: Η ΤΝ είναι τόσο καλή όσο τα δεδομένα της. Σε συνθήκες πολέμου, τα δεδομένα είναι συχνά ελλιπή, παραπλανητικά ή σκόπιμα αλλοιωμένα από τον εχθρό.
- Ηθική Λογοδοσία: Ποιος φέρει την ευθύνη για ένα αυτόνομο πλήγμα που οδήγησε σε απώλειες αμάχων; Ο προγραμματιστής, ο διοικητής που ενέκρινε τη χρήση του συστήματος ή ο ίδιος ο αλγόριθμος;
- Ψυχολογική Αποστασιοποίηση: Η χρήση ΤΝ κινδυνεύει να μετατρέψει τον πόλεμο σε μια άσκηση διαχείρισης δεδομένων, απομονώνοντας τους λήπτες αποφάσεων από την οδυνηρή πραγματικότητα της βίας.
Ο Fenton υποστηρίζει ότι η ΤΝ πρέπει να λειτουργεί ως «ενισχυτής» της ανθρώπινης ικανότητας και όχι ως αντικαταστάτης της. Οι Ειδικές Δυνάμεις βασίζονται στην κρίση και την προσαρμοστικότητα – χαρακτηριστικά που η τρέχουσα γενιά ΤΝ δυσκολεύεται να αναπαράγει με συνέπεια.
Ο Γεωπολιτικός Ανταγωνισμός και το «Δίλημμα του Πυρηνικού Όπλου»
Η συζήτηση για την ΤΝ στα όπλα θυμίζει έντονα τις απαρχές της πυρηνικής εποχής. Υπάρχει ένας παγκόσμιος αγώνας δρόμου για την ανάπτυξη «φονικών αυτόνομων οπλικών συστημάτων» (LAWS). Αν οι ΗΠΑ επιβάλλουν αυστηρούς ηθικούς περιορισμούς στην ΤΝ τους, ενώ οι αντίπαλοί τους όχι, κινδυνεύουν να βρεθούν σε μειονεκτική θέση. Παρόλα αυτά, η ηθική υπεροχή και η αποφυγή παράπλευρων απωλειών δεν είναι μόνο ζήτημα ανθρωπισμού, αλλά και στρατηγικής επιβίωσης: η αλόγιστη βία τροφοδοτεί την αντίσταση και υπονομεύει τις συμμαχίες.
«Πρέπει να είμαστε απόλυτα σίγουροι ότι η τεχνολογία αυτή θα παραδώσει τη βία μόνο εκεί που την προορίζουμε», δήλωσε ο Fenton, θέτοντας το πλαίσιο για μια νέα εποχή στρατιωτικής δεοντολογίας.
Συμπερασματικά, η ενσωμάτωση της ΤΝ στις Ειδικές Επιχειρήσεις δεν είναι απλώς μια αναβάθμιση εξοπλισμού. Είναι μια επαναδιαπραγμάτευση του κοινωνικού συμβολαίου μεταξύ του κράτους, του στρατού και της τεχνολογίας. Η διασφάλιση ότι η «πρόθεση» παραμένει ανθρώπινη, ακόμη και αν η εκτέλεση είναι μηχανική, θα είναι η μεγαλύτερη πρόκληση του 21ου αιώνα.
