Η αυγή της 2ας Φεβρουαρίου 2024 σηματοδότησε μια νέα εποχή στην ιστορία του πολέμου. Καθώς τα αμερικανικά αεροσκάφη εξαπέλυαν πλήγματα εναντίον δυνάμεων που υποστηρίζονται από το Ιράν στο Ιράκ και τη Συρία, κάτι θεμελιώδες είχε αλλάξει στα παρασκήνια. Μέσα σε μόλις 24 ώρες, ο στρατός των ΗΠΑ έπληξε περισσότερους από 1.000 στόχους. Για να αντιληφθεί κανείς το μέγεθος, πρόκειται για σχεδόν διπλάσια κλίμακα από την περίφημη επιχείρηση «Shock and Awe» (Σοκ και Δέος) στο Ιράκ πριν από δύο δεκαετίες. Αυτή η πρωτοφανής επιτάχυνση δεν οφειλόταν σε περισσότερα αεροπλάνα ή βόμβες, αλλά σε έναν αλγόριθμο: το Project Maven.

Η Γέννηση μιας Αμφιλεγόμενης Συμμαχίας

Το Project Maven ξεκίνησε το 2017 ως μια προσπάθεια του Πενταγώνου να λύσει ένα πολύ πρακτικό πρόβλημα: τον τεράστιο όγκο δεδομένων βίντεο από drones που κανένας άνθρωπος δεν μπορούσε να παρακολουθήσει πλήρως. Η αρχική συνεργασία με τη Google προκάλεσε θύελλα αντιδράσεων. Χιλιάδες εργαζόμενοι της εταιρείας υπέγραψαν επιστολές διαμαρτυρίας, υποστηρίζοντας ότι η τεχνολογία τους δεν πρέπει να χρησιμοποιείται για «τη δουλειά του πολέμου». Η Google τελικά αποσύρθηκε, αλλά το κενό καλύφθηκε γρήγορα από εταιρείες όπως η Palantir και η Amazon, σηματοδοτώντας μια νέα, στενότερη σχέση μεταξύ Silicon Valley και Υπουργείου Άμυνας.

Το Maven δεν είναι απλώς ένα λογισμικό· είναι ένα οικοσύστημα. Χρησιμοποιεί την τεχνολογία υπολογιστικής όρασης (computer vision) για να αναγνωρίζει αυτόματα αντικείμενα σε δορυφορικές εικόνες και πλάνα από drones. Αυτό που κάποτε απαιτούσε ώρες ανάλυσης από δεκάδες αξιωματικούς πληροφοριών, τώρα γίνεται σε δευτερόλεπτα. Το σύστημα μπορεί να ξεχωρίσει ένα φορτηγό από ένα τανκ, ή έναν ένοπλο μαχητή από έναν πολίτη, τροφοδοτώντας την «αλυσίδα εξόντωσης» (kill chain) με δεδομένα σε πραγματικό χρόνο.

Η Ουκρανία ως το Μεγάλο Εργαστήριο

Αν το Maven γεννήθηκε στα εργαστήρια, ανδρώθηκε στα πεδία των μαχών της Ουκρανίας. Η σύγκρουση με τη Ρωσία αποτέλεσε το ιδανικό «ζωντανό εργαστήριο» για τη δοκιμή αυτών των συστημάτων σε συνθήκες υψηλής έντασης. Εκεί, η ανάγκη για ταχύτητα είναι ζήτημα επιβίωσης. Οι Ουκρανοί διοικητές, χρησιμοποιώντας δυτικά συστήματα βασισμένα στο Maven, κατάφεραν να συνδυάσουν δεδομένα από εμπορικούς δορυφόρους, drones και πληροφορίες από το έδαφος σε μια ενιαία ψηφιακή εικόνα του πεδίου μάχης.

«Η τεχνητή νοημοσύνη δεν αντικαθιστά τον στρατιώτη, αλλά του δίνει τη δυνατότητα να βλέπει μέσα από την ομίχλη του πολέμου με μια διαύγεια που ήταν αδιανόητη πριν από δέκα χρόνια», αναφέρουν πηγές του Πενταγώνου.

Ωστόσο, αυτή η «διαύγεια» φέρει μαζί της και νέους κινδύνους. Η ταχύτητα με την οποία το Maven Smart —η τελευταία εξέλιξη του συστήματος— προτείνει στόχους, δημιουργεί μια πίεση στους ανθρώπους-χειριστές. Όταν το σύστημα σου παρουσιάζει 100 πιθανούς στόχους το λεπτό, πόσο ουσιαστική μπορεί να είναι η ανθρώπινη επίβλεψη; Αυτό είναι το κεντρικό ερώτημα που απασχολεί τους ηθικολόγους της τεχνολογίας.

Η Ηθική της Αυτοματοποιημένης Στοχοποίησης

Το Πεντάγωνο επιμένει ότι υπάρχει πάντα ένας «άνθρωπος στον βρόχο» (human-in-the-loop). Κάθε απόφαση για πλήγμα λαμβάνεται τελικά από έναν αξιωματικό. Όμως, οι επικριτές προειδοποιούν για το φαινόμενο της «προκατάληψης αυτοματισμού» (automation bias): την τάση των ανθρώπων να εμπιστεύονται τυφλά τις υποδείξεις μιας μηχανής, ειδικά σε συνθήκες ακραίου στρες.

  • Λογοδοσία: Ποιος ευθύνεται αν ένας αλγόριθμος μπερδέψει ένα σχολικό λεωφορείο με ένα στρατιωτικό όχημα;
  • Διαφάνεια: Οι αλγόριθμοι του Maven είναι «μαύρα κουτιά» για τους περισσότερους χρήστες, καθιστώντας δύσκολο τον έλεγχο των λαθών τους.
  • Κλιμάκωση: Η ικανότητα διεξαγωγής πολέμου με τέτοια ταχύτητα μπορεί να κάνει την προσφυγή στη βία μια «εύκολη» λύση για τους πολιτικούς ηγέτες.

Η περίπτωση του Maven δείχνει ότι ο στρατός δεν έμαθε απλώς να «αγαπά» την Τεχνητή Νοημοσύνη, αλλά έχει γίνει εξαρτημένος από αυτήν. Η εποχή όπου ο πόλεμος διεξαγόταν με ανθρώπινους ρυθμούς έχει παρέλθει ανεπιστρεπτί. Πλέον, η ισχύς μιας υπερδύναμης δεν μετριέται μόνο σε πυρηνικές κεφαλές, αλλά σε flops και ποιότητα δεδομένων.

Το Μέλλον: Από την Αναγνώριση στην Πρόβλεψη

Το επόμενο βήμα για το Project Maven και τα παρεμφερή προγράμματα είναι η προγνωστική ανάλυση. Ο στρατός δεν θέλει πλέον μόνο να ξέρει πού βρίσκεται ο εχθρός τώρα, αλλά πού θα βρίσκεται σε δύο ώρες. Χρησιμοποιώντας τεράστιες βάσεις δεδομένων ιστορικών κινήσεων, η ΤΝ αρχίζει να μοντελοποιεί την ανθρώπινη συμπεριφορά στο πεδίο της μάχης. Αυτή η εξέλιξη μετατρέπει τον πόλεμο από μια σειρά τακτικών συγκρούσεων σε ένα γιγαντιαίο πρόβλημα βελτιστοποίησης δεδομένων. Η πρόκληση για την ανθρωπότητα παραμένει: πώς θα διασφαλίσουμε ότι, μέσα σε αυτή την ψηφιακή καταιγίδα, η ανθρώπινη κρίση και οι ηθικές αξίες δεν θα θεωρηθούν απλώς «θόρυβος» στο σύστημα.