Η φύση του πολέμου αλλάζει με ταχύτητα που ξεπερνά τη δυνατότητα των διεθνών θεσμών να την παρακολουθήσουν. Από τους ουρανούς της Ουκρανίας μέχρι τις αστικές ζώνες της Γάζας, η Τεχνητή Νοημοσύνη (ΤΝ) δεν είναι πλέον ένα σενάριο επιστημονικής φαντασίας, αλλά ένας επιχειρησιακός πυλώνας. Τα drones, που κάποτε απαιτούσαν έναν χειριστή με joystick σε απόσταση χιλιάδων χιλιομέτρων, μετατρέπονται σε αυτόνομα φονικά συστήματα (Lethal Autonomous Weapon Systems - LAWS) που μπορούν να εντοπίζουν, να στοχοποιούν και να εξουδετερώνουν αντιπάλους χωρίς την άμεση ανθρώπινη παρέμβαση.

Το ερώτημα που τίθεται πλέον επιτακτικά δεν είναι αν η τεχνολογία αυτή είναι εφικτή, αλλά αν είναι ηθικά αποδεκτή. Η μετάβαση από το μοντέλο «human-in-the-loop» (ο άνθρωπος στον βρόχο ελέγχου) στο «human-out-of-the-loop» (ο άνθρωπος εκτός βρόχου) σηματοδοτεί μια ιστορική καμπή στην παγκόσμια ιστορία, όπου η απόφαση για τη ζωή και τον θάνατο μεταβιβάζεται σε κώδικα και δεδομένα.

Η Αλγοριθμική Διάκριση και το Πρόβλημα της Ευθύνης

Ένα από τα κύρια επιχειρήματα των υποστηρικτών της ΤΝ στον πόλεμο είναι η ακρίβεια. Θεωρητικά, ένας αλγόριθμος δεν επηρεάζεται από τον φόβο, την κούραση ή την επιθυμία για εκδίκηση — παράγοντες που συχνά οδηγούν σε εγκλήματα πολέμου από ανθρώπους στρατιώτες. Ωστόσο, η πραγματικότητα είναι πολύ πιο περίπλοκη. Η «διάκριση» (distinction) μεταξύ μαχητών και αμάχων αποτελεί τον ακρογωνιαίο λίθο του Διεθνούς Ανθρωπιστικού Δικαίου. Μπορεί ένα drone, βασισμένο σε αισθητήρες και μηχανική μάθηση, να ξεχωρίσει έναν αντάρτη που κρατά ένα όπλο από έναν άμαχο που κρατά ένα εργαλείο, ή ένα παιδί που παίζει με ένα παιχνίδι;

Το πρόβλημα της «μαύρης κουτί» (black box) στην ΤΝ κάνει τα πράγματα χειρότερα. Αν ένα αυτόνομο σύστημα διαπράξει μια σφαγή, ποιος φταίει; Ο προγραμματιστής που έγραψε τον κώδικα; Ο διοικητής που το ενεργοποίησε; Ή το ίδιο το μηχάνημα; Το «κενό ευθύνης» (accountability gap) είναι ένας από τους μεγαλύτερους κινδύνους της νέας εποχής, καθώς η νομική ευθύνη διαχέεται σε τέτοιο βαθμό που καθίσταται πρακτικά ανύπαρκτη.

Η Γεωπολιτική της Αυτονομίας και η Κούρσα των Εξοπλισμών

Η διεθνής κοινότητα είναι διχασμένη. Στον ΟΗΕ, μια μεγάλη ομάδα κρατών ζητά την πλήρη απαγόρευση των «killer robots». Ωστόσο, οι μεγάλες δυνάμεις — ΗΠΑ, Κίνα, Ρωσία και Ισραήλ — ανθίστανται σε δεσμευτικές συνθήκες, φοβούμενες ότι μια τέτοια απαγόρευση θα τις άφηνε πίσω σε μια νέα τεχνολογική κούρσα εξοπλισμών. Η στρατηγική «ασυμμετρία» που προσφέρουν τα drones επιτρέπει σε μικρότερα κράτη ή ακόμη και σε μη κρατικές οντότητες να προκαλέσουν τεράστια πλήγματα σε παραδοσιακούς στρατούς, όπως είδαμε στην πρόσφατη χρήση FPV drones στην Ουκρανία.

  • Η ταχύτητα λήψης αποφάσεων της ΤΝ μειώνει τον χρόνο αντίδρασης σε χιλιοστά του δευτερολέπτου, καθιστώντας τον ανθρώπινο έλεγχο πρακτικά αδύνατο σε περιβάλλοντα κορεσμού (swarm attacks).
  • Η χρήση ΤΝ για την ανάλυση τεράστιου όγκου δεδομένων από δορυφόρους και υποκλοπές επιτρέπει τη δημιουργία λιστών στοχοποίησης σε κλίμακα που καμία ανθρώπινη υπηρεσία πληροφοριών δεν θα μπορούσε να διαχειριστεί.
  • Υπάρχει ο κίνδυνος «αλγοριθμικής κλιμάκωσης», όπου δύο αντίπαλα συστήματα ΤΝ αλληλεπιδρούν με απρόβλεπτους τρόπους, οδηγώντας σε έναν πόλεμο που κανείς δεν ξεκίνησε συνειδητά.

Συμπέρασμα: Η Ανάγκη για μια Ψηφιακή Σύμβαση της Γενεύης

Η τεχνολογία δεν είναι ουδέτερη· αντικατοπτρίζει τις αξίες εκείνων που τη δημιουργούν. Αν επιτρέψουμε στον πόλεμο να γίνει μια αυτοματοποιημένη διαδικασία βελτιστοποίησης απωλειών, κινδυνεύουμε να χάσουμε την ίδια μας την ανθρωπιά. Η διεθνής κοινότητα πρέπει να καταλήξει σε ένα πλαίσιο που θα επιβάλλει τον «ουσιαστικό ανθρώπινο έλεγχο» (meaningful human control) σε κάθε απόφαση που αφορά τη χρήση θανατηφόρας βίας. Ο πόλεμος των drones δεν είναι μόνο μια τεχνική πρόκληση, είναι η απόλυτη δοκιμασία για το αν η ηθική μας μπορεί να επιβιώσει στην εποχή των αλγορίθμων.