Η αυγή της τρίτης επανάστασης στον πόλεμο —μετά την πυρίτιδα και τα πυρηνικά όπλα— είναι πλέον εδώ. Τα μη επανδρωμένα αεροσκάφη (drones) που ενισχύονται από Τεχνητή Νοημοσύνη (AI) δεν αποτελούν πλέον σενάριο επιστημονικής φαντασίας, αλλά μια σκληρή πραγματικότητα που αναδιαμορφώνει τα πεδία των μαχών από την Ουκρανία έως τη Μέση Ανατολή. Ωστόσο, η ταχύτητα της τεχνολογικής εξέλιξης έχει ξεπεράσει κατά πολύ την ικανότητα των διεθνών νομικών πλαισίων να ρυθμίσουν τη χρήση τους, δημιουργώντας ένα επικίνδυνο κενό ευθύνης.
Από τον Τηλεχειρισμό στην Αυτονομία
Παραδοσιακά, τα drones λειτουργούσαν με την αρχή του «ανθρώπου εντός του βρόχου» (human-in-the-loop). Ένας χειριστής, συχνά χιλιάδες χιλιόμετρα μακριά, λάμβανε την τελική απόφαση για τη χρήση βίας. Τα σύγχρονα AI drones, ωστόσο, μετακινούνται προς το μοντέλο «ανθρώπου επί του βρόχου» (human-on-the-loop) ή ακόμα και «ανθρώπου εκτός βρόχου» (human-out-of-the-loop). Αυτά τα συστήματα χρησιμοποιούν αλγορίθμους μηχανικής μάθησης και υπολογιστική όραση για να εντοπίζουν, να ταυτοποιούν και να στοχεύουν εχθρικές δυνάμεις χωρίς άμεση ανθρώπινη παρέμβαση.
Η λειτουργία τους βασίζεται σε τεράστιες βάσεις δεδομένων εικόνων και προτύπων συμπεριφοράς. Το drone «εκπαιδεύεται» να αναγνωρίζει τη σιλουέτα ενός άρματος μάχης, τη θερμική υπογραφή ενός ραντάρ ή ακόμα και συγκεκριμένα χαρακτηριστικά προσώπου. Σε συνθήκες ηλεκτρονικού πολέμου, όπου οι επικοινωνίες με τον σταθμό βάσης συχνά διακόπτονται από παρεμβολές (jamming), η αυτονομία γίνεται αναγκαιότητα για την επιβίωση του μέσου, αλλά ταυτόχρονα και πηγή μεγάλων κινδύνων.
Η Πρόκληση του Διεθνούς Ανθρωπιστικού Δικαίου
Το θεμέλιο του Διεθνούς Ανθρωπιστικού Δικαίου (ΔΑΔ) εδράζεται σε τρεις βασικές αρχές: τη διάκριση, την αναλογικότητα και την προφύλαξη. Τα AI drones αντιμετωπίζουν τεράστιες δυσκολίες και στις τρεις. Η αρχή της διάκρισης απαιτεί από τους εμπόλεμους να ξεχωρίζουν τους μαχητές από τους αμάχους. Μπορεί ένας αλγόριθμος να διακρίνει έναν στρατιώτη που κρατά όπλο από έναν αγρότη που κρατά ένα γεωργικό εργαλείο; Μπορεί να αναγνωρίσει τη διαφορά μεταξύ ενός τραυματισμένου στρατιώτη που παραδίδεται και ενός που βρίσκεται σε θέση μάχης;
Η αναλογικότητα είναι ακόμα πιο περίπλοκη. Απαιτεί μια υποκειμενική κρίση για το αν το αναμενόμενο στρατιωτικό όφελος υπερτερεί της πιθανής παράπλευρης απώλειας ζωών αμάχων. Αυτή η στάθμιση αξιών είναι εγγενώς ανθρώπινη και βασίζεται στο πλαίσιο της στιγμής, κάτι που οι τρέχοντες αλγόριθμοι, όσο εξελιγμένοι και αν είναι, αδυνατούν να προσομοιώσουν πλήρως. Το αποτέλεσμα είναι ένας πόλεμος που διεξάγεται με στατιστικές πιθανότητες αντί για ηθική κρίση.
Το Κενό Ευθύνης και η «Μαύρη Κουτιά»
Ένα από τα πιο ανησυχητικά ζητήματα είναι η απόδοση ευθύνης σε περίπτωση εγκλήματος πολέμου. Αν ένα αυτόνομο drone πλήξει έναν προσφυγικό καταυλισμό λόγω σφάλματος στον αλγόριθμο, ποιος φταίει; Ο προγραμματιστής που έγραψε τον κώδικα; Η εταιρεία που κατασκεύασε το υλικό; Ο διοικητής που έδωσε την εντολή ανάπτυξης του συστήματος; Ή μήπως το ίδιο το μηχάνημα, κάτι που νομικά είναι αδύνατο;
Οι αλγόριθμοι βαθιάς μάθησης (deep learning) λειτουργούν συχνά ως «μαύρα κουτιά». Ακόμα και οι δημιουργοί τους δεν μπορούν πάντα να εξηγήσουν γιατί το σύστημα έλαβε μια συγκεκριμένη απόφαση σε μια δεδομένη στιγμή. Αυτή η έλλειψη διαφάνειας καθιστά την απόδοση δικαιοσύνης σχεδόν ανέφικτη, υπονομεύοντας το διεθνές δίκαιο και ενθαρρύνοντας την ατιμωρησία.
Γεωπολιτικός Ανταγωνισμός και η Ανάγκη για Συνθήκη
Παρά τις εκκλήσεις από την εκστρατεία «Stop Killer Robots» και πολυάριθμους επιστήμονες, οι μεγάλες δυνάμεις (ΗΠΑ, Κίνα, Ρωσία) ανθίστανται σε μια πλήρη απαγόρευση των αυτόνομων όπλων. Ο φόβος ότι ο αντίπαλος θα αποκτήσει τεχνολογικό πλεονέκτημα οδηγεί σε μια νέα κούρσα εξοπλισμών. Στην Ουκρανία, είδαμε την πρώτη ευρεία χρήση drones με AI για την αντιμετώπιση παρεμβολών, γεγονός που αποδεικνύει ότι το «τζίνι βγήκε από το μπουκάλι».
Η διεθνής κοινότητα πρέπει επειγόντως να συμφωνήσει σε ένα νομικά δεσμευτικό πλαίσιο που θα επιβάλλει τον «ουσιαστικό ανθρώπινο έλεγχο» (meaningful human control) σε κάθε επίθεση. Η τεχνολογία πρέπει να υπηρετεί την ανθρωπότητα, όχι να την υποκαθιστά στις πιο κρίσιμες και σκοτεινές στιγμές της. Χωρίς σαφείς κανόνες, ο πόλεμος του μέλλοντος κινδυνεύει να γίνει μια μηχανική διαδικασία εξόντωσης χωρίς ίχνος ανθρωπισμού.
