Το 2017, μια ομάδα επιστημόνων και ακτιβιστών, με επικεφαλής τον καθηγητή του Μπέρκλεϊ Stuart Russell, κυκλοφόρησε ένα βίντεο μικρού μήκους με τίτλο «Slaughterbots». Στο βίντεο, μικροσκοπικά drones εξοπλισμένα με τεχνητή νοημοσύνη και αναγνώριση προσώπου εισέβαλλαν σε πανεπιστημιακές αίθουσες και πολιτικά γραφεία, εξοντώνοντας συγκεκριμένους στόχους με χειρουργική ακρίβεια. Τότε, πολλοί το θεώρησαν μια υπερβολική προειδοποίηση, μια προσπάθεια εντυπωσιασμού για να προωθηθεί η απαγόρευση των Αυτόνομων Φονικών Οπλικών Συστημάτων (LAWS). Σήμερα, στα πεδία των μαχών της Ουκρανίας, αυτός ο εφιάλτης δεν είναι πλέον σενάριο, αλλά μια καθημερινή, αιματηρή πραγματικότητα.
Η Μετάβαση από τον Τηλεχειρισμό στην Αυτονομία
Για το μεγαλύτερο μέρος του πολέμου στην Ουκρανία, τα FPV (First Person View) drones ήταν το κυρίαρχο όπλο. Ωστόσο, αυτά τα drones βασίζονται σε μια συνεχή ραδιοσύνοψη μεταξύ του χειριστή και της συσκευής. Αυτό το κανάλι επικοινωνίας αποτελεί την «αχίλλειο πτέρνα» τους, καθώς τα συστήματα ηλεκτρονικού πολέμου (Electronic Warfare - EW) μπορούν να παρεμβληθούν στη συχνότητα, καθιστώντας το drone άχρηστο. Η λύση που προωθείται με ταχύτατους ρυθμούς είναι η πλήρης αυτονομία μέσω Τεχνητής Νοημοσύνης.
Νέες γενιές drones που αναπτύσσονται από ουκρανικές εταιρείες όπως η Saker και η Vyriy, αλλά και από δυτικούς παίκτες όπως η Auterion και η Anduril, ενσωματώνουν επεξεργαστές ικανούς να εκτελούν αλγόριθμους μηχανικής όρασης (computer vision) τοπικά. Όταν το drone πλησιάζει τον στόχο και η σύνδεση με τον χειριστή χάνεται λόγω παρεμβολών, η ΤΝ «κλειδώνει» το σχήμα του τανκ, του πυροβολικού ή ακόμα και του μεμονωμένου στρατιώτη, ολοκληρώνοντας την επίθεση χωρίς καμία ανθρώπινη παρέμβαση.
Το «Κυνήγι Κεφαλών» και η Αναγνώριση Προσώπου
Ενώ η τρέχουσα τεχνολογία εστιάζει κυρίως στην αναγνώριση οπλικών συστημάτων, το επόμενο βήμα είναι η στοχοποίηση συγκεκριμένων προσώπων. Οι αναφορές από το μέτωπο υποδηλώνουν ότι η χρήση βιομετρικών δεδομένων για την ταυτοποίηση υψηλόβαθμων αξιωματικών ή συγκεκριμένων «στόχων υψηλής αξίας» βρίσκεται ήδη σε πειραματικό στάδιο. Αυτό μετατρέπει το drone από ένα εργαλείο τακτικού πολέμου σε ένα όπλο πολιτικής και στρατιωτικής εξόντωσης.
«Δεν μιλάμε πλέον για βόμβες που πέφτουν από τον ουρανό, αλλά για σφαίρες με μυαλό που επιλέγουν ποιον θα σκοτώσουν», αναφέρει αναλυτής αμυντικών συστημάτων.
Η ικανότητα ενός drone να περιφέρεται (loitering) πάνω από μια περιοχή και να περιμένει μέχρι να αναγνωρίσει ένα συγκεκριμένο πρόσωπο πριν πυροδοτηθεί, αλλάζει ριζικά την έννοια της ασφάλειας. Αν ένας ηγέτης ή ένας ακτιβιστής μπορεί να στοχοποιηθεί από ένα φθηνό drone που αγνοεί τις παραδοσιακές άμυνες, τότε η ισορροπία ισχύος μετατοπίζεται επικίνδυνα.
Η Ηθική Κατρακύλα και το Διεθνές Δίκαιο
Η διεθνής κοινότητα παρακολουθεί αμήχανη. Στον ΟΗΕ, οι συζητήσεις για τον περιορισμό των LAWS σέρνονται εδώ και χρόνια, καθώς οι μεγάλες δυνάμεις (ΗΠΑ, Ρωσία, Κίνα) αρνούνται να δεσμευτούν σε μια πλήρη απαγόρευση, φοβούμενες ότι θα χάσουν το τεχνολογικό πλεονέκτημα. Η Ουκρανία έχει γίνει το «εργαστήριο» όπου οι ηθικοί φραγμοί υποχωρούν μπροστά στην ανάγκη της επιβίωσης.
Το πρόβλημα της «ευθύνης» (accountability) παραμένει αναπάντητο: Ποιος φταίει αν ένα αυτόνομο drone κάνει λάθος και χτυπήσει μια ομάδα αμάχων επειδή το λογισμικό τους μπέρδεψε με στρατιώτες; Όταν ο άνθρωπος αφαιρείται από τον βρόχο λήψης αποφάσεων (human-out-of-the-loop), η απόσταση μεταξύ της εντολής και του θανάτου γίνεται ένα αλγοριθμικό κενό.
Η Εκδημοκρατισμένη Βία
Το πιο τρομακτικό στοιχείο της νέας αυτής εποχής είναι το κόστος. Τα Slaughterbots του 2017 δεν απαιτούν δισεκατομμύρια για να κατασκευαστούν. Με μερικές εκατοντάδες δολάρια, εξαρτήματα από το εμπόριο και λογισμικό ανοιχτού κώδικα, οποιοδήποτε κράτος ή ακόμα και τρομοκρατική οργάνωση μπορεί να αποκτήσει δυνατότητες που παλαιότερα είχαν μόνο οι υπερδυνάμεις. Η Ουκρανία δείχνει τον δρόμο για έναν κόσμο όπου ο πόλεμος θα είναι διαρκής, αόρατος και απόλυτα αυτοματοποιημένος. Το βίντεο-προειδοποίηση του 2017 δεν είναι πια επιστημονική φαντασία. Είναι το εγχειρίδιο χρήσης του σύγχρονου πολέμου.
