Η εποχή του «χειρουργικού» πολέμου φαίνεται να δίνει τη θέση της σε μια νέα, τρομακτική πραγματικότητα: τον αλγοριθμικό πόλεμο μαζικής κλίμακας. Πρόσφατες αποκαλύψεις σχετικά με τη χρήση συστημάτων Τεχνητής Νοημοσύνης από τις Ισραηλινές Αμυντικές Δυνάμεις (IDF) στη Λωρίδα της Γάζας φέρνουν στο φως μια δυστοπική εφαρμογή της τεχνολογίας, όπου τα μεταδεδομένα ενός κινητού τηλεφώνου αρκούν για να θέσουν έναν άνθρωπο —και την οικογένειά του— στο στόχαστρο μιας αεροπορικής επιδρομής.

Το Σύστημα Lavender: Η Βιομηχανοποίηση της Στόχευσης

Στην καρδιά αυτής της στρατηγικής βρίσκεται το σύστημα «Lavender». Σύμφωνα με μαρτυρίες αξιωματικών των πληροφοριών, το Lavender αναπτύχθηκε για να εντοπίζει ύποπτα μέλη της Χαμάς και της Παλαιστινιακής Ισλαμικής Τζιχάντ (PIJ) αναλύοντας τεράστιους όγκους δεδομένων από την επιτήρηση του πληθυσμού της Γάζας. Το σύστημα βαθμολογεί σχεδόν κάθε κάτοικο της Γάζας σε μια κλίμακα από το 1 έως το 100, με βάση την πιθανότητα να είναι μαχητής.

Η κλίμακα αυτή δεν βασίζεται σε άμεσες αποδείξεις, αλλά σε πρότυπα συμπεριφοράς: συχνές αλλαγές συσκευών τηλεφώνου, επαφές σε ομάδες WhatsApp με γνωστά μέλη της Χαμάς, ή συχνή μετακίνηση σε συγκεκριμένες περιοχές. Στο αποκορύφωμα του πολέμου, το Lavender φέρεται να είχε καταγράψει έως και 37.000 Παλαιστίνιους ως «νόμιμους στόχους». Το πρόβλημα; Η ίδια η IDF παραδέχεται εσωτερικά ότι το σύστημα έχει ποσοστό σφάλματος περίπου 10%, πράγμα που σημαίνει ότι χιλιάδες άνθρωποι στοχοποιήθηκαν χωρίς να έχουν καμία πραγματική σχέση με ένοπλες οργανώσεις.

  • Χρήση μεταδεδομένων για τον προσδιορισμό της «μαχητικότητας».
  • Αυτοματοποιημένη παραγωγή λιστών θανάτου χωρίς παραδοσιακή επαλήθευση.
  • Ανοχή σε σφάλματα που οδηγεί σε στοχοποίηση αμάχων.

«Where’s Daddy?»: Όταν το Σπίτι Γίνεται Παγίδα

Ίσως η πιο σοκαριστική πτυχή αυτής της τεχνολογικής υποδομής είναι το σύστημα «Where’s Daddy?» (Πού είναι ο μπαμπάς;). Αντί να στοχεύουν τους υπόπτους σε στρατιωτικές εγκαταστάσεις ή στο πεδίο της μάχης, οι αλγόριθμοι έχουν σχεδιαστεί για να ειδοποιούν τις δυνάμεις κρούσης όταν ο στόχος εισέρχεται στο σπίτι του. Η στρατηγική επιλογή είναι σαφής: είναι πολύ πιο εύκολο να πλήξεις έναν στόχο στην κατοικία του παρά σε ένα οχυρωμένο τούνελ.

Το αποτέλεσμα αυτής της τακτικής είναι η πλήρης εξάλειψη ολόκληρων οικογενειών. Οι μαρτυρίες αναφέρουν ότι η IDF επέτρεπε την εξόντωση έως και 15 ή 20 αμάχων για κάθε χαμηλόβαθμο μέλος της Χαμάς που στοχοποιούσε το Lavender. Σε περιπτώσεις υψηλόβαθμων στελεχών, ο αριθμός των «αποδεκτών» παράπλευρων απωλειών μπορούσε να φτάσει τις εκατοντάδες. Η Τεχνητή Νοημοσύνη δεν χρησιμοποιείται εδώ για να αυξήσει την ακρίβεια και να μειώσει τα θύματα, αλλά για να αυξήσει την αποτελεσματικότητα της θανάτωσης, αποδέχοντας συνειδητά το κόστος σε ανθρώπινες ζωές.

«Το σύστημα μας έδινε μια αίσθηση ασφάλειας, αλλά στην πραγματικότητα ήταν μια μηχανή παραγωγής στόχων. Η ανθρώπινη επαλήθευση ήταν συχνά μια τυπική διαδικασία 20 δευτερολέπτων.» — Μαρτυρία αξιωματικού πληροφοριών.

Η Διάβρωση της Ανθρώπινης Εποπτείας

Η διεθνής κοινότητα και οι οργανώσεις ανθρωπίνων δικαιωμάτων προειδοποιούν εδώ και χρόνια για τους κινδύνους των «φονικών αυτόνομων όπλων». Αν και το Ισραήλ υποστηρίζει ότι υπάρχει πάντα ένας «άνθρωπος στον βρόχο» (human-in-the-loop), οι αποκαλύψεις δείχνουν ότι αυτός ο ρόλος έχει εκφυλιστεί σε μια απλή έγκριση (rubber-stamping). Οι αξιωματικοί πληροφοριών, πιεσμένοι από τον χρόνο και τον τεράστιο όγκο δεδομένων, συχνά αφιέρωναν λιγότερο από μισό λεπτό για να επιβεβαιώσουν αν ο στόχος ήταν όντως ο σωστός, ελέγχοντας απλώς αν η φωνή στο τηλέφωνο ήταν ανδρική.

Αυτή η αποστασιοποίηση από την πράξη του φόνου, όπου ένας αλγόριθμος προτείνει και ένας άνθρωπος απλώς συναινεί, δημιουργεί ένα επικίνδυνο νομικό και ηθικό κενό. Ποιος φέρει την ευθύνη όταν ένας αλγόριθμος κάνει λάθος; Ο προγραμματιστής, ο αξιωματικός που πάτησε το κουμπί, ή η ηγεσία που ενέκρινε τη χρήση του συστήματος;

Ένα Πρότυπο για το Μέλλον των Συγκρούσεων;

Αυτό που συμβαίνει σήμερα στη Γάζα δεν αφορά μόνο το Ισραήλ και την Παλαιστίνη. Αποτελεί ένα «ζωντανό εργαστήριο» για το μέλλον των παγκόσμιων συγκρούσεων. Οι αμυντικές βιομηχανίες παγκοσμίως παρακολουθούν με ενδιαφέρον την αποτελεσματικότητα αυτών των συστημάτων. Η μετατροπή των προσωπικών δεδομένων σε στρατιωτικά δεδομένα στοχοποίησης σημαίνει ότι στην εποχή των Big Data, η ιδιωτικότητα δεν είναι πλέον ζήτημα ελευθερίας, αλλά ζήτημα επιβίωσης.

Ηθικά, βρισκόμαστε μπροστά σε μια θεμελιώδη αλλαγή: η αξία της ανθρώπινης ζωής υπολογίζεται πλέον μέσω στατιστικών πιθανοτήτων. Αν η διεθνής κοινότητα δεν θέσει αυστηρά όρια στη χρήση της AI στον πόλεμο, κινδυνεύουμε να εισέλθουμε σε μια εποχή όπου οι πόλεμοι θα διεξάγονται από μηχανές που δεν διαθέτουν ούτε συνείδηση ούτε έλεος, μετατρέποντας τον πλανήτη σε ένα πεδίο βολής όπου κανείς δεν είναι πραγματικά αόρατος.