Η Μεγάλη Βρετανία, σε μια προσπάθεια να διατηρήσει τη γεωπολιτική της ισχύ σε έναν ραγδαία μεταβαλλόμενο κόσμο, βρίσκεται στο επίκεντρο μιας έντονης αντιπαράθεσης σχετικά με το νέο αμυντικό της δόγμα. Το Υπουργείο Άμυνας (MoD) του Ηνωμένου Βασιλείου προωθεί ένα φιλόδοξο, αν και εξαιρετικά αμφιλεγόμενο, σχέδιο για την πλήρη ενσωμάτωση της Τεχνητής Νοημοσύνης (AI) σε κάθε επίπεδο της στρατιωτικής επιχείρησης: από τη διοικητική μέριμνα και την ανάλυση πληροφοριών έως την πρώτη γραμμή του μετώπου με τη χρήση αυτόνομων συστημάτων.
Η στρατηγική αυτή, η οποία περιγράφεται από πολλούς ως η «ψηφιακή επανάσταση» του βρετανικού στρατού, δεν στοχεύει μόνο στην αποτελεσματικότητα, αλλά και στην επιβίωση σε ένα περιβάλλον όπου η ταχύτητα των αποφάσεων υπερβαίνει την ανθρώπινη ικανότητα επεξεργασίας. Ωστόσο, η έλλειψη σαφών νομικών πλαισίων και οι ηθικοί κίνδυνοι που απορρέουν από την εκχώρηση της απόφασης για τη ζωή και τον θάνατο σε αλγορίθμους, έχουν προκαλέσει θύελλα αντιδράσεων από οργανώσεις ανθρωπίνων δικαιωμάτων και μέλη της επιστημονικής κοινότητας.
Ο Στρατηγικός Μονόδρομος της «Υπερ-ταχύτητας»
Για τους επιτελείς του Whitehall, η υιοθέτηση της AI δεν είναι επιλογή, αλλά αναγκαιότητα. Σε έναν κόσμο όπου η Κίνα και η Ρωσία επενδύουν δισεκατομμύρια σε αυτόνομες τεχνολογίες, το Λονδίνο φοβάται ότι οποιαδήποτε καθυστέρηση θα καταστήσει τις βρετανικές δυνάμεις παρωχημένες. Η έννοια του «Hyperwar» (Υπερ-πόλεμος), όπου οι συγκρούσεις εξελίσσονται με ταχύτητα millisecond, απαιτεί συστήματα που μπορούν να αναγνωρίζουν στόχους και να εξουδετερώνουν απειλές χωρίς την παραδοσιακή καθυστέρηση της ανθρώπινης έγκρισης.
Το σχέδιο προβλέπει τη δημιουργία μιας «ψηφιακής ραχοκοκαλιάς» που θα συνδέει drones, τεθωρακισμένα και στρατιώτες σε ένα ενιαίο δίκτυο δεδομένων. Η AI θα λειτουργεί ως ένας «εικονικός επιτελάρχης», φιλτράροντας τεράστιους όγκους πληροφοριών από δορυφόρους και αισθητήρες για να προτείνει την καλύτερη δυνατή τακτική κίνηση. Οι υποστηρικτές του σχεδίου υποστηρίζουν ότι αυτό θα μειώσει τις απώλειες αμάχων μέσω ακριβέστερης στόχευσης, όμως οι επικριτές προειδοποιούν για το φαινόμενο του «μαύρου κουτιού», όπου οι αποφάσεις του συστήματος είναι αδύνατον να εξηγηθούν ή να αμφισβητηθούν.
Το Ηθικό Ναρκοπέδιο και η Ευθύνη
Το πιο ακανθώδες ζήτημα παραμένει η χρήση των Ληθαργικών Αυτόνομων Οπλικών Συστημάτων (LAWS). Παρά τις διαβεβαιώσεις της βρετανικής κυβέρνησης ότι θα υπάρχει πάντα ένας «άνθρωπος στον βρόχο» (human-in-the-loop), οι τεχνικές προδιαγραφές των νέων συστημάτων υποδηλώνουν μια σταδιακή διολίσθηση προς τον «άνθρωπο πάνω από τον βρόχο» (human-on-the-loop), όπου ο στρατιώτης απλώς επιβλέπει μια διαδικασία που εξελίσσεται πολύ γρήγορα για να την ανακόψει.
- Λογοδοσία: Ποιος ευθύνεται για ένα έγκλημα πολέμου που διαπράχθηκε από έναν αλγόριθμο; Ο προγραμματιστής, ο διοικητής ή η εταιρεία που κατασκεύασε το λογισμικό;
- Προκατάληψη Δεδομένων: Οι αλγόριθμοι εκπαιδεύονται σε ιστορικά δεδομένα που μπορεί να εμπεριέχουν φυλετικές ή πολιτισμικές προκαταλήψεις, οδηγώντας σε λανθασμένη αναγνώριση εχθρών.
- Κλιμάκωση: Η ευκολία χρήσης αυτόνομων όπλων μπορεί να χαμηλώσει το κατώφλι της έναρξης μιας πολεμικής σύγκρουσης, καθώς μειώνεται ο άμεσος κίνδυνος για το έμψυχο δυναμικό του επιτιθέμενου.
«Η ανάθεση της εξουσίας θανάτου σε μηχανές είναι μια ηθική υπέρβαση που δεν μπορούμε να αναιρέσουμε. Ο βρετανικός στρατός κινδυνεύει να χάσει την ανθρωπιά του στο όνομα της τεχνολογικής υπεροχής», δηλώνει μέλος της εκστρατείας Stop Killer Robots.
Γεωπολιτικές Επιπτώσεις και η Σχέση με το ΝΑΤΟ
Η βρετανική πρωτοβουλία δεν εξελίσσεται σε κενό αέρος. Αποτελεί μέρος μιας ευρύτερης προσπάθειας του ΝΑΤΟ να θέσει πρότυπα για την «υπεύθυνη χρήση» της AI. Ωστόσο, υπάρχει μια έντονη ασυμμετρία. Ενώ οι δυτικές δημοκρατίες δεσμεύονται (θεωρητικά) από ηθικούς κανόνες, οι αντίπαλοί τους μπορεί να μην έχουν τέτοιους περιορισμούς. Αυτό δημιουργεί ένα δίλημμα ασφαλείας: αν η Βρετανία περιορίσει την αυτονομία των όπλων της για ηθικούς λόγους, κινδυνεύει να ηττηθεί από έναν αντίπαλο που δεν το κάνει;
Επιπλέον, η εξάρτηση από μεγάλες εταιρείες τεχνολογίας (Big Tech) για την παροχή των απαραίτητων υποδομών AI εγείρει ερωτήματα σχετικά με την εθνική κυριαρχία. Όταν ο στρατός βασίζεται σε κώδικα που ανήκει σε ιδιωτικούς κολοσσούς της Silicon Valley, τα όρια μεταξύ δημόσιας άμυνας και ιδιωτικού κέρδους γίνονται επικίνδυνα δυσδιάκριτα. Το Λονδίνο προσπαθεί να αναπτύξει μια εγχώρια βιομηχανία αμυντικής τεχνολογίας, αλλά ο δρόμος είναι μακρύς και οικονομικά επώδυνος.
Συμπερασματικά, το σχέδιο του βρετανικού στρατού για την Τεχνητή Νοημοσύνη είναι μια φυγή προς τα εμπρός. Υπόσχεται έναν στρατό πιο έξυπνο, πιο γρήγορο και πιο αποτελεσματικό, αλλά το κόστος αυτής της εξέλιξης μπορεί να είναι η ίδια η ηθική βάση πάνω στην οποία στηρίζεται ο δυτικός πολιτισμός. Η συζήτηση που ξεκίνησε στο Λονδίνο είναι μόνο η αρχή μιας παγκόσμιας κρίσης ταυτότητας για το ανθρώπινο είδος και τον τρόπο που επιλέγει να διεξάγει τις συγκρούσεις του στον 21ο αιώνα.
