Η Γενεύη, η ιστορική πόλη της διπλωματίας και των ανθρωπιστικών συμβάσεων, βρίσκεται για άλλη μια φορά στο επίκεντρο μιας υπαρξιακής συζήτησης για την ανθρωπότητα. Καθώς οι ηγέτες της G7 ολοκληρώνουν τις διαβουλεύσεις τους και οι επιτροπές των Ηνωμένων Εθνών για τον αφοπλισμό συνεδριάζουν, το θέμα της ρύθμισης της Τεχνητής Νοημοσύνης (ΤΝ) στον στρατιωτικό τομέα έχει αναδειχθεί ως το πιο κρίσιμο ζήτημα της διεθνούς ασφάλειας για το 2026. Η πρόσφατη ανάλυση της Le Monde υπογραμμίζει το χάσμα μεταξύ της ταχείας τεχνολογικής εξέλιξης και της δυσκίνητης γραφειοκρατίας της διεθνούς διπλωματίας.
Η Πρόκληση των Φονικών Αυτόνομων Συστημάτων (LAWS)
Στην καρδιά της συζήτησης βρίσκονται τα Φονικά Αυτόνομα Οπλικά Συστήματα (Lethal Autonomous Weapons Systems - LAWS), γνωστά και ως «ρομπότ δολοφόνοι». Πρόκειται για συστήματα που μπορούν να επιλέγουν και να προσβάλλουν στόχους χωρίς ανθρώπινη παρέμβαση. Ενώ η διεθνής κοινότητα συμφωνεί θεωρητικά ότι ο «άνθρωπος πρέπει να παραμένει στον βρόχο» (human-in-the-loop), ο ορισμός αυτού του ελέγχου παραμένει επικίνδυνα ασαφής. Οι μεγάλες δυνάμεις, όπως οι ΗΠΑ, η Κίνα και η Ρωσία, επενδύουν δισεκατομμύρια σε αλγόριθμους που μπορούν να λαμβάνουν αποφάσεις σε χιλιοστά του δευτερολέπτου, ταχύτητα που ξεπερνά κατά πολύ τις ανθρώπινες γνωστικές ικανότητες.
Η G7, υπό την πίεση των ευρωπαϊκών κρατών, προσπαθεί να θεσπίσει ένα πλαίσιο «υπεύθυνης χρήσης». Ωστόσο, οι επικριτές υποστηρίζουν ότι οι εθελοντικοί κώδικες δεοντολογίας δεν αρκούν για να αποτρέψουν μια νέα κούρσα εξοπλισμών. Η πολυπλοκότητα των αλγορίθμων καθιστά την επαλήθευση (verification) των συνθηκών σχεδόν αδύνατη. Αντίθετα με τα πυρηνικά όπλα, όπου η παραγωγή σχάσιμου υλικού μπορεί να εντοπιστεί, ο κώδικας της ΤΝ μπορεί να μεταφερθεί σε έναν σκληρό δίσκο και να αναπτυχθεί μυστικά, καθιστώντας τον έλεγχο των εξοπλισμών μια πρόκληση χωρίς προηγούμενο.
Γεωπολιτικές Ισορροπίες και το Δίλημμα της Ασφάλειας
Το παράδοξο της Γενεύης έγκειται στο γεγονός ότι, ενώ όλοι αναγνωρίζουν τους κινδύνους μιας ανεξέλεγκτης στρατιωτικής ΤΝ, κανείς δεν θέλει να μείνει πίσω. Η Κίνα έχει δηλώσει ότι υποστηρίζει μια απαγόρευση της *χρήσης* αυτόνομων όπλων, αλλά όχι της *ανάπτυξης* ή της *παραγωγής* τους – μια θέση που πολλοί θεωρούν υποκριτική. Από την άλλη πλευρά, οι ΗΠΑ προκρίνουν ένα πλαίσιο που εστιάζει στην «προβλεψιμότητα» και την «αυστηρή δοκιμή» των συστημάτων, αποφεύγοντας τις καθολικές απαγορεύσεις που θα μπορούσαν να περιορίσουν το τεχνολογικό τους πλεονέκτημα.
- Η ανάγκη για νομική ευθύνη: Ποιος φταίει όταν ένας αλγόριθμος διαπράττει έγκλημα πολέμου;
- Ο κίνδυνος της «αιφνίδιας κλιμάκωσης»: Συστήματα ΤΝ που αντιδρούν το ένα στο άλλο μπορούν να οδηγήσουν σε σύρραξη πριν οι άνθρωποι προλάβουν να παρέμβουν.
- Η διάβρωση του διεθνούς ανθρωπιστικού δικαίου: Μπορεί μια μηχανή να κρίνει την «αναλογικότητα» μιας επίθεσης;
Οι Μη Κυβερνητικές Οργανώσεις στη Γενεύη πιέζουν για μια νομικά δεσμευτική συνθήκη, παρόμοια με εκείνη για τις νάρκες ξηράς ή τα όπλα διασποράς. Ωστόσο, η G7 φαίνεται να προτιμά μια πιο ευέλικτη προσέγγιση, φοβούμενη ότι μια αυστηρή συνθήκη θα αγνοηθεί από αυταρχικά καθεστώτα, αφήνοντας τις δημοκρατίες ευάλωτες.
Ηθική και το Μέλλον του Πολέμου
Πέρα από τη στρατηγική, υπάρχει το βαθύ ηθικό ερώτημα: Επιτρέπεται να αναθέτουμε την απόφαση για τη ζωή και τον θάνατο σε μαθηματικούς τύπους; Η Διεθνής Επιτροπή του Ερυθρού Σταυρού (ICRC) έχει προειδοποιήσει ότι η απώλεια του ανθρώπινου ελέγχου θα μπορούσε να αποανθρωποποιήσει πλήρως τον πόλεμο. Στη Γενεύη, οι συζητήσεις δεν αφορούν πλέον το αν η ΤΝ θα χρησιμοποιηθεί στο πεδίο της μάχης –καθώς αυτό συμβαίνει ήδη στην Ουκρανία και τη Μέση Ανατολή μέσω drones αυτοκτονίας– αλλά το πού θα τεθεί η κόκκινη γραμμή.
«Η τεχνητή νοημοσύνη δεν είναι απλώς ένα νέο όπλο, είναι ένα νέο περιβάλλον πολέμου. Αν δεν θέσουμε κανόνες τώρα, το μέλλον της παγκόσμιας ασφάλειας θα γραφτεί από κώδικα που κανείς δεν θα μπορεί να ελέγξει», αναφέρει ανώτατος διπλωμάτης του ΟΗΕ.
Συμπερασματικά, η σύνοδος της Γενεύης αποτελεί ένα κρίσιμο τεστ για την παγκόσμια διακυβέρνηση. Η ικανότητα των κρατών να συνεργαστούν παρά τις βαθιές διαφορές τους θα καθορίσει αν η ΤΝ θα αποτελέσει ένα εργαλείο αποτροπής ή μια νέα πηγή παγκόσμιας αστάθειας. Η ιστορία θα κρίνει αν το 2026 ήταν η χρονιά που η ανθρωπότητα ανέκτησε τον έλεγχο των μηχανών της ή αν παραχώρησε την κυριαρχία της στην ταχύτητα των αλγορίθμων.
