Η ιστορία της ανθρωπότητας είναι άρρηκτα συνδεδεμένη με την εξέλιξη των όπλων της, αλλά και με την παράλληλη προσπάθεια να τεθούν όρια στη βαρβαρότητα. Από τις πρώτες Συμβάσεις της Γενεύης το 1864 μέχρι τις αναθεωρήσεις του 1949, το διεθνές δίκαιο προσπάθησε να διασφαλίσει ότι ακόμη και μέσα στο χάος του πολέμου, η ανθρώπινη αξιοπρέπεια και η προστασία των μη εμπολέμων παραμένουν ιερές. Σήμερα, όμως, βρισκόμαστε μπροστά σε μια νέα, ριζική πρόκληση: την ανάδυση των Φονικών Αυτόνομων Οπλικών Συστημάτων (LAWS), τα οποία συχνά αποκαλούνται «ρομπότ-δολοφόνοι». Η συζήτηση για μια «Σύμβαση της Γενεύης για τα Ρομπότ» δεν είναι πλέον ένα σενάριο επιστημονικής φαντασίας, αλλά μια γεωπολιτική αναγκαιότητα.
Η Άνοδος των Αυτόνομων Συστημάτων και το Τέλος της Ανθρώπινης Κρίσης
Η βασική διαφορά μεταξύ των σημερινών drones και των αυριανών αυτόνομων ρομπότ έγκειται στη λήψη αποφάσεων. Ενώ ένα σημερινό UAV (Unmanned Aerial Vehicle) κατευθύνεται από έναν χειριστή χιλιάδες χιλιόμετρα μακριά, ένα αυτόνομο σύστημα χρησιμοποιεί αλγορίθμους για να εντοπίσει, να στοχοποιήσει και να εξουδετερώσει έναν εχθρό χωρίς ανθρώπινη παρέμβαση. Αυτή η μετάβαση από το «man-in-the-loop» (άνθρωπος στον έλεγχο) στο «man-on-the-loop» (άνθρωπος ως επόπτης) και τελικά στο «man-out-of-the-loop» (άνθρωπος εκτός διαδικασίας) δημιουργεί ένα τεράστιο ηθικό και νομικό κενό.
Οι υποστηρικτές αυτής της τεχνολογίας ισχυρίζονται ότι τα ρομπότ θα μπορούσαν να είναι πιο «ηθικά» από τους ανθρώπους στρατιώτες, καθώς δεν επηρεάζονται από τον φόβο, την εκδίκηση ή την κούραση — παράγοντες που συχνά οδηγούν σε εγκλήματα πολέμου. Ωστόσο, οι επικριτές επισημαίνουν ότι μια μηχανή στερείται ενσυναίσθησης και της ικανότητας να αντιλαμβάνεται τις λεπτές αποχρώσεις του πλαισίου μιας σύγκρουσης. Μπορεί ένας αλγόριθμος να διακρίνει έναν τραυματισμένο στρατιώτη που παραδίδεται από έναν που ετοιμάζεται να επιτεθεί; Η απάντηση παραμένει αβέβαιη, και το ρίσκο της «αλγοριθμικής σφαγής» είναι υπαρκτό.
Το Νομικό Κενό Ευθύνης: Ποιος Φταίει;
Ένα από τα κεντρικά ζητήματα που μια νέα Σύμβαση της Γενεύης θα έπρεπε να επιλύσει είναι το «κενό ευθύνης» (accountability gap). Στο παραδοσιακό δίκαιο του πολέμου, αν ένας στρατιώτης διαπράξει ένα έγκλημα, φέρει την ευθύνη ο ίδιος ή οι ανώτεροί του. Στην περίπτωση ενός αυτόνομου ρομπότ, η απόδοση ευθύνης γίνεται εξαιρετικά περίπλοκη. Είναι υπεύθυνος ο προγραμματιστής που έγραψε τον κώδικα; Ο κατασκευαστής του υλικού; Ο διοικητής που ανέπτυξε το ρομπότ στο πεδίο; Ή μήπως η ίδια η τεχνητή νοημοσύνη, η οποία όμως δεν διαθέτει νομική προσωπικότητα ή συνείδηση για να τιμωρηθεί;
Η διεθνής κοινότητα, μέσω των Ηνωμένων Εθνών στη Γενεύη, συζητά εδώ και χρόνια τον περιορισμό αυτών των συστημάτων. Η πρόταση για μια νέα συνθήκη βασίζεται στην αρχή του «ουσιαστικού ανθρώπινου ελέγχου» (meaningful human control). Αυτό σημαίνει ότι κάθε απόφαση που αφορά τη χρήση θανατηφόρας βίας πρέπει να παραμένει στα χέρια ενός ανθρώπου. Χωρίς αυτόν τον έλεγχο, ο πόλεμος κινδυνεύει να μετατραπεί σε μια αυτοματοποιημένη διαδικασία εξόντωσης, όπου η αξία της ανθρώπινης ζωής υποβαθμίζεται σε μια σειρά από bit και byte.
Γεωπολιτικοί Ανταγωνισμοί και η Αντίσταση των Μεγάλων Δυνάμεων
Παρά τις πιέσεις από οργανώσεις όπως η «Campaign to Stop Killer Robots» και από προσωπικότητες όπως ο Elon Musk και ο αείμνηστος Stephen Hawking, η πρόοδος προς μια διεθνή συνθήκη είναι αργή. Ο λόγος είναι απλός: η στρατιωτική ισχύς. Μεγάλες δυνάμεις όπως οι ΗΠΑ, η Ρωσία, η Κίνα και το Ισραήλ επενδύουν δισεκατομμύρια στην αυτόνομη τεχνολογία, θεωρώντας την το «τρίτο αντιστάθμισμα» (Third Offset Strategy) στην παγκόσμια κυριαρχία.
Υπάρχει ο φόβος ότι αν μια χώρα αυτοπεριοριστεί ηθικά, θα βρεθεί σε μειονεκτική θέση απέναντι σε έναν αντίπαλο που δεν έχει τέτοιους ενδοιασμούς. Αυτή η «κούρσα εξοπλισμών AI» θυμίζει την ψυχροπολεμική περίοδο των πυρηνικών όπλων, με τη διαφορά ότι η τεχνητή νοημοσύνη είναι πολύ πιο προσιτή και δύσκολα ελέγξιμη. Μια Σύμβαση της Γενεύης για τα Ρομπότ θα απαιτούσε όχι μόνο πολιτική βούληση, αλλά και πρωτοφανή τεχνική συνεργασία για την επαλήθευση των αλγορίθμων, κάτι που οι στρατιωτικές βιομηχανίες αποφεύγουν συστηματικά στο όνομα του απορρήτου.
Συμπέρασμα: Η Ανθρωπότητα σε Σταυροδρόμι
Η δημιουργία μιας Σύμβασης της Γενεύης για τα Ρομπότ δεν αφορά μόνο την απαγόρευση συγκεκριμένων όπλων. Αφορά τη διατήρηση της ανθρωπιάς μας σε μια εποχή μηχανικής υπεροχής. Αν επιτρέψουμε στις μηχανές να αποφασίζουν ποιος ζει και ποιος πεθαίνει, θα έχουμε παραχωρήσει το πιο θεμελιώδες κομμάτι της ηθικής μας ευθύνης. Η διεθνής κοινότητα οφείλει να δράσει προληπτικά, πριν οι αλγόριθμοι αρχίσουν να γράφουν την ιστορία με το αίμα εκείνων που δεν είχαν ποτέ την ευκαιρία να αντιμετωπίσουν έναν άνθρωπο στα μάτια.
