Σε μια εποχή όπου οι αλγόριθμοι αναδιαμορφώνουν κάθε πτυχή της ανθρώπινης ύπαρξης, η παρέμβαση του Πάπα Φραγκίσκου για τη χρήση της Τεχνητής Νοημοσύνης (ΤΝ) στον πόλεμο δεν αποτελεί απλώς μια θρησκευτική έκκληση, αλλά μια βαθιά πολιτική και ηθική προειδοποίηση. Από το Βατικανό εκπέμπεται ένα σαφές μήνυμα: η ανθρωπότητα βρίσκεται στο χείλος μιας νέας αβύσσου, όπου η απόφαση για τη ζωή και τον θάνατο ενδέχεται να ανατεθεί σε ψυχρούς κώδικες προγραμματισμού. Η έκκληση για αυστηρές ρυθμίσεις και περιορισμούς στη χρήση της ΤΝ για πολεμικούς σκοπούς έρχεται σε μια κρίσιμη καμπή, καθώς οι μεγάλες δυνάμεις του πλανήτη επιταχύνουν την ενσωμάτωση αυτόνομων συστημάτων στα οπλοστάσιά τους.
Η Απώλεια της Ανθρώπινης Υπόστασης στο Πεδίο της Μάχης
Το κεντρικό επιχείρημα του Ποντίφικα εστιάζει στην έννοια της «ηθικής ευθύνης». Σύμφωνα με τη θέση του Βατικανού, ο πόλεμος, όσο τραγικός κι αν είναι, παραμένει μια ανθρώπινη δραστηριότητα που διέπεται από κανόνες, ηθικά διλήμματα και τη δυνατότητα της ελέους. Όταν ένα οπλικό σύστημα αποκτά την ικανότητα να επιλέγει και να εξοντώνει στόχους χωρίς την άμεση παρέμβαση ενός ανθρώπου —τα λεγόμενα Φονικά Αυτόνομα Οπλικά Συστήματα (LAWS)— η ηθική αλυσίδα σπάει. Ποιος φέρει την ευθύνη για ένα έγκλημα πολέμου που διαπράχθηκε από έναν αλγόριθμο; Ο προγραμματιστής, ο κατασκευαστής ή ο διοικητής που πάτησε το κουμπί της ενεργοποίησης;
Η ανησυχία του Πάπα δεν περιορίζεται μόνο στην τεχνική αστοχία, αλλά στην ίδια τη φύση της αλγοριθμικής λήψης αποφάσεων. Οι μηχανές στερούνται ενσυναίσθησης, δεν μπορούν να κατανοήσουν το πλαίσιο μιας παράδοσης ή τον πόνο του αμάχου πληθυσμού πέρα από τα δεδομένα που επεξεργάζονται. Η «απανθρωποποίηση» του πολέμου μέσω της ΤΝ κινδυνεύει να μετατρέψει τις συγκρούσεις σε μια διαδικασία στατιστικής βελτιστοποίησης, όπου η ανθρώπινη ζωή υποβιβάζεται σε μια απλή μεταβλητή ενός εξισωτικού μοντέλου.
Γεωπολιτική Σκακιέρα και η Κούρσα των Εξοπλισμών
Παρά τις εκκλήσεις του Βατικανού και πλήθους Μη Κυβερνητικών Οργανώσεων, η πραγματικότητα στο διεθνές στερέωμα είναι πολύ πιο περίπλοκη. Οι Ηνωμένες Πολιτείες, η Κίνα και η Ρωσία επενδύουν δισεκατομμύρια δολάρια στην ανάπτυξη αυτόνομων drones, υποβρυχίων και ρομποτικών συστημάτων εδάφους. Το επιχείρημα των αμυντικών βιομηχανιών είναι ότι η ΤΝ μπορεί να μειώσει τις απώλειες των δικών τους στρατιωτών και να προσφέρει μεγαλύτερη ακρίβεια στα πλήγματα, μειώνοντας τις παράπλευρες απώλειες.
Ωστόσο, η ιστορία έχει δείξει ότι κάθε νέα τεχνολογική «λύση» στον πόλεμο τείνει να χαμηλώνει το όριο εισόδου σε μια σύγκρουση. Αν ένας ηγέτης γνωρίζει ότι μπορεί να διεξάγει πόλεμο χωρίς να ρισκάρει τη ζωή των πολιτών του, οι διπλωματικές λύσεις ενδέχεται να παραμεριστούν ευκολότερα. Επιπλέον, υπάρχει ο κίνδυνος της «αλγοριθμικής κλιμάκωσης»: δύο αντίπαλα συστήματα ΤΝ που αλληλεπιδρούν με ταχύτητες χιλιοστών του δευτερολέπτου θα μπορούσαν να οδηγήσουν σε μια γενικευμένη σύγκρουση πριν καν οι άνθρωποι προλάβουν να αντιληφθούν τι συνέβη.
Η Ανάγκη για ένα Διεθνές Νομικό Πλαίσιο
Το Βατικανό προτείνει τη δημιουργία μιας δεσμευτικής διεθνούς συνθήκης που θα απαγορεύει την πλήρη αυτονομία στα όπλα. Η έννοια-κλειδί εδώ είναι ο «ουσιαστικός ανθρώπινος έλεγχος» (meaningful human control). Κάθε απόφαση που αφορά τη χρήση βίας πρέπει να παραμένει στα χέρια ενός ανθρώπου, ο οποίος θα είναι υπόλογος απέναντι στο διεθνές δίκαιο και τη συνείδησή του.
- Διαφάνεια: Οι αλγόριθμοι που χρησιμοποιούνται σε στρατιωτικά συστήματα πρέπει να είναι ελέγξιμοι και να μην αποτελούν «μαύρα κουτιά».
- Λογοδοσία: Καθορισμός σαφών νομικών πλαισίων για την απόδοση ευθυνών σε περίπτωση δυσλειτουργίας ή εγκλήματος.
- Ηθική Εκπαίδευση: Ενσωμάτωση ηθικών αρχών στον ίδιο τον σχεδιασμό των συστημάτων (Ethics by Design).
Συμπερασματικά, η προειδοποίηση του Πάπα Φραγκίσκου μας καλεί να αναλογιστούμε τι είδους πολιτισμό θέλουμε να οικοδομήσουμε. Αν επιτρέψουμε στην τεχνολογία να υπερβεί τα ηθικά μας θεμέλια στο όνομα της στρατιωτικής υπεροχής, κινδυνεύουμε να χάσουμε την ίδια την ουσία της ανθρωπιάς μας. Ο έλεγχος της Τεχνητής Νοημοσύνης στον πόλεμο δεν είναι απλώς ένα τεχνικό ζήτημα, αλλά η απόλυτη δοκιμασία της σοφίας μας ως είδος στον 21ο αιώνα.
