Σε μια εποχή όπου η τεχνολογία εξελίσσεται ταχύτερα από τη νομοθεσία, το Βατικανό αναλαμβάνει έναν ρόλο που πολλοί θα θεωρούσαν αναπάντεχο: αυτόν του ηθικού ρυθμιστή της υψηλής τεχνολογίας. Η πρόσφατη παρέμβαση της Αγίας Έδρας, με επικεφαλής τον Πάπα Φραγκίσκο, δεν αποτελεί απλώς μια θρησκευτική έκκληση, αλλά μια συγκροτημένη διπλωματική προσπάθεια για την επιβολή ορίων στην Τεχνητή Νοημοσύνη (ΤΝ), ιδιαίτερα στον τομέα των Φονικών Αυτόνομων Οπλικών Συστημάτων (LAWS).
Η ανησυχία του Βατικανού πηγάζει από την πεποίθηση ότι η μεταβίβαση της απόφασης για τη ζωή και τον θάνατο σε έναν αλγόριθμο στερεί από την ανθρωπότητα την ίδια της την ουσία. Καθώς οι μεγάλες δυνάμεις του πλανήτη επιδίδονται σε έναν νέο ανταγωνισμό εξοπλισμών, αυτή τη φορά με όπλο τον κώδικα και τα δεδομένα, η φωνή της Ρώμης αντηχεί ως μια προειδοποίηση για τους κινδύνους ενός «αποστειρωμένου» πολέμου, όπου η ευθύνη διαχέεται και η ηθική εκμηδενίζεται.
Το Δόγμα της «Αλγορηθικής» (Algorethics)
Ο όρος «Algorethics», που εισήχθη από το Βατικανό, αποτελεί τον ακρογωνιαίο λίθο της στρατηγικής του. Δεν πρόκειται για μια απλή άρνηση της προόδου, αλλά για ένα πλαίσιο που απαιτεί η ανάπτυξη της ΤΝ να καθοδηγείται από αξίες όπως η διαφάνεια, η συμπερίληψη και η λογοδοσία. Στο πλαίσιο των πολεμικών συγκρούσεων, η «Αλγορηθική» επιτάσσει την ύπαρξη «ουσιαστικού ανθρώπινου ελέγχου» (meaningful human control) σε κάθε στάδιο της χρήσης βίας.
Το Βατικανό υποστηρίζει ότι οι μηχανές δεν διαθέτουν τη συνείδηση, την ενσυναίσθηση ή την ικανότητα κρίσης που απαιτείται για την εφαρμογή των κανόνων του Διεθνούς Ανθρωπιστικού Δικαίου. Ένας αλγόριθμος μπορεί να αναγνωρίσει ένα σχήμα, αλλά δεν μπορεί να κατανοήσει το πλαίσιο μιας παράδοσης ή τον δισταγμό στο βλέμμα ενός αμάχου. Η ανησυχία είναι ότι η αυτοματοποίηση θα μειώσει το κατώφλι της εισόδου σε μια σύγκρουση, καθιστώντας τον πόλεμο πιο «εύκολο» για τις κυβερνήσεις, καθώς οι ανθρώπινες απώλειες των επιτιθέμενων θα ελαχιστοποιούνται μέσω της χρήσης ρομπότ.
Αυτόνομα Όπλα και το Κενό Λογοδοσίας
Ένα από τα πιο κρίσιμα σημεία της επιχειρηματολογίας της Αγίας Έδρας αφορά το «κενό λογοδοσίας». Σε περίπτωση που ένα αυτόνομο σύστημα διαπράξει ένα έγκλημα πολέμου, ποιος φέρει την ευθύνη; Ο προγραμματιστής; Ο διοικητής που έδωσε την εντολή ενεργοποίησης; Ή η ίδια η μηχανή; Η ασάφεια αυτή δημιουργεί ένα νομικό και ηθικό χάος που θα μπορούσε να επιτρέψει σε κράτη και στρατιωτικούς οργανισμούς να αποφύγουν τις συνέπειες των πράξεών τους.
- Η έλλειψη ηθικής κρίσης στις μηχανές καθιστά αδύνατη τη διάκριση μεταξύ μαχητών και αμάχων σε σύνθετα περιβάλλοντα.
- Η πιθανότητα απρόβλεπτης συμπεριφοράς των συστημάτων ΤΝ (το λεγόμενο «black box» effect) αυξάνει τον κίνδυνο ακούσιας κλιμάκωσης.
- Η αποανθρωποποίηση του αντιπάλου μέσω της οθόνης και του αλγορίθμου μειώνει τις ηθικές αναστολές των χειριστών.
«Κανένα μηχάνημα δεν πρέπει ποτέ να επιλέγει να αφαιρέσει τη ζωή ενός ανθρώπου. Η απόφαση αυτή πρέπει να παραμείνει στα χέρια των ανθρώπων, οι οποίοι φέρουν και το βάρος της ευθύνης», έχει δηλώσει χαρακτηριστικά ο Πάπας Φραγκίσκος.
Η Διπλωματία του Βατικανού στη Διεθνή Σκηνή
Η παρέμβαση του Βατικανού δεν περιορίζεται σε κηρύγματα. Η Αγία Έδρα συμμετέχει ενεργά στις συζητήσεις των Ηνωμένων Εθνών στη Γενεύη για τη Σύμβαση για Ορισμένα Συμβατικά Όπλα (CCW). Εκεί, οι διπλωμάτες του Βατικανού πιέζουν για μια νομικά δεσμευτική συνθήκη που θα απαγορεύει τα πλήρως αυτόνομα όπλα. Η συμμετοχή του Πάπα στη σύνοδο της G7 στην Ιταλία το 2024 αποτέλεσε ιστορικό ορόσημο, καθώς ήταν η πρώτη φορά που ένας προκαθήμενος της Καθολικής Εκκλησίας απευθύνθηκε άμεσα στους ηγέτες των ισχυρότερων οικονομιών για το ζήτημα της ΤΝ.
Η στρατηγική αυτή φαίνεται να αποδίδει καρπούς, καθώς δημιουργεί μια ηθική πίεση που οι πολιτικοί ηγέτες δυσκολεύονται να αγνοήσουν. Ωστόσο, οι προκλήσεις παραμένουν τεράστιες. Κράτη όπως οι ΗΠΑ, η Ρωσία και η Κίνα επενδύουν δισεκατομμύρια στην στρατιωτική ΤΝ, θεωρώντας την απαραίτητη για την εθνική τους ασφάλεια. Το Βατικανό καλείται να γεφυρώσει το χάσμα μεταξύ της ηθικής αναγκαιότητας και της γεωπολιτικής πραγματικότητας, προτείνοντας έναν «τεχνολογικό ανθρωπισμό» που θα θέτει την τεχνολογία στην υπηρεσία της ειρήνης και όχι της καταστροφής.
Συμπεράσματα: Μια Μάχη για το Μέλλον της Ανθρωπότητας
Η στάση του Βατικανού απέναντι στην Τεχνητή Νοημοσύνη στον πόλεμο δεν είναι μια προσπάθεια επιστροφής στο παρελθόν, αλλά μια αγωνιώδης προσπάθεια διασφάλισης του μέλλοντος. Καθώς τα σύνορα μεταξύ ανθρώπου και μηχανής γίνονται ολοένα και πιο δυσδιάκριτα, η ανάγκη για σαφείς ηθικές γραμμές γίνεται επιτακτική. Η Αγία Έδρα υπενθυμίζει στον κόσμο ότι η τεχνική πρόοδος χωρίς ηθική πυξίδα οδηγεί αναπόφευκτα στην αυτοκαταστροφή. Η μάχη για τον έλεγχο των αλγορίθμων στα πεδία των μαχών είναι, στην πραγματικότητα, μια μάχη για τη διατήρηση της ανθρώπινης αξιοπρέπειας σε έναν ψηφιοποιημένο κόσμο.
