Από την καρδιά του Βατικανού, σε μια κίνηση που αναμένεται να αναδιαμορφώσει τον παγκόσμιο διάλογο για την τεχνολογία, ο Πάπας Λέων ΙΔ' εξέδωσε τη Δευτέρα ένα εκρηκτικό μανιφέστο. Το κείμενο, το οποίο αποτελεί την πιο ολοκληρωμένη θεολογική και πολιτική τοποθέτηση της Καθολικής Εκκλησίας μέχρι σήμερα, καλεί σε έναν επείγοντα «αφοπλισμό» της Τεχνητής Νοημοσύνης (ΤΝ). Δεν πρόκειται απλώς για μια έκκληση περιορισμού των αυτόνομων όπλων, αλλά για μια βαθιά κριτική στον τρόπο με τον οποίο η τεχνολογία αυτή αναδιατάσσει την ανθρώπινη κοινωνία, οδηγώντας, σύμφωνα με τον Ποντίφικα, σε «νέες μορφές σκλαβιάς».
Ο «Αφοπλισμός» ως Ηθική Επιταγή
Η χρήση της λέξης «αφοπλισμός» από τον Πάπα δεν είναι τυχαία. Στο μανιφέστο του, ο Λέων ΙΔ' επιχειρεί μια εννοιολογική επέκταση του όρου. Ενώ παραδοσιακά ο αφοπλισμός αφορά την απόσυρση πυρηνικών ή συμβατικών όπλων, εδώ αναφέρεται στην αποδυνάμωση της αλγοριθμικής ισχύος που χρησιμοποιείται για τον έλεγχο των μαζών, τη χειραγώγηση της κοινής γνώμης και την επιβολή ψηφιακών αυταρχικών καθεστώτων. Ο Ποντίφικας υποστηρίζει ότι όταν η ΤΝ καθίσταται εργαλείο μεγιστοποίησης του κέρδους εις βάρος της ανθρώπινης αξιοπρέπειας, μετατρέπεται σε όπλο μαζικής κοινωνικής καταστροφής.
Το Βατικανό εστιάζει ιδιαίτερα στα «Φονικά Αυτόνομα Οπλικά Συστήματα» (LAWS), τονίζοντας ότι η απόφαση για τη ζωή και τον θάνατο δεν πρέπει ποτέ να ανατίθεται σε έναν αλγόριθμο. Ωστόσο, η ανάλυση προχωρά βαθύτερα, εξετάζοντας τον «αφοπλισμό» της ίδιας της λογικής της αποτελεσματικότητας που παραμερίζει την ευσπλαχνία. Η έκκληση απευθύνεται τόσο στις κυβερνήσεις όσο και στους τεχνολογικούς κολοσσούς της Silicon Valley, ζητώντας διαφάνεια και, κυρίως, τη δυνατότητα «ανθρώπινης παρέμβασης» (human-in-the-loop) σε κάθε κρίσιμη απόφαση.
Οι Νέες Μορφές Σκλαβιάς στην Ψηφιακή Εποχή
Ίσως το πιο συγκλονιστικό τμήμα του μανιφέστου είναι η προειδοποίηση για την αναβίωση της δουλείας υπό νέο μανδύα. Ο Πάπας Λέων ΙΔ' περιγράφει μια πραγματικότητα όπου εκατομμύρια άνθρωποι μετατρέπονται σε «ψηφιακούς δουλοπάροικους». Αναφέρεται στους εργαζόμενους της gig economy που ελέγχονται από αμείλικτους αλγορίθμους, στους «αόρατους» εργάτες δεδομένων στον αναπτυσσόμενο κόσμο που εκπαιδεύουν μοντέλα ΤΝ κάτω από άθλιες συνθήκες, αλλά και στον μέσο χρήστη που «πουλά» την ιδιωτικότητά του για λίγη ψηφιακή άνεση.
«Η ελευθερία του πνεύματος κινδυνεύει να θυσιαστεί στον βωμό της προγνωστικής βεβαιότητας. Όταν η μηχανή γνωρίζει τι θα επιλέξετε πριν από εσάς, η ελεύθερη βούληση παύει να υφίσταται», γράφει ο Ποντίφικας.
Αυτή η «νέα σκλαβιά» δεν χαρακτηρίζεται από αλυσίδες, αλλά από κώδικα. Ο Λέων ΙΔ' επισημαίνει ότι η εξάρτηση από την ΤΝ για τη λήψη ηθικών αποφάσεων οδηγεί σε μια πνευματική ατροφία. Η κριτική του στρέφεται επίσης κατά του «αλγοριθμικού φεουδαρχισμού», όπου μια μικρή ελίτ κατέχει τα μέσα παραγωγής της γνώσης, ενώ η υπόλοιπη ανθρωπότητα απλώς καταναλώνει προκατασκευασμένες αλήθειες.
Η Ανάγκη για μια «Αλγορηθική» (Algor-ethics)
Συνεχίζοντας το έργο των προκατόχων του, ο Πάπας προωθεί την έννοια της «Αλγορηθικής» (Algor-ethics) – έναν όρο που συνδυάζει τους αλγορίθμους με την ηθική. Το μανιφέστο προτείνει τη δημιουργία ενός διεθνούς οργανισμού, υπό την αιγίδα του ΟΗΕ, που θα επιβλέπει την ανάπτυξη της ΤΝ με γνώμονα τα ανθρώπινα δικαιώματα. Δεν είναι μια φωνή κατά της προόδου, αλλά μια φωνή για μια πρόοδο που θα είναι «πραγματικά ανθρώπινη».
Η παρέμβαση αυτή έρχεται σε μια στιγμή που η παγκόσμια κοινότητα βρίσκεται σε σταυροδρόμι. Με τις εκλογές σε πολλές χώρες να απειλούνται από deepfakes και την ανισότητα να διευρύνεται λόγω του αυτοματισμού, το μανιφέστο του Βατικανού λειτουργεί ως ηθική πυξίδα. Ο Πάπας καταλήγει με μια έκκληση προς τους επιστήμονες και τους προγραμματιστές: «Είστε οι φύλακες του αδελφού σας. Μην επιτρέψετε στον κώδικα να γίνει ο δεσμοφύλακας της ανθρωπότητας».
Συμπεράσματα και Προοπτικές
Η επίδραση αυτού του κειμένου αναμένεται να είναι μακροπρόθεσμη. Ήδη, καθολικές οργανώσεις και ακτιβιστές για τα ανθρώπινα δικαιώματα προετοιμάζουν καμπάνιες βασισμένες στις αρχές του μανιφέστου. Η πρόκληση πλέον μεταφέρεται στα κέντρα λήψης αποφάσεων: Θα μπορέσει η πολιτική εξουσία να επιβάλει όρια στην τεχνολογική υπεροπλία ή ο «ψηφιακός Λεβιάθαν» θα συνεχίσει την ακάθεκτη πορεία του; Ο Λέων ΙΔ' έκανε την αρχή, υπενθυμίζοντας ότι η τεχνολογία είναι ένας καλός υπηρέτης, αλλά ένας επικίνδυνος αφέντης.
