Σε μια κίνηση που αναμένεται να αναδιαμορφώσει το παγκόσμιο ηθικό πλαίσιο γύρω από την τεχνολογία, ο Πάπας Λέων ΙΔ' εξέδωσε τη Δευτέρα ένα εκτενές μανιφέστο που καλεί στον άμεσο «αφοπλισμό» της τεχνητής νοημοσύνης (AI). Από το Βατικανό, ο Ποντίφικας εξέφρασε την έντονη ανησυχία του για την ταχύτητα με την οποία αναπτύσσονται τα αυτόνομα συστήματα, προειδοποιώντας ότι χωρίς αυστηρά ηθικά όρια, η ανθρωπότητα κινδυνεύει να διολισθήσει σε «νέες μορφές δουλείας».
Το έγγραφο, το οποίο φέρει τον τίτλο «Humanitas et Machina» (Ανθρωπότητα και Μηχανή), δεν περιορίζεται μόνο στη στρατιωτική χρήση της AI, αλλά επεκτείνεται στις κοινωνικές και οικονομικές δομές που επιβάλλουν οι αλγόριθμοι στην καθημερινή ζωή. Ο Πάπας υποστήριξε ότι η τεχνολογία, όταν στερείται πνευματικής και ηθικής καθοδήγησης, παύει να υπηρετεί τον άνθρωπο και αρχίζει να τον καταδυναστεύει, μετατρέποντας το άτομο σε ένα απλό σύνολο δεδομένων προς εκμετάλλευση.
Ο «Αφοπλισμός» ως Ηθική Επιταγή
Η χρήση του όρου «αφοπλισμός» από τον Πάπας Λέων ΙΔ' είναι πολυεπίπεδη. Ενώ προφανώς αναφέρεται στα φονικά αυτόνομα οπλικά συστήματα (LAWS) —τα λεγόμενα «ρομπότ δολοφόνους»— ο Ποντίφικας επεκτείνει την έννοια στον «αφοπλισμό των αλγορίθμων» από την ικανότητά τους να χειραγωγούν την ανθρώπινη βούληση. Σύμφωνα με το μανιφέστο, η AI πρέπει να απογυμνωθεί από τα χαρακτηριστικά εκείνα που της επιτρέπουν να λαμβάνει αποφάσεις ζωτικής σημασίας χωρίς ανθρώπινη παρέμβαση.
- Ηθική Λήψη Αποφάσεων: Ο Πάπας τονίζει ότι η κρίση, η ευσπλαχνία και η ηθική ευθύνη είναι αποκλειστικά ανθρώπινα χαρακτηριστικά που δεν μπορούν να κωδικοποιηθούν.
- Διαφάνεια και Έλεγχος: Ζητά τον πλήρη έλεγχο των «μαύρων κουτιών» (black-box algorithms) που καθορίζουν την πρόσβαση στην εργασία, την υγεία και την κοινωνική πρόνοια.
- Προστασία των Ευάλωτων: Ιδιαίτερη έμφαση δίνεται στον τρόπο με τον οποίο η AI μπορεί να ενισχύσει τις ανισότητες στον Παγκόσμιο Νότο.
Η Απειλή της «Νέας Δουλείας»
Ίσως το πιο συγκλονιστικό σημείο του μανιφέστου είναι η αναφορά σε «νέες μορφές δουλείας». Ο Πάπας Λέων ΙΔ' περιγράφει μια πραγματικότητα όπου οι εργαζόμενοι στην οικονομία της πλατφόρμας (gig economy) και οι «ανώνυμοι» εκπαιδευτές δεδομένων σε αναπτυσσόμενες χώρες ζουν υπό το καθεστώς ενός αόρατου, ψηφιακού δεσποτισμού. «Όταν ένας αλγόριθμος υπαγορεύει τον ρυθμό της αναπνοής ενός εργάτη ή την αξία της επιβίωσής του, έχουμε επιστρέψει στις πιο σκοτεινές εποχές της ιστορίας μας, ντυμένες με τον μανδύα της προόδου», αναφέρει χαρακτηριστικά το κείμενο.
Η κριτική αυτή στρέφεται άμεσα κατά των μεγάλων τεχνολογικών κολοσσών της Silicon Valley και της Ανατολικής Ασίας. Το Βατικανό υποστηρίζει ότι η συγκέντρωση τόσης ισχύος σε λίγα χέρια, μέσω της κατοχής των δεδομένων και των υπολογιστικών πόρων, δημιουργεί μια νέα φεουδαρχία. Ο Πάπας καλεί τους πιστούς, αλλά και κάθε άνθρωπο καλής θέλησης, να αντισταθούν στην «ειδωλολατρία της αποτελεσματικότητας» που θυσιάζει την ανθρώπινη επαφή στον βωμό της ταχύτητας.
Η Αντίδραση της Διεθνούς Κοινότητας
Το μανιφέστο έρχεται σε μια κρίσιμη στιγμή, καθώς η Ευρωπαϊκή Ένωση και οι Ηνωμένες Πολιτείες βρίσκονται σε διαβουλεύσεις για την αυστηροποίηση των κανονισμών περί AI. Πολιτικοί ηγέτες χαιρέτισαν την παρέμβαση ως μια «φωνή συνείδησης» σε μια εποχή τεχνολογικής ευφορίας. Ωστόσο, ορισμένοι αναλυτές επισημαίνουν ότι ο «αφοπλισμός» που προτείνει ο Πάπας μπορεί να συναντήσει σθεναρή αντίσταση από τις αμυντικές βιομηχανίες και τις εταιρείες που βασίζονται στην αυτοματοποίηση για τη μεγιστοποίηση του κέρδους.
«Η τεχνολογία είναι δώρο από τον Θεό, αλλά πρέπει να παραμείνει εργαλείο στα χέρια του δημιουργού, όχι ο δεσμοφύλακας της ψυχής του.» — Πάπας Λέων ΙΔ'
Το Βατικανό σχεδιάζει τώρα μια σειρά από διεθνή συνέδρια, προσκαλώντας επιστήμονες, ηθικολόγους και προγραμματιστές να συζητήσουν την εφαρμογή της «Algor-ethics» (Αλγορ-ηθικής). Στόχος είναι η δημιουργία ενός διεθνούς δεσμευτικού πρωτοκόλλου που θα διασφαλίζει ότι η τεχνητή νοημοσύνη θα παραμείνει «ανθρωποκεντρική» και δεν θα χρησιμοποιηθεί ποτέ για την υποτίμηση της ανθρώπινης ζωής.
