Σε μια εποχή όπου η τεχνολογική πρόοδος συχνά ξεπερνά την ηθική μας εγρήγορση, το Βατικανό αναδεικνύεται σε έναν απρόσμενο αλλά δυναμικό ρυθμιστή της ψηφιακής εποχής. Ο Πάπας Λέων, με μια σειρά από παρεμβάσεις που κορυφώθηκαν πρόσφατα, έθεσε το ζήτημα του «αφοπλισμού» της Τεχνητής Νοημοσύνης (ΤΝ) στο επίκεντρο της παγκόσμιας ατζέντας. Δεν πρόκειται απλώς για μια θρησκευτική έκκληση, αλλά για μια βαθιά πολιτική και φιλοσοφική ανάλυση των κινδύνων που ελλοχεύουν στην ανεξέλεγκτη χρήση των αλγορίθμων.
Η έννοια της «Αλγορηθικής» (Algor-ethics)
Ο όρος «αλγορηθική», που εισήχθη από την Αγία Έδρα, αποτελεί το θεμέλιο της στάσης του Πάπα. Σύμφωνα με το όραμα του Πάπα Λέοντα, η Τεχνητή Νοημοσύνη δεν πρέπει να θεωρείται ένα ουδέτερο εργαλείο, αλλά μια δύναμη που φέρει εγγενείς αξίες και προκαταλήψεις. Ο Ποντίφικας υποστηρίζει ότι αν δεν εμφυσήσουμε ηθικές αρχές στον ίδιο τον κώδικα των συστημάτων αυτών, κινδυνεύουμε να δημιουργήσουμε μια κοινωνία όπου οι αποφάσεις για τη ζωή, τον θάνατο και την ανθρώπινη αξιοπρέπεια θα λαμβάνονται από αδιαφανή μαθηματικά μοντέλα.
Η ανησυχία του Βατικανού εστιάζεται στην «αποανθρωποποίηση» της λήψης αποφάσεων. Όταν ένας αλγόριθμος καθορίζει ποιος δικαιούται τραπεζικό δάνειο, ποιος θεωρείται ύποπτος από τις αρχές ή ποιος πρέπει να λάβει ιατρική περίθαλψη, η ανθρώπινη κρίση παραμερίζεται. Ο Πάπας Λέων τονίζει ότι η ευσπλαχνία, η κατανόηση του πλαισίου και η ηθική ευθύνη είναι ιδιότητες που καμία μηχανή δεν μπορεί να αναπαράγει πλήρως.
Αφοπλίζοντας τις Φονικές Μηχανές
Το πιο πιεστικό σημείο της έκκλησης του Πάπα αφορά τα Αυτόνομα Οπλικά Συστήματα (LAWS). Η χρήση της ΤΝ σε πολεμικές συγκρούσεις, όπου οι μηχανές μπορούν να επιλέγουν και να εξουδετερώνουν στόχους χωρίς ανθρώπινη παρέμβαση, αποτελεί για την Εκκλησία μια κόκκινη γραμμή. Ο Πάπας χρησιμοποιεί τον όρο «αφοπλισμός» όχι μόνο με την κυριολεκτική έννοια της απομάκρυνσης των όπλων, αλλά και με τη μεταφορική έννοια της αφαίρεσης της εξουσίας από τα συστήματα που δεν διαθέτουν ηθική συνείδηση.
- Η ανάγκη για μόνιμο ανθρώπινο έλεγχο (Human-in-the-loop) σε κάθε στρατιωτική απόφαση.
- Η απαγόρευση αλγορίθμων που στοχεύουν βάσει φυλετικών ή κοινωνικών χαρακτηριστικών.
- Η διαφάνεια στις προμήθειες αμυντικού εξοπλισμού που βασίζεται στην ΤΝ.
Ο Πάπας προειδοποιεί ότι ο πόλεμος, αν αφεθεί στην ΤΝ, θα γίνει ακόμα πιο απρόσωπος και επικίνδυνος, καθώς η ταχύτητα των αλγορίθμων μπορεί να οδηγήσει σε κλιμακώσεις που κανένας άνθρωπος δεν θα προλάβει να ανακόψει. Η «ψηφιακή ειρήνη», όπως την αποκαλεί, απαιτεί διεθνείς συνθήκες που θα περιορίζουν την αυτονομία των μηχανών στο πεδίο της μάχης.
Κοινωνική Δικαιοσύνη και Ψηφιακός Αποκλεισμός
Πέρα από τον πόλεμο, ο Πάπας Λέων στρέφει την προσοχή του στις κοινωνικές ανισότητες που διευρύνονται από την ΤΝ. Στην εγκύκλιό του, αναφέρεται στον κίνδυνο μιας «αλγοριθμικής δικτατορίας» που περιθωριοποιεί τους ήδη ευάλωτους. Οι αλγόριθμοι συχνά εκπαιδεύονται σε δεδομένα που αντικατοπτρίζουν ιστορικές αδικίες, με αποτέλεσμα να αναπαράγουν και να ενισχύουν τις διακρίσεις κατά των φτωχών, των μεταναστών και των μειονοτήτων.
«Η τεχνολογία πρέπει να υπηρετεί την ανθρωπότητα, όχι να την ταξινομεί σε κατηγορίες αξίας», δήλωσε ο Πάπας σε πρόσφατη ομιλία του στο Βατικανό.
Η πρότασή του περιλαμβάνει τη δημιουργία ενός παγκόσμιου οργανισμού εποπτείας της ΤΝ, στα πρότυπα του Διεθνούς Οργανισμού Ατομικής Ενέργειας. Στόχος θα είναι η διασφάλιση ότι η ΤΝ χρησιμοποιείται για την επίλυση των μεγάλων προβλημάτων της ανθρωπότητας, όπως η κλιματική αλλαγή και η πείνα, αντί να αποτελεί εργαλείο επιτήρησης και χειραγώγησης των μαζών.
Το Μέλλον της Ανθρωπότητας στην Εποχή των Μηχανών
Ο αγώνας του Πάπα Λέοντα δεν είναι μια μάχη κατά της προόδου, αλλά μια μάχη για τη διατήρηση της ανθρώπινης ουσίας. Καθώς η ΤΝ ενσωματώνεται όλο και περισσότερο στην καθημερινότητά μας, το ερώτημα που θέτει το Βατικανό είναι θεμελιώδες: Τι σημαίνει να είσαι άνθρωπος σε έναν κόσμο που κυβερνάται από δεδομένα; Η απάντηση, σύμφωνα με τον Ποντίφικα, βρίσκεται στην αλληλεγγύη και στην αναγνώριση της ιερότητας της ανθρώπινης ζωής, στοιχεία που κανένας κώδικας δεν μπορεί να κωδικοποιήσει. Ο «αφοπλισμός» της ΤΝ είναι, σε τελική ανάλυση, η πράξη της επιστροφής των κλειδιών του μέλλοντός μας στα χέρια των ανθρώπων.
