Σε μια εποχή που η τεχνολογική εξέλιξη μοιάζει να τρέχει με ταχύτητες που ξεπερνούν την ανθρώπινη ικανότητα κατανόησης, μια απροσδόκητη φωνή υψώνεται από τα τείχη του Βατικανού για να θέσει το πιο θεμελιώδες ερώτημα: Τι σημαίνει να είσαι άνθρωπος στην εποχή των αλγορίθμων; Ο Πάπας Φραγκίσκος, μέσω ενός εκτενούς μανιφέστου, δεν περιορίζεται σε γενικόλογες ευχές, αλλά προχωρά σε μια τολμηρή έκκληση για τη δημιουργία μιας διεθνούς, νομικά δεσμευτικής συνθήκης που θα διέπει την ανάπτυξη και τη χρήση της Τεχνητής Νοημοσύνης (ΤΝ).
Η Ανάγκη για «Αλγορηθική» (Algor-ethics)
Ο όρος «algorethics», τον οποίο εισήγαγε το Βατικανό, αποτελεί τον ακρογωνιαίο λίθο της παπικής προσέγγισης. Δεν πρόκειται απλώς για μια ηθική προσέγγιση της τεχνολογίας, αλλά για μια προσπάθεια να εμφυσηθούν ανθρώπινες αξίες στον ίδιο τον κώδικα των συστημάτων ΤΝ. Ο Πάπας προειδοποιεί ότι χωρίς ένα ηθικό πλαίσιο, η τεχνολογία κινδυνεύει να μετατραπεί σε ένα εργαλείο «τεχνοκρατικής κυριαρχίας», όπου οι αποφάσεις για τη ζωή, τον θάνατο, την εργασία και την κοινωνική ένταξη θα λαμβάνονται από αδιαφανείς αλγορίθμους.
Σύμφωνα με το μανιφέστο, η ΤΝ δεν είναι ουδέτερη. Κάθε αλγόριθμος εμπεριέχει τις προκαταλήψεις των δημιουργών του και τις προτεραιότητες των εταιρειών που τον χρηματοδοτούν. Ο Φραγκίσκος τονίζει ότι αν η μοναδική αξία που καθοδηγεί την ΤΝ είναι το κέρδος ή η αποτελεσματικότητα, τότε οι πιο ευάλωτοι της κοινωνίας —οι φτωχοί, οι μετανάστες, οι ηλικιωμένοι— θα βρεθούν στο περιθώριο μιας νέας, ψηφιακής κάστας.
Αυτόνομα Όπλα και η Αποποίηση της Ευθύνης
Μία από τις πιο έντονες προειδοποιήσεις του Ποντίφικα αφορά τη χρήση της ΤΝ στον στρατιωτικό τομέα. Η προοπτική των «φονικών αυτόνομων οπλικών συστημάτων» (LAWS) περιγράφεται ως μια ηθική καταστροφή. Ο Πάπας υποστηρίζει ότι η απόφαση για το τέλος μιας ανθρώπινης ζωής δεν μπορεί και δεν πρέπει ποτέ να ανατίθεται σε μια μηχανή. Η έλλειψη «ανθρώπινης εποπτείας» στις πολεμικές επιχειρήσεις δεν δημιουργεί μόνο νομικά κενά ως προς την απόδοση ευθυνών, αλλά διαβρώνει την ίδια την έννοια της ηθικής συνείδησης.
«Κανένας αλγόριθμος δεν μπορεί να αντικαταστήσει την ανθρώπινη καρδιά, τη συμπόνια και την κρίση που πηγάζει από την εμπειρία της ζωής», αναφέρει χαρακτηριστικά το κείμενο.
Η ανησυχία αυτή επεκτείνεται και στην αστυνόμευση και την κοινωνική επιτήρηση. Η χρήση λογισμικού αναγνώρισης προσώπου και αλγορίθμων πρόβλεψης εγκληματικότητας μπορεί, κατά τον Πάπα, να οδηγήσει σε μια κοινωνία μόνιμης υποψίας, όπου η ελευθερία του ατόμου θυσιάζεται στον βωμό μιας ψευδαισθητικής ασφάλειας.
Η Πρόκληση της Παγκόσμιας Διακυβέρνησης
Ο Φραγκίσκος αναγνωρίζει ότι καμία χώρα δεν μπορεί να αντιμετωπίσει μόνη της τις προκλήσεις της ΤΝ. Ζητά μια παγκόσμια συναίνεση, παρόμοια με τις διεθνείς συνθήκες για τα πυρηνικά όπλα ή την κλιματική αλλαγή. Η πρότασή του για μια «διεθνή συνθήκη» στοχεύει στην αποτροπή ενός άναρχου ανταγωνισμού μεταξύ κρατών και εταιρειών, ο οποίος θα μπορούσε να οδηγήσει σε μια «κούρσα εξοπλισμών» Τεχνητής Νοημοσύνης.
- Διαφάνεια: Οι αλγόριθμοι πρέπει να είναι εξηγήσιμοι και προσβάσιμοι σε δημόσιο έλεγχο.
- Συμπερίληψη: Οι αναπτυσσόμενες χώρες πρέπει να έχουν φωνή στη διαμόρφωση των προτύπων της ΤΝ, ώστε να μην υποστούν μια νέα μορφή «ψηφιακής αποικιοκρατίας».
- Εκπαίδευση: Η παιδεία πρέπει να εστιάσει στην κριτική σκέψη, ώστε οι πολίτες να μην γίνονται έρμαια της παραπληροφόρησης που παράγεται από την ΤΝ.
Στο κλείσιμο του μανιφέστου του, ο Πάπας Φραγκίσκος απευθύνει μια έκκληση προς τους επιστήμονες και τους προγραμματιστές: να θυμούνται ότι η επιστήμη πρέπει να υπηρετεί τον άνθρωπο και όχι το αντίστροφο. Η Τεχνητή Νοημοσύνη μπορεί να είναι μια μεγάλη ευλογία για την ιατρική, την προστασία του περιβάλλοντος και την επικοινωνία, αλλά μόνο αν παραμείνει υπό τον έλεγχο μιας ηθικής που αναγνωρίζει την ιερότητα της ανθρώπινης ζωής.
