Σε μια εποχή όπου η τεχνολογική πρόοδος συχνά ξεπερνά την ηθική μας ετοιμότητα, ο Πάπας Φραγκίσκος αναδύεται ως μια από τις πιο ηχηρές φωνές που ζητούν χαλινάρι στην ανεξέλεγκτη ανάπτυξη της Τεχνητής Νοημοσύνης (ΤΝ). Η πρόσφατη παρέμβασή του, η οποία μεταδόθηκε από το Reuters, δεν αποτελεί απλώς μια θρησκευτική έκκληση, αλλά μια βαθιά πολιτική και ανθρωπιστική προειδοποίηση για το μέλλον του πολέμου και της ίδιας της ανθρώπινης αξιοπρέπειας. Ο Ποντίφικας υπογραμμίζει ότι ορισμένα οπλικά συστήματα έχουν ήδη αρχίσει να ξεφεύγουν από τον «ουσιαστικό ανθρώπινο έλεγχο», δημιουργώντας ένα επικίνδυνο κενό ευθύνης.
Η «Αλγο-ηθική» ως Αντίβαρο στην Αυτοματοποιημένη Βία
Ο Πάπας Φραγκίσκος εισήγαγε τον όρο «αλγο-ηθική» (algor-ethics) για να περιγράψει την ανάγκη ενσωμάτωσης ηθικών αξιών στους αλγορίθμους που διέπουν τη ζωή μας. Στην τελευταία του έκκληση, εστιάζει στα Φονικά Αυτόνομα Οπλικά Συστήματα (LAWS), τα οποία αποκαλεί απειλή για την ίδια την έννοια της ανθρωπότητας. Σύμφωνα με το Βατικανό, η απόφαση για τη ζωή ή τον θάνατο ενός ανθρώπου δεν μπορεί και δεν πρέπει ποτέ να ανατίθεται σε μια μηχανή, όσο εξελιγμένη κι αν είναι. Η μηχανή στερείται συνείδησης, ελέου και, κυρίως, της ικανότητας να αντιλαμβάνεται το πλαίσιο της ανθρώπινης ύπαρξης.
Η ανησυχία του Πάπα εδράζεται στο γεγονός ότι η ΤΝ μπορεί να επιταχύνει τις συγκρούσεις σε τέτοιο βαθμό, ώστε η ανθρώπινη παρέμβαση να καθίσταται αδύνατη. Όταν οι αποφάσεις λαμβάνονται σε χιλιοστά του δευτερολέπτου από αλγορίθμους που έχουν εκπαιδευτεί σε δεδομένα του παρελθόντος, ο κίνδυνος κλιμάκωσης από λάθος ή από μια απρόβλεπτη «παραισθητική» συμπεριφορά του μοντέλου αυξάνεται εκθετικά. Για την Αγία Έδρα, αυτό δεν είναι μόνο ένα τεχνικό ζήτημα, αλλά μια θεμελιώδης προσβολή προς τη δημιουργία.
Η Γεωπολιτική Σκακιέρα και η Αντίσταση των Μεγάλων Δυνάμεων
Παρά τις εκκλήσεις του Ποντίφικα και πολλών διεθνών οργανισμών, η πραγματικότητα στο πεδίο των διεθνών σχέσεων παραμένει σκληρή. Οι μεγάλες δυνάμεις —οι ΗΠΑ, η Κίνα και η Ρωσία— βρίσκονται σε έναν αμείλικτο αγώνα δρόμου για την υπεροχή στην ΤΝ. Η στρατιωτική ισχύς στον 21ο αιώνα δεν μετριέται πλέον μόνο με πυρηνικές κεφαλές, αλλά με την ταχύτητα και την ακρίβεια των αυτόνομων συστημάτων. Η προειδοποίηση του Πάπα ότι τα όπλα αυτά είναι «πέρα από τον ανθρώπινο έλεγχο» έρχεται σε μια στιγμή που τα drones με δυνατότητα αυτόνομης στόχευσης χρησιμοποιούνται ήδη σε ενεργά μέτωπα, από την Ουκρανία έως τη Μέση Ανατολή.
Η παρέμβαση του Φραγκίσκου στοχεύει στην ευαισθητοποίηση των ηγετών της G7 και άλλων διεθνών φόρουμ, ζητώντας μια δεσμευτική διεθνή συνθήκη που θα απαγορεύει τα πλήρως αυτόνομα όπλα. Ωστόσο, η δυσκολία έγκειται στον ορισμό του «ουσιαστικού ανθρώπινου ελέγχου». Τι σημαίνει αυτό στην πράξη; Είναι αρκετό ένας άνθρωπος να πατάει απλώς ένα κουμπί επιβεβαίωσης βασιζόμενος σε δεδομένα που του σερβίρει η ΤΝ, ή απαιτείται μια βαθύτερη κρίση που η τεχνολογία τείνει να παρακάμπτει;
Προς μια Παγκόσμια Ρυθμιστική Αρχή;
Ο Πάας δεν περιορίζεται μόνο στην ηθική καταδίκη, αλλά προτείνει συγκεκριμένα βήματα για τη διακυβέρνηση της ΤΝ. Ζητά τη δημιουργία ενός διεθνούς πλαισίου που θα διασφαλίζει ότι η τεχνολογία θα παραμείνει στην υπηρεσία του ανθρώπου και όχι το αντίστροφο. Η ανησυχία του είναι ότι η ΤΝ θα μπορούσε να χρησιμοποιηθεί για να παγιώσει την ανισότητα και να απομονώσει ακόμα περισσότερο τις λήψεις αποφάσεων από την κοινωνική ευθύνη.
- Η ανάγκη για διαφάνεια στους αλγορίθμους στόχευσης.
- Η θέσπιση νομικής ευθύνης για τους δημιουργούς και τους χειριστές των συστημάτων.
- Η προστασία των αμάχων από αλγοριθμικά σφάλματα.
«Κανένα μηχάνημα δεν πρέπει ποτέ να επιλέγει να αφαιρέσει τη ζωή ενός ανθρώπου. Η απόφαση αυτή ανήκει αποκλειστικά στην καρδιά και την κρίση του ανθρώπου, που λογοδοτεί στον Θεό και την ανθρωπότητα.»
Συμπερασματικά, η κραυγή αγωνίας του Πάπα Φραγκίσκου αποτελεί μια υπενθύμιση ότι η τεχνολογία δεν είναι ουδέτερη. Κάθε κώδικας που γράφεται εμπεριέχει μια κοσμοθεωρία. Αν επιτρέψουμε στον πόλεμο να γίνει μια μαθηματική εξίσωση, κινδυνεύουμε να χάσουμε την ίδια την ουσία της ειρήνης. Η διεθνής κοινότητα καλείται τώρα να αποφασίσει αν θα ακολουθήσει το μονοπάτι της ανεξέλεγκτης ισχύος ή αν θα θέσει τις βάσεις για μια τεχνολογία που σέβεται την ιερότητα της ζωής.
