Σε μια εποχή όπου η τεχνολογική εξέλιξη τρέχει με ρυθμούς που συχνά ξεπερνούν την ικανότητα της κοινωνίας να αντιληφθεί τις συνέπειές τους, ο Πάπας Φραγκίσκος προέβη σε μια ιστορική παρέμβαση. Κατά τη διάρκεια των συνεχιζόμενων διεθνών διαβουλεύσεων για το μέλλον της πολεμικής τεχνολογίας, ο Ποντίφικας επανέλαβε την κάθετη αντίθεσή του στα Ληθαργικά Αυτόνομα Οπλικά Συστήματα (LAWS), γνωστά και ως «ρομπότ δολοφόνοι». Η θέση του είναι σαφής και αδιαπραγμάτευτη: η Τεχνητή Νοημοσύνη δεν διαθέτει, και δεν μπορεί ποτέ να αποκτήσει, την ηθική κρίση που απαιτείται για την απόφαση αφαίρεσης μιας ανθρώπινης ζωής.
Η Απώλεια της Ανθρώπινης Εποπτείας
Το κεντρικό επιχείρημα του Βατικανού εστιάζει στην έννοια της «ουσιαστικής ανθρώπινης εποπτείας». Ο Πάπας υποστηρίζει ότι η μεταβίβαση της απόφασης για τη ζωή και τον θάνατο σε έναν αλγόριθμο αποτελεί μια θεμελιώδη προσβολή προς την ανθρώπινη αξιοπρέπεια. Οι μηχανές, όσο εξελιγμένες κι αν είναι, λειτουργούν βάσει στατιστικών πιθανοτήτων και προκαθορισμένων δεδομένων. Στερούνται ενσυναίσθησης, ελέους και της ικανότητας να αντιλαμβάνονται το πλαίσιο μιας κατάστασης με τον τρόπο που το κάνει ένας άνθρωπος.
«Κανένα μηχάνημα δεν πρέπει ποτέ να επιλέγει να αφαιρέσει τη ζωή ενός ανθρώπου», τόνισε ο Πάπας, υπογραμμίζοντας ότι η χρήση της Τεχνητής Νοημοσύνης στον πόλεμο κινδυνεύει να μετατρέψει τη σύγκρουση σε μια ψυχρή, μαθηματική διαδικασία, όπου η ευθύνη διαχέεται και τελικά εξαφανίζεται. Όταν ένα ρομπότ διαπράττει ένα έγκλημα πολέμου, ποιος φέρει την ευθύνη; Ο προγραμματιστής, ο κατασκευαστής ή ο διοικητής που πάτησε το κουμπί της ενεργοποίησης; Αυτό το νομικό και ηθικό κενό είναι που ανησυχεί ιδιαίτερα την Αγία Έδρα.
Η «Αλγο-ηθική» ως Απάντηση στην Τεχνοκρατία
Ο Πάπας Φραγκίσκος δεν περιορίζεται στην κριτική, αλλά προτείνει ένα νέο πλαίσιο που ονομάζει «Algor-ethics» (Αλγο-ηθική). Πρόκειται για την ενσωμάτωση ηθικών αρχών στον ίδιο τον σχεδιασμό των αλγορίθμων. Η πρωτοβουλία αυτή, η οποία ξεκίνησε με το «Rome Call for AI Ethics» το 2020, έχει κερδίσει την υποστήριξη κολοσσών της τεχνολογίας όπως η Microsoft και η IBM, αλλά και διεθνών οργανισμών.
Η Αλγο-ηθική προϋποθέτει ότι η τεχνολογία πρέπει να υπηρετεί την ανθρωπότητα και όχι το αντίστροφο. Στο πλαίσιο των αυτόνομων όπλων, αυτό σημαίνει ότι η Τεχνητή Νοημοσύνη θα πρέπει να χρησιμοποιείται αποκλειστικά για αμυντικούς σκοπούς που δεν περιλαμβάνουν την αυτόνομη στόχευση ανθρώπων, ή για την υποστήριξη της λήψης αποφάσεων από ανθρώπους, διατηρώντας πάντα τον άνθρωπο «εντός του βρόχου» (human-in-the-loop).
Γεωπολιτικές Προκλήσεις και το Δίκαιο του Πολέμου
Παρά τις εκκλήσεις του Πάπα και πολλών Μη Κυβερνητικών Οργανώσεων, η διεθνής κοινότητα παραμένει διχασμένη. Μεγάλες δυνάμεις όπως οι ΗΠΑ, η Ρωσία και η Κίνα επενδύουν δισεκατομμύρια στην ανάπτυξη αυτόνομων συστημάτων, φοβούμενες ότι μια απαγόρευση θα τις άφηνε σε μειονεκτική θέση έναντι των αντιπάλων τους. Ο Πάπας, ωστόσο, προειδοποιεί ότι αυτός ο νέος εξοπλιστικός ανταγωνισμός είναι πιο επικίνδυνος από τον πυρηνικό, καθώς η Τεχνητή Νοημοσύνη είναι πιο προσβάσιμη και λιγότερο ελεγχόμενη.
- Η έλλειψη διαφάνειας στους αλγόριθμους («μαύρο κουτί») καθιστά αδύνατη την απόδοση δικαιοσύνης.
- Ο κίνδυνος κλιμάκωσης ενός πολέμου αυξάνεται όταν οι αποφάσεις λαμβάνονται σε χιλιοστά του δευτερολέπτου από μηχανές.
- Η πιθανότητα χρήσης τέτοιων όπλων από τρομοκρατικές οργανώσεις ή αυταρχικά καθεστώτα είναι εξαιρετικά υψηλή.
«Η Τεχνητή Νοημοσύνη είναι ένα εργαλείο με τεράστιες δυνατότητες για το καλό, αλλά στην υπηρεσία του πολέμου γίνεται ο απόλυτος εχθρός της ανθρωπότητας», αναφέρει χαρακτηριστικά η ανακοίνωση του Βατικανού.
Συμπερασματικά, η παρέμβαση του Πάπα Φραγκίσκου δεν είναι απλώς μια θρησκευτική τοποθέτηση, αλλά μια βαθιά πολιτική και ανθρωπιστική έκκληση. Σε έναν κόσμο που γοητεύεται από την αποτελεσματικότητα των μηχανών, ο Ποντίφικας μας υπενθυμίζει ότι η ουσία του πολιτισμού μας βρίσκεται στην ικανότητά μας να επιλέγουμε το καλό, ακόμη και στις πιο δύσκολες συνθήκες – μια ικανότητα που κανένα τσιπ πυριτίου δεν θα μπορέσει ποτέ να αντιγράψει.
