Σε μια εποχή όπου η ταχύτητα της τεχνολογικής εξέλιξης μοιάζει να ξεπερνά την ανθρώπινη ικανότητα αφομοίωσης, μια ηχηρή φωνή από το εσωτερικό του κλάδου έρχεται να ταράξει τα λιμνάζοντα ύδατα. Ένας από τους «αρχιτέκτονες» της σύγχρονης Τεχνητής Νοημοσύνης (ΤΝ), του οποίου το όνομα είναι συνυφασμένο με τις μεγαλύτερες ανακαλύψεις στον τομέα των νευρωνικών δικτύων, απευθύνει μια δραματική έκκληση: Πρέπει να σταματήσουμε, ή τουλάχιστον να επιβραδύνουμε, πριν χάσουμε τον έλεγχο.
Η Ειρωνεία του Δημιουργού
Δεν είναι η πρώτη φορά που ακούμε προειδοποιήσεις για τους κινδύνους της ΤΝ. Ωστόσο, όταν αυτές προέρχονται από ανθρώπους που αφιέρωσαν τη ζωή τους στην οικοδόμηση αυτών των συστημάτων, η βαρύτητά τους είναι διαφορετική. Η ανησυχία δεν εστιάζεται πλέον μόνο στην απώλεια θέσεων εργασίας ή στην παραπληροφόρηση, αλλά στην ίδια την υπαρξιακή ακεραιότητα του ανθρώπινου είδους. Η μετάβαση από την «Εξειδικευμένη ΤΝ» στην «Γενική Τεχνητή Νοημοσύνη» (AGI) φαίνεται να πλησιάζει ταχύτερα από ό,τι προέβλεπαν οι περισσότεροι ειδικοί πριν από μια πενταετία.
Το επιχείρημα για την επιβράδυνση βασίζεται στην παραδοχή ότι η ρυθμιστική ικανότητα των κρατών και η ηθική θωράκιση της κοινωνίας υπολείπονται δραματικά της υπολογιστικής ισχύος. Καθώς τα μοντέλα γίνονται ολοένα και πιο αυτόνομα, η ικανότητά μας να προβλέψουμε τις δευτερογενείς επιπτώσεις των ενεργειών τους μειώνεται. Όπως επισημαίνεται, η τυφλή καταδίωξη του κέρδους από τους τεχνολογικούς κολοσσούς έχει δημιουργήσει μια «κούρσα εξοπλισμών» όπου η ασφάλεια θεωρείται συχνά δευτερεύον εμπόδιο στην καινοτομία.
Το Δίλημμα της Συμμόρφωσης και ο Παγκόσμιος Ανταγωνισμός
Η πρόκληση μιας παγκόσμιας επιβράδυνσης έγκειται στον γεωπολιτικό ανταγωνισμό. Αν η Δύση αποφασίσει να πατήσει φρένο για λόγους ηθικής και ασφάλειας, τι εμποδίζει άλλες δυνάμεις, όπως η Κίνα, να συνεχίσουν ακάθεκτες, αποκτώντας ένα στρατηγικό πλεονέκτημα που θα μπορούσε να αλλάξει την παγκόσμια ισορροπία ισχύος; Αυτό είναι το κεντρικό ερώτημα που βασανίζει τους πολιτικούς ηγέτες στις Βρυξέλλες και την Ουάσινγκτον.
- Η ανάγκη για διεθνείς συνθήκες παρόμοιες με αυτές για τα πυρηνικά όπλα.
- Η δημιουργία ανεξάρτητων εποπτικών αρχών με δικαίωμα «βέτο» σε επικίνδυνες κυκλοφορίες μοντέλων.
- Η υποχρεωτική διαφάνεια στους αλγορίθμους εκπαίδευσης και στα δεδομένα που χρησιμοποιούνται.
Ο κίνδυνος, σύμφωνα με την πρόσφατη παρέμβαση, δεν είναι μόνο μια «εξέγερση των μηχανών» τύπου επιστημονικής φαντασίας, αλλά μια σταδιακή διάβρωση της κοινωνικής συνοχής μέσω της απόλυτης χειραγώγησης της πληροφορίας και της δημιουργίας συστημάτων που λαμβάνουν αποφάσεις ζωής και θανάτου χωρίς ανθρώπινη εποπτεία.
Ηθική vs. Κέρδος: Μια Άνιση Μάχη;
Στο επίκεντρο της συζήτησης βρίσκεται το μοντέλο διακυβέρνησης των εταιρειών τεχνολογίας. Όταν μια εταιρεία αξίζει τρισεκατομμύρια δολάρια, η πίεση των μετόχων για συνεχή ανάπτυξη συχνά πνίγει τις φωνές των ερευνητών ασφάλειας. Η έκκληση για επιβράδυνση είναι ουσιαστικά μια έκκληση για την επαναφορά του ανθρώπου στο τιμόνι της εξέλιξης. Χρειαζόμαστε χρόνο για να αναπτύξουμε «ευθυγράμμιση» (alignment) – τη διασφάλιση δηλαδή ότι οι στόχοι της ΤΝ θα παραμείνουν συμβατοί με τις ανθρώπινες αξίες, ακόμα και όταν η νοημοσύνη της ξεπεράσει τη δική μας.
«Δεν μπορούμε να διορθώσουμε ένα σύστημα που είναι πιο έξυπνο από εμάς, αν αυτό αποφασίσει ότι δεν θέλει να διορθωθεί. Πρέπει να το κάνουμε σωστά από την πρώτη φορά.»
Καταλήγοντας, η προειδοποίηση αυτή δεν αποτελεί τεχνοφοβικό ξέσπασμα, αλλά μια πράξη ευθύνης. Η ιστορία θα κρίνει αν ακούσαμε τους προφήτες της τεχνολογικής εποχής μας ή αν συνεχίσαμε την πορεία μας προς το άγνωστο με κλειστά τα μάτια, ελπίζοντας ότι η τύχη θα είναι με το μέρος μας.
