Σε μια εποχή όπου η Τεχνητή Νοημοσύνη (ΤΝ) δεν αποτελεί πλέον ένα σενάριο επιστημονικής φαντασίας αλλά την κινητήριο δύναμη της παγκόσμιας οικονομίας, η πρόσφατη παρέμβαση της γαλλικής εφημερίδας Le Monde θέτει το πιο κρίσιμο ερώτημα της δεκαετίας μας: Ποιος κρατάει τα κλειδιά της δεοντολογίας; Η διαπίστωση ότι δεν μπορούμε να επιτρέψουμε σε ιδιωτικές εταιρείες να ενεργούν ταυτόχρονα ως «δικαστές και διάδικοι» αναδεικνύει μια βαθιά κρίση θεσμικής εμπιστοσύνης. Καθώς οι κολοσσοί της Silicon Valley και της Σενζέν επιταχύνουν την ανάπτυξη μοντέλων που αγγίζουν τα όρια της Γενικής Τεχνητής Νοημοσύνης (AGI), η πολιτική εξουσία φαίνεται να παρακολουθεί ασθμαίνοντας, προσπαθώντας να ρυθμίσει κάτι που ελάχιστα κατανοεί.
Το Παράδοξο της Αυτορρύθμισης
Η ιστορία της τεχνολογίας είναι γεμάτη από παραδείγματα όπου η βιομηχανία κλήθηκε να αυτορρυθμιστεί, με ολέθρια συνήθως αποτελέσματα για το δημόσιο συμφέρον. Στην περίπτωση της ΤΝ, το πρόβλημα εντείνεται από την πολυπλοκότητα των αλγορίθμων. Όταν μια εταιρεία όπως η OpenAI ή η Google αναπτύσσει ένα νέο μοντέλο, η ίδια είναι που διεξάγει τις δοκιμές ασφαλείας («red teaming»), η ίδια ορίζει τα όρια της «ηθικής» συμπεριφοράς του συστήματος και η ίδια αποφασίζει τι θα αποκαλύψει στο κοινό. Αυτή η έλλειψη ανεξάρτητης εποπτείας δημιουργεί ένα επικίνδυνο προηγούμενο. Η «ασφάλεια» συχνά μεταφράζεται σε «εταιρική συμμόρφωση», και η «δεοντολογία» σε έναν μηχανισμό προστασίας από νομικές ευθύνες, αντί για την προάσπιση των ανθρωπίνων δικαιωμάτων.
Επιπλέον, η συγκέντρωση ισχύος σε λίγα χέρια σημαίνει ότι οι αξίες που ενσωματώνονται σε αυτά τα συστήματα —από την πολιτική ουδετερότητα έως την πολιτισμική ευαισθησία— αντικατοπτρίζουν τις κοσμοθεωρίες μιας συγκεκριμένης ελίτ. Η Le Monde επισημαίνει ορθά ότι η διαμόρφωση του μέλλοντος της ανθρωπότητας δεν μπορεί να είναι το παράπλευρο προϊόν της μεγιστοποίησης του κέρδους των μετόχων. Χρειαζόμαστε μια δημοκρατική νομιμοποίηση που μόνο οι κρατικοί και υπερεθνικοί θεσμοί μπορούν να προσφέρουν, υπό την προϋπόθεση ότι διαθέτουν την απαραίτητη τεχνογνωσία.
Η Ψευδαίσθηση της «Ασφάλειας» ως Εμπόδιο στον Ανταγωνισμό
Μια από τις πιο σκοτεινές πτυχές της τρέχουσας ρητορικής περί «κινδύνων της ΤΝ» είναι ο τρόπος με τον οποίο χρησιμοποιείται από τους κυρίαρχους παίκτες για να υψώσουν τείχη εισόδου στην αγορά. Υποστηρίζοντας ότι η ΤΝ είναι τόσο επικίνδυνη που απαιτεί δρακόντεια και δαπανηρά ρυθμιστικά πλαίσια, οι μεγάλες εταιρείες ουσιαστικά ζητούν από το κράτος να απαγορεύσει τον ανταγωνισμό από μικρότερες νεοφυείς επιχειρήσεις ή από την κοινότητα του ανοιχτού λογισμικού (open source). Αυτό είναι το κλασικό φαινόμενο του «regulatory capture» (ρυθμιστική αιχμαλωσία), όπου οι ρυθμίσεις καταλήγουν να εξυπηρετούν αυτούς που υποτίθεται ότι ελέγχουν.
- Η προώθηση κλειστών μοντέλων στο όνομα της ασφάλειας περιορίζει τη διαφάνεια και τον έλεγχο από την ακαδημαϊκή κοινότητα.
- Οι κρατικές επιχορηγήσεις για την ανάπτυξη «ασφαλούς» ΤΝ καταλήγουν συχνά στις ίδιες εταιρείες που δημιούργησαν το πρόβλημα.
- Η έλλειψη προτύπων για τη χρήση δεδομένων εκπαίδευσης παραβιάζει τα πνευματικά δικαιώματα εκατομμυρίων δημιουργών χωρίς αποζημίωση.
Προς ένα Νέο Κοινωνικό Συμβόλαιο για την Ψηφιακή Εποχή
Για να αντιμετωπιστεί αυτή η ανισορροπία ισχύος, απαιτείται μια ριζική αλλαγή παραδείγματος. Η ρύθμιση της ΤΝ δεν πρέπει να περιορίζεται σε τεχνικές προδιαγραφές, αλλά να επεκτείνεται στην πολιτική οικονομία της τεχνολογίας. Αυτό σημαίνει την ίδρυση ανεξάρτητων δημόσιων φορέων με την ισχύ να διενεργούν ελέγχους στον πηγαίο κώδικα και στα δεδομένα εκπαίδευσης, χωρίς να δεσμεύονται από ρήτρες εμπορικού απορρήτου όταν διακυβεύεται το δημόσιο συμφέρον.
«Η τεχνολογία είναι πολύ σοβαρή υπόθεση για να την αφήσουμε αποκλειστικά στους τεχνοκράτες και τους επενδυτές», σημειώνει η ανάλυση.
Η Ευρωπαϊκή Ένωση, με την Πράξη για την Τεχνητή Νοημοσύνη (AI Act), έκανε το πρώτο βήμα, αλλά η εφαρμογή της παραμένει ένα πεδίο μάχης. Οι πιέσεις από τα λόμπι είναι ασφυκτικές. Η πρόκληση για το 2026 και μετά είναι η δημιουργία ενός διεθνούς πλαισίου —ενός είδους «IAEA για την ΤΝ»— που θα διασφαλίζει ότι η ανάπτυξη αυτών των συστημάτων θα γίνεται με γνώμονα την ανθρώπινη ευημερία και όχι την αλγοριθμική κυριαρχία. Αν αποτύχουμε να θέσουμε τους κανόνες τώρα, κινδυνεύουμε να ζήσουμε σε έναν κόσμο όπου η δικαιοσύνη θα απονέμεται από ιδιωτικά λογισμικά, και η αλήθεια θα ορίζεται από το ποιος διαθέτει τους μεγαλύτερους διακομιστές.
