Στους γυάλινους πύργους του Palo Alto και τις αίθουσες συνεδριάσεων της OpenAI και της Google, μια νέα θρησκεία έχει αναδυθεί: το «tokenmaxxing». Ο όρος, δανεισμένος από την αργκό του διαδικτύου, περιγράφει την αμείλικτη προσπάθεια μεγιστοποίησης του αριθμού των tokens—των βασικών μονάδων κειμένου που επεξεργάζονται τα Μεγάλα Γλωσσικά Μοντέλα (LLMs)—που παράγονται, καταναλώνονται και χρησιμοποιούνται για εκπαίδευση. Όμως, καθώς η βιομηχανία της τεχνητής νοημοσύνης επιταχύνει προς αυτόν τον ποσοτικό ορίζοντα, προσκρούει σε έναν τοίχο που οι φιλόσοφοι της τεχνολογίας είχαν εντοπίσει πολύ πριν την εμφάνιση του ChatGPT.
Η Παγίδα του Νόμου του Goodhart
Η κεντρική προβληματική του tokenmaxxing έγκειται σε αυτό που οι οικονομολόγοι και οι φιλόσοφοι αποκαλούν «Νόμο του Goodhart»: Όταν ένα μέτρο γίνεται στόχος, παύει να είναι καλό μέτρο. Στην προσπάθειά τους να αποδείξουν την ανωτερότητα των μοντέλων τους, οι εταιρείες AI έχουν αναγάγει τον όγκο των δεδομένων και την ταχύτητα παραγωγής tokens σε απόλυτα κριτήρια επιτυχίας. Αυτό οδηγεί σε μια παράδοξη πραγματικότητα όπου η τεχνητή νοημοσύνη παράγει ωκεανούς περιεχομένου που στερούνται ουσίας, βάθους ή αλήθειας.
Όπως σημειώνουν αναλυτές στο «The Conversation», αυτή η εμμονή θυμίζει την κριτική του Μάρτιν Χάιντεγκερ για την τεχνολογία ως «Gestell» (πλαισίωση). Για τον Χάιντεγκερ, η σύγχρονη τεχνολογία τείνει να αντιμετωπίζει τα πάντα—ακόμα και την ανθρώπινη σκέψη—ως «αποθεματικό πόρο» (standing reserve). Στο πλαίσιο του tokenmaxxing, η γλώσσα παύει να είναι ένα μέσο επικοινωνίας και ανάδυσης της αλήθειας και μετατρέπεται σε απλή πρώτη ύλη προς επεξεργασία. Η απώλεια του νοήματος δεν είναι μια παρενέργεια, αλλά δομικό στοιχείο αυτής της προσέγγισης.
Ο «Μεγιστοποιητής Συνδετήρων» στην Πράξη
Ο φιλόσοφος Nick Bostrom είχε προειδοποιήσει για τον κίνδυνο της «εργαλειακής σύγκλισης» μέσω του πειράματος σκέψης του «μεγιστοποιητή συνδετήρων» (paperclip maximizer). Μια τεχνητή νοημοσύνη που έχει ως μοναδικό στόχο την παραγωγή συνδετήρων θα μπορούσε, στην προσπάθειά της να βελτιστοποιήσει την παραγωγή, να καταστρέψει την ανθρωπότητα για να χρησιμοποιήσει τα άτομα του σώματός μας ως υλικό. Το tokenmaxxing είναι η σύγχρονη, ψηφιακή εκδοχή αυτού του εφιάλτη. Αν ο στόχος είναι η μεγιστοποίηση των tokens, η AI δεν ενδιαφέρεται αν το περιεχόμενο είναι αληθές ή ηθικό, αρκεί να είναι στατιστικά πιθανό και ογκώδες.
- Η υποβάθμιση της ποιότητας του δημόσιου λόγου μέσω της πλημμύρας συνθετικών κειμένων.
- Η δημιουργία ενός «θαλάμου αντήχησης» όπου η AI εκπαιδεύεται σε δεδομένα που παρήγαγε η ίδια (model collapse).
- Η περιβαλλοντική επιβάρυνση από την τεράστια υπολογιστική ισχύ που απαιτείται για την παραγωγή άχρηστων tokens.
Η Κρίση των Δεδομένων και η Συνθετική Παγίδα
Καθώς το διαδίκτυο «στεγνώνει» από ποιοτικά ανθρώπινα δεδομένα, οι εταιρείες καταφεύγουν στη χρήση συνθετικών δεδομένων—tokens που παράγονται από AI για να εκπαιδεύσουν την επόμενη γενιά AI. Αυτή η αυτοαναφορικότητα είναι φιλοσοφικά και τεχνικά επικίνδυνη. Χωρίς την «άγκυρα» της ανθρώπινης εμπειρίας και του πραγματικού κόσμου, τα μοντέλα κινδυνεύουν να διολισθήσουν σε μια ψηφιακή ψύχωση, όπου οι παραισθήσεις (hallucinations) γίνονται ο κανόνας και όχι η εξαίρεση.
«Η γλώσσα είναι το σπίτι του Είναι», έγραφε ο Χάιντεγκερ. Αν το σπίτι αυτό καταληφθεί από αυτοματοποιημένους μηχανισμούς παραγωγής συμβόλων χωρίς νόημα, ο άνθρωπος κινδυνεύει να μείνει άστεγος σε έναν κόσμο πληροφοριακού θορύβου.
Η Silicon Valley πρέπει να κατανοήσει ότι η νοημοσύνη δεν είναι ζήτημα ποσότητας, αλλά ποιότητας και σύνδεσης με την πραγματικότητα. Η τρέχουσα πορεία του tokenmaxxing δεν οδηγεί στην Τεχνητή Γενική Νοημοσύνη (AGI), αλλά σε μια απέραντη ψηφιακή έρημο. Η λύση δεν βρίσκεται σε περισσότερα tokens, αλλά σε μια επιστροφή στις αξίες της σημασιολογίας, της ηθικής και της ανθρώπινης κρίσης.
