Στη σύγχρονη ψηφιακή εποχή, η γλώσσα που χρησιμοποιούμε για να περιγράψουμε την τεχνολογία δεν είναι απλώς θέμα αισθητικής ή ευκολίας· είναι ένα εργαλείο που διαμορφώνει την αντίληψή μας για την πραγματικότητα και, το σημαντικότερο, για την ευθύνη. Μια πρόσφατη, βαρυσήμαντη ανάλυση από το Ινστιτούτο Brookings φέρνει στο προσκήνιο έναν κίνδυνο που συχνά παραβλέπεται: τον ανθρωπομορφισμό της Τεχνητής Νοημοσύνης (ΤΝ). Όταν χρησιμοποιούμε λέξεις όπως «σκέφτεται», «καταλαβαίνει», «αποφασίζει» ή το εξαιρετικά διαδεδομένο «παραισθάνεται» (hallucinates), δημιουργούμε μια ψευδαίσθηση υποκειμενικότητας που μπορεί να λειτουργήσει ως νομική και ηθική ασπίδα για τους δημιουργούς αυτών των συστημάτων.

Η Στρατηγική της Μεταφοράς

Ο ανθρωπομορφισμός δεν είναι νέο φαινόμενο. Από την εποχή της ELIZA, του πρώτου chatbot της δεκαετίας του 1960, οι άνθρωποι είχαν την τάση να αποδίδουν ανθρώπινα χαρακτηριστικά σε υπολογιστικά προγράμματα. Ωστόσο, στην εποχή των Μεγάλων Γλωσσικών Μοντέλων (LLMs), αυτή η τάση έχει εργαλειοποιηθεί. Η έκθεση του Brookings υποστηρίζει ότι η χρήση ανθρωπομορφικών όρων δημιουργεί ένα «κενό λογοδοσίας». Εάν ένα σύστημα ΤΝ «κάνει ένα λάθος» επειδή «μπερδεύτηκε», η ευθύνη μετατοπίζεται υποσυνείδητα από τον προγραμματιστή ή την εταιρεία στο ίδιο το λογισμικό.

Αυτή η γλωσσική διολίσθηση είναι ιδιαίτερα εμφανής στον όρο «hallucination». Στην ψυχιατρική, η παραίσθηση είναι μια εσωτερική εμπειρία ενός υποκειμένου. Στην ΤΝ, αυτό που ονομάζουμε παραίσθηση είναι στην πραγματικότητα μια στατιστική αστοχία ή μια πιθανολογική έξοδος που δεν αντιστοιχεί στην πραγματικότητα. Ονομάζοντάς το «παραίσθηση», προσδίδουμε στο σύστημα μια μορφή «προσωπικότητας» που δικαιολογεί το λάθος ως κάτι οργανικό και αναπόφευκτο, αντί για ένα κατασκευαστικό ελάττωμα που θα έπρεπε να είχε διορθωθεί.

Το Νομικό Κενό και η Εταιρική Ευθύνη

Το πρόβλημα επεκτείνεται βαθιά στο νομικό σύστημα. Η αστική ευθύνη βασίζεται στην έννοια του ελέγχου και της πρόβλεψης. Εάν οι εταιρείες πείσουν το κοινό και τους νομοθέτες ότι η ΤΝ είναι μια «αυτόνομη οντότητα» που «μαθαίνει» μόνη της, τότε γίνεται πολύ πιο δύσκολο να αποδοθούν ευθύνες για δυσφήμηση, παραπληροφόρηση ή μεροληπτικές αποφάσεις. Η έκθεση επισημαίνει ότι η χρήση αντωνυμιών όπως «αυτός» ή «αυτή» (ή ακόμα και το «εγώ» που χρησιμοποιούν τα chatbots) ενισχύει την ιδέα ότι υπάρχει ένας «φάντασμα στη μηχανή».

  • Η απόδοση πρόθεσης σε αλγόριθμους μειώνει την πίεση για αυστηρούς ελέγχους ασφαλείας.
  • Οι νομικοί ορισμοί της «αμέλειας» θολώνουν όταν το προϊόν παρουσιάζεται ως έχον δική του βούληση.
  • Η ψυχολογική σύνδεση των χρηστών με «ανθρώπινα» AI οδηγεί σε υπερβολική εμπιστοσύνη και μειωμένη κριτική σκέψη.

Στην Ευρωπαϊκή Ένωση, ο νόμος για την ΤΝ (AI Act) προσπαθεί να θέσει όρια, αλλά η γλώσσα παραμένει ένα ακανθώδες ζήτημα. Αν ένας αλγόριθμος προσλήψεων απορρίψει έναν υποψήφιο λόγω προκατάληψης, είναι ευκολότερο για μια εταιρεία να ισχυριστεί ότι «το AI έβγαλε αυτό το συμπέρασμα» παρά να παραδεχτεί ότι το μοντέλο εκπαιδεύτηκε με ελαττωματικά δεδομένα από ανθρώπους.

Προς μια Τεχνική Ακρίβεια

Η λύση, σύμφωνα με τους ερευνητές, είναι η επιστροφή σε μια πιο ακριβή, τεχνική ορολογία. Αντί για «μάθηση», θα έπρεπε να μιλάμε για «βελτιστοποίηση παραμέτρων». Αντί για «κατανόηση», για «στατιστική συσχέτιση». Η απομυθοποίηση της ΤΝ είναι απαραίτητη για να διατηρηθεί ο ανθρώπινος έλεγχος. Η τεχνολογία δεν είναι ένας συνεργάτης με προσωπικότητα, αλλά ένα εργαλείο επεξεργασίας δεδομένων μεγάλης κλίμακας.

«Η γλώσσα δεν περιγράφει απλώς τον κόσμο της τεχνολογίας, τον κατασκευάζει. Όταν ανθρωποποιούμε τους αλγόριθμους, αποανθρωποποιούμε τα θύματα των λαθών τους.»

Συμπερασματικά, η έκθεση του Brookings αποτελεί ένα καμπανάκι κινδύνου. Η ανάγκη για ρυθμιστικά πλαίσια που θα αγνοούν το «περιτύλιγμα» του ανθρωπομορφισμού και θα εστιάζουν στις μαθηματικές και εταιρικές πραγματικότητες είναι πιο επιτακτική από ποτέ. Η ευθύνη πρέπει να παραμείνει εκεί που ανήκει: στους ανθρώπους που σχεδιάζουν, χρηματοδοτούν και αναπτύσσουν αυτά τα συστήματα.