Στην εποχή της ψηφιακής ευκολίας, η υπόσχεση της τεχνητής νοημοσύνης (AI) ήταν απλή: να κοσκινίζει τους τόνους πληροφοριών για εμάς, προσφέροντας μια καθαρή εικόνα της πραγματικότητας. Ωστόσο, μια νέα έρευνα από τη βρετανική καταναλωτική οργάνωση Which? φέρνει στο φως μια ανησυχητική πτυχή αυτής της αυτοματοποίησης. Το εργαλείο AI του Tripadvisor, το οποίο έχει σχεδιαστεί για να συνοψίζει χιλιάδες κριτικές χρηστών σε σύντομες παραγράφους, φαίνεται πως πάσχει από μια επικίνδυνη «αισιοδοξία», παραβλέποντας σοβαρές καταγγελίες για την ασφάλεια και την υγεία των ταξιδιωτών.
Η Ωραιοποίηση του Κινδύνου
Η έρευνα της Which? επικεντρώθηκε σε ξενοδοχεία που είχαν συγκεντρώσει πολυάριθμες αρνητικές κριτικές για ζητήματα όπως η τροφική δηλητηρίαση, η παρουσία κοριών, ακόμη και η σεξουαλική παρενόχληση. Σύμφωνα με τα ευρήματα, το AI του Tripadvisor συχνά αγνοούσε αυτές τις κρίσιμες προειδοποιήσεις, επιλέγοντας αντίθετα να προβάλει δευτερεύοντα θετικά στοιχεία, όπως η τοποθεσία ή η ευγένεια του προσωπικού. Σε μια χαρακτηριστική περίπτωση, ένα ξενοδοχείο με επανειλημμένες αναφορές για σεξουαλική παρενόχληση από μέλη του προσωπικού παρουσιάστηκε από το AI ως ένας «δημοφιλής προορισμός με φιλική εξυπηρέτηση».
Το πρόβλημα έγκειται στον τρόπο με τον οποίο τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) επεξεργάζονται τα δεδομένα. Συχνά, οι αλγόριθμοι είναι προγραμματισμένοι να αναζητούν την «επικρατούσα τάση» ή να εξισορροπούν τις απόψεις. Όταν ένα ξενοδοχείο έχει 500 κριτικές που λένε ότι η θέα είναι ωραία και 10 κριτικές που καταγγέλλουν μια σοβαρή επίθεση, το AI μπορεί στατιστικά να υποβαθμίσει τις 10 κριτικές ως «εξαιρέσεις», παρά το γεγονός ότι για έναν ανθρώπινο αναγνώστη, αυτές οι 10 κριτικές είναι οι πλέον καθοριστικές για την απόφαση κράτησης.
Η Ευθύνη των Πλατφορμών και η Ηθική της Τεχνητής Νοημοσύνης
Η περίπτωση του Tripadvisor ανοίγει ξανά τη συζήτηση για την ευθύνη των τεχνολογικών κολοσσών. Παραδοσιακά, οι πλατφόρμες αυτές λειτουργούσαν ως «φιλοξενούμενοι» περιεχομένου τρίτων, αποποιούμενες την ευθύνη για το τι γράφουν οι χρήστες. Όμως, με τη χρήση του AI, η πλατφόρμα παύει να είναι ένας παθητικός διαμεσολαβητής και γίνεται εκδότης. Η περίληψη που δημιουργεί το AI είναι ένα νέο προϊόν, μια «άποψη» της ίδιας της πλατφόρμας, και ως εκ τούτου, η νομική και ηθική της ευθύνη αυξάνεται κατακόρυφα.
«Η τεχνητή νοημοσύνη δεν μπορεί να είναι ένας τυφλός λογιστής λέξεων. Πρέπει να έχει ενσωματωμένα φίλτρα ασφαλείας που να αναγνωρίζουν λέξεις-κλειδιά υψηλού κινδύνου», επισημαίνουν ειδικοί σε θέματα AI Ethics.
Στην Ελλάδα, μια χώρα που η οικονομία της εξαρτάται σε τεράστιο βαθμό από τον τουρισμό, τέτοια φαινόμενα μπορούν να έχουν διπλή ανάγνωση. Από τη μία, οι ξενοδόχοι μπορεί να νιώθουν «προστατευμένοι» από μια AI που ωραιοποιεί την κατάσταση, αλλά μακροπρόθεσμα, η απώλεια της εμπιστοσύνης των καταναλωτών μπορεί να αποβεί καταστροφική για το συνολικό τουριστικό προϊόν. Η διαφάνεια είναι το μοναδικό νόμισμα που διατηρεί την αξία του στην παγκόσμια αγορά φιλοξενίας.
Τεχνικές Αδυναμίες και η Ανάγκη για Human-in-the-Loop
Γιατί αποτυγχάνει το AI; Η απάντηση κρύβεται στην έλλειψη εννοιολογικής κατανόησης. Το AI δεν «καταλαβαίνει» τι σημαίνει κίνδυνος· καταλαβαίνει μόνο συσχετίσεις λέξεων. Αν η πλειονότητα των κριτικών χρησιμοποιεί θετικά επίθετα, ο αλγόριθμος θα παράγει ένα θετικό αποτέλεσμα. Αυτό που απαιτείται είναι η προσέγγιση «Human-in-the-loop», όπου οι περιλήψεις που αφορούν κρίσιμα ζητήματα ασφάλειας ελέγχονται από ανθρώπους ή από εξειδικευμένους αλγόριθμους που δίνουν προτεραιότητα σε καταγγελίες για εγκλήματα ή υγειονομικούς κινδύνους.
Το Tripadvisor απάντησε στις επικρίσεις δηλώνοντας ότι συνεχίζει να βελτιώνει τα εργαλεία του και ότι οι χρήστες πρέπει πάντα να διαβάζουν τις πλήρεις κριτικές. Ωστόσο, η ίδια η ύπαρξη της περίληψης στην κορυφή της σελίδας ωθεί τον χρήστη στην πνευματική οκνηρία, καθιστώντας την ευθύνη της πλατφόρμας ακόμη μεγαλύτερη. Η έρευνα της Which? αποτελεί μια ηχηρή υπενθύμιση ότι η τεχνολογία, όσο εντυπωσιακή κι αν είναι, παραμένει ένα εργαλείο που απαιτεί αυστηρή εποπτεία.
