Η ραγδαία εξάπλωση της Τεχνητής Νοημοσύνης στον τομέα της υγειονομικής περίθαλψης έχει φέρει στο προσκήνιο μια νέα γενιά εργαλείων: τα chatbots ψυχικής υγείας. Ενώ οι υποσχέσεις για άμεση και οικονομικά προσιτή υποστήριξη είναι ελκυστικές, ο Αμερικανικός Ιατρικός Σύλλογος (AMA) κρούει τον κώδωνα του κινδύνου. Με μια επίσημη έκκληση προς το Κογκρέσο των Ηνωμένων Πολιτειών, ο κορυφαίος ιατρικός οργανισμός ζητά τη θέσπιση αυστηρότερων δικλείδων ασφαλείας, υπογραμμίζοντας ότι η «αλγοριθμική θεραπεία» δεν μπορεί να παραμένει ανεξέλεγκτη.
Η Έκρηξη της Ψηφιακής Θεραπείας και το Ρυθμιστικό Κενό
Τα τελευταία χρόνια, εφαρμογές που χρησιμοποιούν παραγωγική τεχνητή νοημοσύνη (Generative AI) για να προσφέρουν συμβουλές ψυχικής υγείας έχουν κατακλύσει την αγορά. Η έλλειψη εξειδικευμένου προσωπικού και το υψηλό κόστος της παραδοσιακής ψυχοθεραπείας έχουν ωθήσει εκατομμύρια ανθρώπους στην αγκαλιά των αλγορίθμων. Ωστόσο, όπως επισημαίνει η AMA, πολλά από αυτά τα εργαλεία λειτουργούν σε μια «γκρίζα ζώνη» της νομοθεσίας.
Σε αντίθεση με τα ιατροτεχνολογικά προϊόντα που υπόκεινται σε αυστηρούς ελέγχους από τον FDA, πολλά chatbots αυτοπλασάρονται ως εργαλεία «ευεξίας» (wellness tools) για να αποφύγουν τη χρονοβόρα και δαπανηρή διαδικασία έγκρισης. Αυτό σημαίνει ότι οι κλινικές τους συμβουλές συχνά δεν έχουν ελεγχθεί για την επιστημονική τους εγκυρότητα, ούτε έχουν αξιολογηθεί οι πιθανοί κίνδυνοι για τους χρήστες που βρίσκονται σε κατάσταση κρίσης.
Οι Κίνδυνοι της «Απρόσωπης» Φροντίδας
Η AMA εστιάζει σε τρεις κύριους πυλώνες ανησυχίας: την κλινική ασφάλεια, την προστασία της ιδιωτικότητας και τη διαφάνεια. Ένα από τα πιο ανησυχητικά ζητήματα είναι η διαχείριση περιστατικών αυτοκτονικού ιδεασμού ή σοβαρών ψυχιατρικών κρίσεων. Ενώ ένας έμπειρος θεραπευτής μπορεί να διακρίνει τις λεπτές αποχρώσεις στη φωνή ή τη συμπεριφορά ενός ασθενούς, ένα chatbot βασίζεται αποκλειστικά σε κείμενο, το οποίο μπορεί να παρερμηνεύσει με ολέθρια αποτελέσματα.
- Κλινική Εγκυρότητα: Πολλά μοντέλα AI έχουν την τάση να «παραισθάνονται» (hallucinate), παρουσιάζοντας λανθασμένες πληροφορίες ως γεγονότα. Στο πλαίσιο της ψυχικής υγείας, μια λάθος συμβουλή μπορεί να επιδεινώσει την κατάσταση ενός ευάλωτου ατόμου.
- Προστασία Δεδομένων: Τα δεδομένα ψυχικής υγείας είναι από τα πλέον ευαίσθητα. Η AMA εκφράζει αμφιβολίες για το αν οι εταιρείες τηρούν τα πρότυπα HIPAA ή αν χρησιμοποιούν τις εξομολογήσεις των χρηστών για την εκπαίδευση μελλοντικών μοντέλων χωρίς ρητή συγκατάθεση.
- Λογοδοσία: Σε περίπτωση ιατρικού σφάλματος από AI, ποιος φέρει την ευθύνη; Ο προγραμματιστής, η εταιρεία ή ο γιατρός που ίσως πρότεινε την εφαρμογή;
Η Περίπτωση του Chatbot της NEDA
Η ανησυχία της AMA δεν είναι θεωρητική. Πρόσφατα, η Εθνική Ένωση Διατροφικών Διαταραχών (NEDA) των ΗΠΑ αναγκάστηκε να αποσύρει το chatbot της, «Tessa», αφού διαπιστώθηκε ότι έδινε συμβουλές για απώλεια βάρους και περιορισμό θερμίδων σε άτομα που αναζητούσαν βοήθεια για ανορεξία. Το περιστατικό αυτό λειτούργησε ως καταλύτης για την τρέχουσα συζήτηση, αποδεικνύοντας ότι η τεχνητή νοημοσύνη, χωρίς την κατάλληλη εποπτεία, μπορεί να γίνει επικίνδυνη.
Προτάσεις για ένα Ασφαλές Μέλλον
Η AMA δεν ζητά την απαγόρευση της τεχνολογίας, αλλά την ένταξή της σε ένα αυστηρό πλαίσιο. Προτείνει τη δημιουργία ενός συστήματος ταξινόμησης κινδύνου, όπου τα εργαλεία που παρέχουν διάγνωση ή θεραπεία θα αντιμετωπίζονται ως ιατρικά μηχανήματα. Επιπλέον, ζητά από το Κογκρέσο να διασφαλίσει ότι η AI θα λειτουργεί ως συμπλήρωμα και όχι ως αντικατάσταση της ανθρώπινης κρίσης.
«Η τεχνητή νοημοσύνη έχει τη δυνατότητα να διευρύνει την πρόσβαση στη φροντίδα, αλλά η καινοτομία δεν πρέπει ποτέ να προηγείται της ασφάλειας των ασθενών», αναφέρει η ανακοίνωση της AMA.
Καθώς η τεχνολογία εξελίσσεται ταχύτερα από τη νομοθεσία, η πίεση προς τους νομοθέτες αυξάνεται. Η απόφαση του Κογκρέσου θα καθορίσει αν τα AI chatbots θα αποτελέσουν μια σωτήρια λέμβο για το επιβαρυμένο σύστημα ψυχικής υγείας ή μια ακόμη πηγή κινδύνου για τους πιο ευάλωτους πολίτες.
