Η ενσωμάτωση της Τεχνητής Νοημοσύνης (AI) στα συστήματα υγείας των Ηνωμένων Πολιτειών έχει φτάσει σε ένα κρίσιμο σταυροδρόμι, όπου η υπόσχεση για διοικητική αποτελεσματικότητα συγκρούεται με τη θεμελιώδη ανάγκη για ανθρώπινη φροντίδα. Η Συμβουλευτική Επιτροπή Πληρωμών και Πρόσβασης Medicaid και CHIP (MACPAC) εξέδωσε πρόσφατα μια ηχηρή σύσταση, ζητώντας αυξημένη διαφάνεια και εποπτεία στον τρόπο με τον οποίο οι ασφαλιστικοί φορείς χρησιμοποιούν εργαλεία AI για την «προέγκριση» (prior authorization) ιατρικών υπηρεσιών. Η κίνηση αυτή, την οποία υποστηρίζει ένθερμα η Αμερικανική Ένωση Νοσοκομείων (AHA), φέρνει στο προσκήνιο το σκοτεινό πρόσωπο των «μαύρων κουτιών» της τεχνολογίας που αποφασίζουν ποιος δικαιούται θεραπεία και ποιος όχι.
Η Ψηφιακή Πύλη της Περίθαλψης
Η προέγκριση είναι μια διαδικασία που χρησιμοποιούν οι ασφαλιστικές εταιρείες για να προσδιορίσουν εάν μια προτεινόμενη θεραπεία, φάρμακο ή ιατρική συσκευή είναι «ιατρικά αναγκαία» πριν αυτή παρασχεθεί. Ενώ παραδοσιακά αυτή η διαδικασία απαιτούσε την εξέταση φακέλων από ιατρικό προσωπικό, οι εταιρείες στρέφονται όλο και περισσότερο σε αλγορίθμους AI για να αυτοματοποιήσουν τις αποφάσεις. Το πρόβλημα, σύμφωνα με την MACPAC, είναι ότι αυτοί οι αλγόριθμοι συχνά λειτουργούν χωρίς επαρκή έλεγχο, οδηγώντας σε συστηματικές αρνήσεις κάλυψης που πλήττουν δυσανάλογα τους πιο ευάλωτους πληθυσμούς — τους δικαιούχους του Medicaid.
Η έκθεση της MACPAC υπογραμμίζει ότι η έλλειψη διαφάνειας καθιστά αδύνατο για τους παρόχους υγείας και τους ασθενείς να κατανοήσουν γιατί απορρίφθηκε μια υπηρεσία. Όταν η απόφαση λαμβάνεται από μια «μηχανή» που εκπαιδεύτηκε σε ιστορικά δεδομένα (τα οποία συχνά περιέχουν προκαταλήψεις), ο κίνδυνος για λάθη που κοστίζουν ζωές αυξάνεται εκθετικά. Η επιτροπή προτείνει στα Κέντρα Υπηρεσιών Medicare & Medicaid (CMS) να επιβάλουν αυστηρότερους κανόνες, απαιτώντας από τους ασφαλιστικούς οργανισμούς να αποκαλύπτουν τα κριτήρια των αλγορίθμων τους και να διασφαλίζουν ότι η τελική απόφαση παραμένει στα χέρια ανθρώπων.
Η Αντίδραση των Νοσοκομείων και το Κόστος της Αδιαφάνειας
Η Αμερικανική Ένωση Νοσοκομείων (AHA) έχει τοποθετηθεί επανειλημμένα κατά της ανεξέλεγκτης χρήσης του AI στην προέγκριση. Για τα νοσοκομεία, η τρέχουσα κατάσταση μεταφράζεται σε έναν γραφειοκρατικό εφιάλτη. Οι γιατροί δαπανούν αμέτρητες ώρες προσπαθώντας να ανατρέψουν αυτοματοποιημένες απορρίψεις, ενώ οι ασθενείς παραμένουν σε αναμονή, με την κατάσταση της υγείας τους συχνά να επιδεινώνεται. Η AHA υποστηρίζει ότι οι ασφαλιστικές εταιρείες χρησιμοποιούν το AI ως «τείχος» για να μειώσουν τα έξοδά τους, εκμεταλλευόμενες την ταχύτητα της τεχνολογίας για να απορρίπτουν αιτήματα μαζικά.
- Οι αλγόριθμοι συχνά αγνοούν τις ιδιαίτερες κλινικές ανάγκες του κάθε ασθενούς.
- Η χρήση AI στην προέγκριση συνδέεται με αυξημένα ποσοστά εξουθένωσης (burnout) των ιατρών.
- Υπάρχουν ενδείξεις ότι ορισμένοι αλγόριθμοι έχουν σχεδιαστεί για να μεγιστοποιούν τα κέρδη των ασφαλιστικών, μειώνοντας το χρόνο νοσηλείας κάτω από τα ασφαλή όρια.
Η MACPAC τονίζει ότι η διαφάνεια δεν αφορά μόνο την τεχνική κατανόηση του κώδικα, αλλά και την ηθική ευθύνη. Αν ένας αλγόριθμος αρνείται συστηματικά την κάλυψη σε μια συγκεκριμένη δημογραφική ομάδα, αυτό αποτελεί διάκριση που πρέπει να εντοπιστεί και να διορθωθεί άμεσα. Χωρίς πρόσβαση στα δεδομένα εκπαίδευσης και στις παραμέτρους λήψης αποφάσεων, οι ρυθμιστικές αρχές παραμένουν τυφλές.
Προς ένα Νέο Ρυθμιστικό Πλαίσιο
Οι συστάσεις της MACPAC δεν είναι απλώς τεχνικές· είναι πολιτικές. Ζητούν από την κυβέρνηση να αναλάβει ενεργό ρόλο στην αστυνόμευση της ψηφιακής υγείας. Προτείνεται η δημιουργία ενός μηχανισμού ελέγχου όπου οι αλγόριθμοι θα ελέγχονται τακτικά για ακρίβεια και μεροληψία. Επιπλέον, ζητείται η υποχρεωτική δημοσιοποίηση δεδομένων σχετικά με τα ποσοστά έγκρισης και απόρριψης ανάλογα με τη χρήση AI, ώστε να υπάρχει συγκρίσιμη εικόνα μεταξύ των διαφορετικών ασφαλιστικών προγραμμάτων.
«Η τεχνολογία πρέπει να είναι εργαλείο ενίσχυσης της φροντίδας, όχι εμπόδιο στην πρόσβαση. Η διαφάνεια είναι το πρώτο βήμα για την αποκατάσταση της εμπιστοσύνης στο σύστημα υγείας», αναφέρει χαρακτηριστικά η έκθεση.
Στο μέλλον, η μάχη για την προέγκριση θα καθορίσει το πώς η κοινωνία αντιλαμβάνεται την «αποτελεσματικότητα» στην υγεία. Εάν η αποτελεσματικότητα ορίζεται μόνο με οικονομικούς όρους, το AI θα συνεχίσει να λειτουργεί ως ένας ψυχρός λογιστής. Εάν όμως οριστεί με βάση τα αποτελέσματα για τον ασθενή, τότε η διαφάνεια που ζητά η MACPAC είναι το ελάχιστο προαπαιτούμενο για μια δίκαιη ψηφιακή μετάβαση.
