Η σύγκρουση δύο κόσμων έφτασε στο αποκορύφωμά της. Από τη μία πλευρά, η Silicon Valley, με το δόγμα «κινήσου γρήγορα και σπάσε πράγματα» (move fast and break things), και από την άλλη, η ιατρική κοινότητα, πιστή στον όρκο του Ιπποκράτη «ωφελέειν ή μη βλάπτειν». Το New England Journal of Medicine (NEJM), το εγκυρότερο ίσως ιατρικό περιοδικό στον κόσμο, δημοσίευσε πρόσφατα ένα άρθρο-καταπέλτη που προειδοποιεί ότι η βιαστική και ανεξέλεγκτη υιοθέτηση της Τεχνητής Νοημοσύνης στην ιατρική μπορεί να οδηγήσει σε καταστροφικά αποτελέσματα για τους ασθενείς.
Το άρθρο, το οποίο χαρακτηρίστηκε από αναλυτές ως «πύρινο», δεν επιτίθεται στην τεχνολογία αυτή καθαυτή, αλλά στον τρόπο με τον οποίο προωθείται από τις μεγάλες εταιρείες τεχνολογίας και υιοθετείται από τα συστήματα υγείας χωρίς τις απαραίτητες δικλείδες ασφαλείας. Οι συντάκτες του NEJM επισημαίνουν ότι βρισκόμαστε μπροστά σε μια «επιδημία αλγοριθμικής υπερβολής», όπου η υπόσχεση της αποτελεσματικότητας συσκοτίζει τους πραγματικούς κινδύνους της μεροληψίας, της έλλειψης διαφάνειας και της διάβρωσης της ιατρικής κρίσης.
Το «Μαύρο Κουτί» και η Απώλεια της Ευθύνης
Ένα από τα κεντρικά σημεία της κριτικής αφορά τη φύση των αλγορίθμων «μαύρου κουτιού» (black box). Στην ιατρική, η κατανόηση του «γιατί» πίσω από μια διάγνωση είναι εξίσου σημαντική με την ίδια τη διάγνωση. Όταν ένας αλγόριθμος βαθιάς μάθησης προτείνει μια θεραπεία, συχνά ούτε οι ίδιοι οι δημιουργοί του δεν μπορούν να εξηγήσουν τη λογική της απόφασης. Αυτό δημιουργεί ένα τεράστιο ηθικό και νομικό κενό: Ποιος φέρει την ευθύνη αν η πρόταση της ΤΝ οδηγήσει σε θάνατο; Ο γιατρός που την ακολούθησε; Η εταιρεία που την πούλησε; Ή ο αλγόριθμος που δεν μπορεί να δικαστεί;
Το NEJM υπογραμμίζει ότι η ιατρική βασίζεται στην εμπιστοσύνη και την αιτιολόγηση. Η αντικατάσταση της ανθρώπινης κρίσης με στατιστικές πιθανότητες που δεν μπορούν να ελεγχθούν, υπονομεύει τη θεμελιώδη σχέση γιατρού-ασθενούς. Επιπλέον, υπάρχει ο κίνδυνος της «προκατάληψης αυτοματισμού» (automation bias), όπου οι γιατροί τείνουν να εμπιστεύονται τυφλά τις υποδείξεις των μηχανών, παραμερίζοντας τη δική τους κλινική εμπειρία και διαίσθηση.
Συστημική Μεροληψία και Κοινωνικές Ανισότητες
Η Τεχνητή Νοημοσύνη δεν λειτουργεί σε κενό· εκπαιδεύεται σε δεδομένα που αντανακλούν τις υπάρχουσες κοινωνικές ανισότητες. Το άρθρο προειδοποιεί ότι οι αλγόριθμοι που χρησιμοποιούνται σήμερα στην υγεία συχνά ενσωματώνουν φυλετικές, ταξικές και γεωγραφικές προκαταλήψεις. Για παράδειγμα, αν ένα μοντέλο εκπαιδευτεί σε δεδομένα από νοσοκομεία των ΗΠΑ που εξυπηρετούν κυρίως λευκούς ασθενείς, η αποτελεσματικότητά του σε μειονοτικές ομάδες ή σε πληθυσμούς του αναπτυσσόμενου κόσμου θα είναι μειωμένη ή και επικίνδυνη.
Αυτή η «ψηφιακή ανισότητα» δεν είναι απλώς ένα τεχνικό σφάλμα, αλλά μια ηθική αποτυχία. Το NEJM καλεί για αυστηρότερους ελέγχους και για την ανάγκη οι αλγόριθμοι να υποβάλλονται σε κλινικές δοκιμές παρόμοιες με εκείνες των φαρμάκων πριν τους επιτραπεί η ευρεία χρήση. Η λογική του «beta testing» σε πραγματικούς ασθενείς είναι, σύμφωνα με το περιοδικό, απαράδεκτη και ανήθικη.
Η Εμπορευματοποίηση της Φροντίδας
Πίσω από την ώθηση για την ιατρική ΤΝ κρύβεται ένας τεράστιος οικονομικός μηχανισμός. Οι μεγάλες εταιρείες τεχνολογίας βλέπουν την υγεία ως την επόμενη μεγάλη αγορά προς κατάκτηση. Ωστόσο, οι στόχοι της μεγιστοποίησης του κέρδους και της βελτίωσης της δημόσιας υγείας συχνά συγκρούονται. Το άρθρο του NEJM εκφράζει την ανησυχία ότι η ΤΝ θα χρησιμοποιηθεί από τις ασφαλιστικές εταιρείες και τις διοικήσεις νοσοκομείων για τη μείωση του κόστους, οδηγώντας σε μια «βιομηχανοποιημένη» ιατρική όπου ο ασθενής αντιμετωπίζεται ως σύνολο δεδομένων και όχι ως άνθρωπος.
Η προειδοποίηση είναι σαφής: Αν δεν τεθούν αυστηρά ρυθμιστικά πλαίσια τώρα, κινδυνεύουμε να παραδώσουμε το πολυτιμότερο αγαθό μας, την υγεία, σε απρόσωπους αλγορίθμους που προτεραιοποιούν την αποδοτικότητα έναντι της ανθρωπιάς. Η ιατρική κοινότητα οφείλει να αντισταθεί στη γοητεία της τεχνολογικής ευκολίας και να απαιτήσει διαφάνεια, λογοδοσία και, πάνω απ' όλα, την προστασία της ανθρώπινης ζωής.
