Στην εποχή της ψηφιακής υγείας, ο ασθενής που διαγιγνώσκεται με καρκίνο στρέφεται σχεδόν αντανακλαστικά στο διαδίκτυο για απαντήσεις. Ωστόσο, μια νέα, αποκαλυπτική μελέτη από το Πανεπιστήμιο της Πενσυλβάνια (Penn Medicine) κρούει τον κώδωνα του κινδύνου: υπάρχει ένα τεράστιο χάσμα ανάμεσα στις πραγματικές δυνατότητες της Τεχνητής Νοημοσύνης (ΤΝ) στην ογκολογία και σε αυτά που διαβάζουν οι ασθενείς online. Η έρευνα, η οποία δημοσιεύθηκε πρόσφατα, αναδεικνύει ότι οι διαθέσιμες πληροφορίες όχι μόνο είναι ελλιπείς, αλλά συχνά παραλείπουν κρίσιμες αναφορές στους κινδύνους, τις ηθικές προεκτάσεις και τους περιορισμούς των αλγορίθμων.
Η Ψευδαίσθηση της Πανάκειας
Οι ερευνητές του Penn Medicine ανέλυσαν ένα ευρύ φάσμα ιστοσελίδων—από ειδησεογραφικά πρακτορεία έως επίσημους ιστότοπους νοσοκομείων. Το συμπέρασμα ήταν απογοητευτικό: η συντριπτική πλειονότητα του περιεχομένου επικεντρώνεται αποκλειστικά στις «θαυματουργές» υποσχέσεις της ΤΝ. Αναφορές για το πώς η ΤΝ μπορεί να εντοπίσει όγκους σε ακτινογραφίες ταχύτερα από τους ανθρώπους ή πώς μπορεί να προβλέψει την ανταπόκριση σε μια θεραπεία κυριαρχούν, δημιουργώντας μια εικόνα αλάθητης τεχνολογίας. Ωστόσο, η πραγματικότητα στην κλινική πράξη είναι πολύ πιο σύνθετη.
Η μελέτη διαπίστωσε ότι λιγότερο από το 25% των πηγών ανέφεραν την πιθανότητα αλγοριθμικής μεροληψίας (bias). Αυτό είναι ιδιαίτερα ανησυχητικό, καθώς είναι πλέον τεκμηριωμένο ότι πολλοί αλγόριθμοι εκπαιδεύονται σε δεδομένα που δεν αντιπροσωπεύουν επαρκώς μειονοτικές πληθυσμιακές ομάδες, οδηγώντας σε λιγότερο ακριβείς διαγνώσεις για συγκεκριμένους ασθενείς. Όταν οι πληροφορίες αυτές αποσιωπώνται, ο ασθενής στερείται του δικαιώματος στην πλήρη ενημέρωση και τη συγκατάθεση μετά λόγου γνώσεως.
Το Ηθικό Έλλειμμα και η Διαφάνεια
Ένα από τα πιο κρίσιμα ευρήματα της έρευνας αφορά την έλλειψη διαφάνειας σχετικά με το ποιος αναπτύσσει αυτά τα εργαλεία και πώς χρησιμοποιούνται τα δεδομένα των ασθενών. Ενώ η ΤΝ υπόσχεται εξατομικευμένη ιατρική, η διαδικασία συχνά παραμένει ένα «μαύρο κουτί» (black box). Οι ασθενείς σπάνια ενημερώνονται για το αν τα δεδομένα τους χρησιμοποιούνται για την εκπαίδευση εμπορικών αλγορίθμων ή ποια είναι τα ποσοστά σφάλματος των συστημάτων που χρησιμοποιούνται στη φροντίδα τους.
- Έλλειψη αναφοράς σε πιθανά σφάλματα διάγνωσης από την ΤΝ.
- Απουσία πληροφοριών για την προστασία της ιδιωτικότητας των δεδομένων.
- Υπερβολική έμφαση σε πειραματικές μεθόδους ως εάν να ήταν ήδη η καθιερωμένη πρακτική.
- Μηδαμινή καθοδήγηση για το πώς οι ασθενείς μπορούν να συζητήσουν τη χρήση ΤΝ με τους γιατρούς τους.
Ηθικά, αυτό δημιουργεί μια ανισορροπία ισχύος. Ο ασθενής, ήδη σε ευάλωτη θέση λόγω της νόσου, καλείται να εμπιστευτεί μια τεχνολογία που του παρουσιάζεται ως αλάνθαστη, χωρίς να γνωρίζει τις παραμέτρους ασφαλείας της. Η μελέτη του Penn Medicine υπογραμμίζει ότι η ιατρική κοινότητα έχει την ευθύνη να «εκδημοκρατίσει» την κατανόηση της ΤΝ, παρουσιάζοντας μια ισορροπημένη εικόνα.
Προς ένα Νέο Πρότυπο Ενημέρωσης
Η λύση δεν είναι η αποθάρρυνση της χρήσης της ΤΝ, η οποία αναμφισβήτητα έχει τη δυνατότητα να σώσει εκατομμύρια ζωές. Αντίθετα, η έρευνα προτείνει τη δημιουργία τυποποιημένων κατευθυντήριων γραμμών για τη δημοσιοποίηση πληροφοριών σχετικά με την ΤΝ στην υγεία. Τα νοσοκομεία και οι ερευνητικοί οργανισμοί πρέπει να υιοθετήσουν μια κουλτούρα ριζικής διαφάνειας. Αυτό σημαίνει ότι κάθε αναφορά σε ένα νέο εργαλείο ΤΝ θα πρέπει να συνοδεύεται από σαφείς επεξηγήσεις για το πού υπερτερεί, πού υστερεί και ποιες είναι οι πιθανές παρενέργειες της χρήσης του στη λήψη αποφάσεων.
«Η Τεχνητή Νοημοσύνη στην ογκολογία δεν είναι απλώς ένα τεχνικό ζήτημα· είναι ένα ζήτημα εμπιστοσύνης. Αν δεν γεφυρώσουμε το κενό στην ενημέρωση, κινδυνεύουμε να χάσουμε την εμπιστοσύνη των ασθενών πριν καν η τεχνολογία ωριμάσει πλήρως», αναφέρουν οι ερευνητές.
Στο μέλλον, η ψηφιακή εγγραμματοσύνη στην υγεία θα πρέπει να περιλαμβάνει και την κατανόηση της ΤΝ. Οι ασθενείς πρέπει να γνωρίζουν ποιες ερωτήσεις να θέτουν: «Πώς εκπαιδεύτηκε αυτός ο αλγόριθμος;», «Ποιο είναι το ποσοστό ψευδώς θετικών αποτελεσμάτων;», «Ποιος έχει πρόσβαση στα δεδομένα μου;». Μόνο τότε η ΤΝ θα μπορέσει να εκπληρώσει την υπόσχεσή της ως ένας πραγματικός σύμμαχος στον αγώνα κατά του καρκίνου.
