Σε μια εποχή όπου η ψηφιακή διακυβέρνηση υπόσχεται αποτελεσματικότητα, η διασταύρωση της τεχνολογίας με την κοινωνική πρόνοια δημιουργεί ένα νέο, αμφιλεγόμενο πεδίο μάχης. Η πολιτεία του Μισούρι, μαζί με άλλες πέντε αμερικανικές πολιτείες, ανακοίνωσε πρόσφατα σχέδια για την ενσωμάτωση συστημάτων Τεχνητής Νοημοσύνης (ΤΝ) στη διαχείριση των «απαιτήσεων εργασίας» (work requirements) για τους δικαιούχους του Medicaid. Η κίνηση αυτή δεν αποτελεί απλώς μια τεχνική αναβάθμιση, αλλά μια θεμελιώδη αλλαγή στον τρόπο με τον οποίο το κράτος αλληλεπιδρά με τους πιο ευάλωτους πολίτες του.
Η Ψηφιοποίηση της Επιτήρησης
Οι απαιτήσεις εργασίας για το Medicaid —το πρόγραμμα υγειονομικής περίθαλψης για άτομα με χαμηλό εισόδημα— υπήρξαν ανέκαθεν ένα πολιτικά φορτισμένο ζήτημα στις Ηνωμένες Πολιτείες. Οι υποστηρικτές τους υποστηρίζουν ότι ενθαρρύνουν την αυτονομία, ενώ οι επικριτές τονίζουν ότι δημιουργούν ανυπέρβλητα γραφειοκρατικά εμπόδια που οδηγούν χιλιάδες ανθρώπους στην απώλεια της ασφαλιστικής τους κάλυψης. Η εισαγωγή της ΤΝ στοχεύει στην αυτοματοποίηση της επαλήθευσης της απασχόλησης, μειώνοντας τον φόρτο εργασίας των κοινωνικών λειτουργών.
Ωστόσο, η αυτοματοποίηση αυτή κρύβει κινδύνους. Τα συστήματα ΤΝ θα διασταυρώνουν δεδομένα από πολλαπλές πηγές —φορολογικά αρχεία, βάσεις δεδομένων απασχόλησης και τραπεζικούς λογαριασμούς— για να προσδιορίσουν εάν ένας δικαιούχος πληροί τα κριτήρια. Στην πράξη, αυτό σημαίνει ότι ένας αλγόριθμος θα έχει τη δύναμη να διακόψει την πρόσβαση ενός πολίτη σε ιατροφαρμακευτική περίθαλψη χωρίς ανθρώπινη παρέμβαση, εάν εντοπίσει μια ασυμφωνία στα δεδομένα.
Το Φάντασμα του Άρκανσο και τα Μαθήματα του Παρελθόντος
Η ιστορία των απαιτήσεων εργασίας στο Medicaid είναι γεμάτη με αποτυχίες. Το 2018, το Άρκανσο επιχείρησε ένα παρόμοιο πείραμα χρησιμοποιώντας μια διαδικτυακή πύλη για την αναφορά ωρών εργασίας. Το αποτέλεσμα ήταν καταστροφικό: πάνω από 18.000 άνθρωποι έχασαν την κάλυψή τους, όχι επειδή δεν εργάζονταν, αλλά λόγω τεχνικών δυσκολιών και της πολυπλοκότητας του συστήματος. Η χρήση ΤΝ σήμερα υπόσχεται να λύσει αυτά τα προβλήματα, αλλά πολλοί ειδικοί φοβούνται ότι θα τα επιδεινώσει.
«Η αυτοματοποίηση της φτώχειας δεν είναι λύση, είναι αποποίηση ευθύνης. Όταν ένας αλγόριθμος κάνει λάθος, δεν υπάρχει κανείς να ζητήσει συγγνώμη ή να διορθώσει το σφάλμα άμεσα», αναφέρει ηθικολόγος τεχνολογίας που παρακολουθεί την υπόθεση.
Το Μισούρι υποστηρίζει ότι η ΤΝ θα καταστήσει το σύστημα πιο δίκαιο, εντοπίζοντας αυτόματα εξαιρέσεις για άτομα με αναπηρίες ή φροντιστές που δεν μπορούν να εργαστούν. Όμως, η «μαύρη τρύπα» των αλγορίθμων καθιστά δύσκολο τον έλεγχο αυτών των αποφάσεων. Εάν το μοντέλο εκπαίδευσης της ΤΝ περιέχει προκαταλήψεις —για παράδειγμα, αν δεν αναγνωρίζει σωστά την εποχιακή εργασία ή την απασχόληση στην «οικονομία της πλατφόρμας» (gig economy)— τότε ολόκληρες ομάδες πληθυσμού κινδυνεύουν με αποκλεισμό.
Οικονομικές και Κοινωνικές Προεκτάσεις
Από οικονομικής απόψεως, η χρήση ΤΝ στο Medicaid θεωρείται μέσο εξοικονόμησης πόρων. Οι πολιτείες ελπίζουν να μειώσουν τα διοικητικά έξοδα και να περιορίσουν τις «απάτες». Ωστόσο, το κόστος της ανάπτυξης και συντήρησης αυτών των συστημάτων είναι τεράστιο, και συχνά καταλήγει σε συμβόλαια με μεγάλες εταιρείες τεχνολογίας, μεταφέροντας δημόσιο χρήμα στον ιδιωτικό τομέα χωρίς εγγυήσεις για τη βελτίωση των υπηρεσιών.
Κοινωνικά, η κίνηση αυτή ενισχύει την αίσθηση της «αλγοριθμικής τιμωρίας». Οι πολίτες χαμηλού εισοδήματος βρίσκονται υπό διαρκή, αυτοματοποιημένη επιτήρηση, ενώ οι πιο εύποροι απολαμβάνουν την προστασία της ιδιωτικότητας. Η τεχνολογία, αντί να λειτουργεί ως εργαλείο ενδυνάμωσης, μετατρέπεται σε εργαλείο πειθάρχησης. Η εξέλιξη στο Μισούρι θα λειτουργήσει ως πιλότος για τις υπόλοιπες ΗΠΑ, και ίσως για τον δυτικό κόσμο, καθορίζοντας αν η ΤΝ θα είναι ο προστάτης ή ο διώκτης του κοινωνικού κράτους.
Συμπεράσματα και Προκλήσεις
Η πρόκληση για το Μισούρι και τις άλλες πέντε πολιτείες είναι να διασφαλίσουν τη διαφάνεια. Η ΤΝ δεν πρέπει να είναι μια κλειστή διαδικασία. Απαιτούνται μηχανισμοί ένστασης, ανθρώπινη εποπτεία και τακτικοί έλεγχοι για μεροληψία. Χωρίς αυτές τις δικλείδες ασφαλείας, η υπόσχεση για αποτελεσματικότητα θα μετατραπεί σε έναν ψηφιακό εφιάλτη για χιλιάδες οικογένειες που εξαρτώνται από το Medicaid για την επιβίωσή τους.
