Σε μια κίνηση που αντικατοπτρίζει την αυξανόμενη ανησυχία για την ανεξέλεγκτη χρήση των αλγορίθμων στη δημόσια διοίκηση, η Κομητεία Montgomery του Τέξας προχώρησε πρόσφατα στην υιοθέτηση ενός ολοκληρωμένου πλαισίου ηθικής για την Τεχνητή Νοημοσύνη (ΤΝ). Η απόφαση αυτή δεν αποτελεί απλώς μια τοπική πρωτοβουλία, αλλά μια άμεση ανταπόκριση στις νομοθετικές απαιτήσεις της πολιτείας του Τέξας, η οποία επιβάλλει πλέον αυστηρότερους ελέγχους στον τρόπο με τον οποίο οι δημόσιοι φορείς χρησιμοποιούν την τεχνολογία. Ωστόσο, πίσω από τις διακηρύξεις για διαφάνεια και δικαιοσύνη, κρύβεται μια έντονη ανησυχία για το οικονομικό βάρος που επωμίζονται οι τοπικές αρχές.
Η Νομοθετική Πίεση από το Austin
Η κίνηση της κομητείας Montgomery έρχεται ως συνέπεια του νομοσχεδίου House Bill 2060, το οποίο ψηφίστηκε από το νομοθετικό σώμα του Τέξας. Ο νόμος αυτός ίδρυσε το Συμβουλευτικό Συμβούλιο Τεχνητής Νοημοσύνης της πολιτείας και υποχρεώνει τις κρατικές και τοπικές υπηρεσίες να καταγράφουν και να αξιολογούν κάθε σύστημα ΤΝ που χρησιμοποιούν. Στόχος είναι η αποφυγή μεροληπτικών αποφάσεων σε κρίσιμους τομείς όπως η επιβολή του νόμου, η κατανομή πόρων και η παροχή κοινωνικών υπηρεσιών. Για το Montgomery, μια περιοχή με ραγδαία ανάπτυξη, η πρόκληση είναι διπλή: να παραμείνει στην αιχμή της τεχνολογίας για την εξυπηρέτηση των πολιτών, διασφαλίζοντας παράλληλα ότι δεν παραβιάζονται θεμελιώδη δικαιώματα.
Οι νέοι κανόνες επικεντρώνονται σε τέσσερις βασικούς πυλώνες: τη διαφάνεια, την υπευθυνότητα, την προστασία της ιδιωτικότητας και την εξάλειψη των αλγοριθμικών προκαταλήψεων. Οι αξιωματούχοι της κομητείας καλούνται πλέον να αποδεικνύουν ότι τα εργαλεία ΤΝ που αγοράζουν από τρίτους προμηθευτές έχουν ελεγχθεί για πιθανές διακρίσεις βάσει φυλής, φύλου ή οικονομικής κατάστασης. Αυτό το «ανθρώπινο στοιχείο στον έλεγχο» (human-in-the-loop) θεωρείται απαραίτητο για να αποτραπεί η μετατροπή της γραφειοκρατίας σε έναν απρόσωπο και δυνητικά άδικο μηχανισμό.
Το Αγκάθι του Κόστους και οι «Ανεκπλήρωτες Εντολές»
Παρά την ηθική αναγκαιότητα των μέτρων, η συζήτηση στο συμβούλιο των επιτρόπων της κομητείας δεν ήταν χωρίς εντάσεις. Το κύριο σημείο τριβής είναι το λεγόμενο «unfunded mandate» — μια εντολή από την πολιτειακή κυβέρνηση που απαιτεί δράση από την τοπική αυτοδιοίκηση χωρίς όμως να παρέχει την απαραίτητη χρηματοδότηση. Η εφαρμογή των κανόνων ηθικής απαιτεί εξειδικευμένο προσωπικό, τακτικούς ελέγχους (audits) και συνεχή παρακολούθηση των λογισμικών, διαδικασίες που συνεπάγονται σημαντικό κόστος.
- Ανάγκη για πρόσληψη ειδικών σε θέματα δεοντολογίας δεδομένων.
- Κόστος πιστοποίησης των αλγορίθμων από εξωτερικούς ελεγκτές.
- Πιθανή αύξηση των τιμών από τους προμηθευτές λογισμικού λόγω των αυστηρότερων προδιαγραφών.
- Διοικητικό βάρος για τη σύνταξη ετήσιων εκθέσεων συμμόρφωσης.
Οι επικριτές σημειώνουν ότι ενώ η πολιτεία του Τέξας επιθυμεί να παρουσιάζεται ως πρωτοπόρος στη ρύθμιση της ΤΝ, μετακυλίει το οικονομικό ρίσκο στις κομητείες. Σε μια περίοδο πληθωριστικών πιέσεων, η δέσμευση πόρων για τον έλεγχο αλγορίθμων μπορεί να σημαίνει λιγότερα χρήματα για υποδομές ή δημόσια ασφάλεια, δημιουργώντας ένα πολιτικό δίλημμα για τους τοπικούς άρχοντες.
Η Ισορροπία μεταξύ Καινοτομίας και Ασφάλειας
Η περίπτωση του Montgomery αποτελεί μικρογραφία μιας παγκόσμιας τάσης. Από την Πράξη για την ΤΝ της Ευρωπαϊκής Ένωσης (EU AI Act) μέχρι τις οδηγίες του Λευκού Οίκου, η ανάγκη για ρυθμιστικό πλαίσιο είναι αδιαμφισβήτητη. Ωστόσο, η τοπική αυτοδιοίκηση βρίσκεται στην πρώτη γραμμή της εφαρμογής. Όταν ένας αλγόριθμος χρησιμοποιείται για να καθορίσει ποιες γειτονιές θα λάβουν προτεραιότητα στην οδοποιία ή πώς θα κατανεμηθούν οι δυνάμεις της αστυνομίας, οι συνέπειες μιας αποτυχίας είναι άμεσες και ορατές.
«Δεν μπορούμε να επιτρέψουμε στην τεχνολογία να λαμβάνει αποφάσεις για τους ανθρώπους χωρίς την επίβλεψη των ανθρώπων», δήλωσε ένας από τους επιτρόπους κατά τη διάρκεια της συνεδρίασης.
Η πρόκληση για το μέλλον θα είναι η δημιουργία εργαλείων που θα αυτοματοποιούν τον ίδιο τον έλεγχο της ηθικής (compliance-as-code), μειώνοντας έτσι το κόστος για τις μικρότερες διοικητικές διοικήσεις. Μέχρι τότε, η κομητεία Montgomery θα λειτουργεί ως πειραματικό εργαστήριο για το αν η ηθική της ΤΝ μπορεί να συμβαδίσει με τη δημοσιονομική πειθαρχία.
