Σε μια ιστορική κίνηση που αναμένεται να αναδιαμορφώσει το τοπίο της ψηφιακής διακυβέρνησης στις Ηνωμένες Πολιτείες, η πολιτεία του Κολοράντο υιοθέτησε μια από τις πιο αυστηρές και ολοκληρωμένες νομοθεσίες για την Τεχνητή Νοημοσύνη (ΤΝ) παγκοσμίως. Ο νόμος SB24-205, ο οποίος υπεγράφη από τον Κυβερνήτη Jared Polis, δεν αποτελεί απλώς μια τοπική ρύθμιση, αλλά μια τολμηρή προσπάθεια να καλυφθεί το ομοσπονδιακό κενό στην προστασία των πολιτών από τις ακούσιες συνέπειες των αλγορίθμων.
Η νομοθεσία επικεντρώνεται στην πρόληψη των «αλγοριθμικών διακρίσεων» σε τομείς υψηλού κινδύνου, όπως η απασχόληση, η στέγαση, η τραπεζική πίστη, η ασφάλιση και η υγειονομική περίθαλψη. Για πρώτη φορά σε αμερικανικό έδαφος, οι προγραμματιστές και οι χρήστες συστημάτων ΤΝ υποχρεούνται να επιδεικνύουν «εύλογη φροντίδα» για την αποφυγή προκαταλήψεων που θα μπορούσαν να περιθωριοποιήσουν κοινωνικές ομάδες με βάση τη φυλή, το φύλο ή την ηλικία.
Η Στοχοποίηση των Συστημάτων «Υψηλού Κινδύνου»
Η καρδιά του νέου νόμου χτυπά στην κατηγοριοποίηση των συστημάτων ΤΝ. Το Κολοράντο ακολουθεί μια προσέγγιση παρόμοια με εκείνη της Ευρωπαϊκής Ένωσης, εστιάζοντας σε εφαρμογές που λαμβάνουν «σημαντικές αποφάσεις» για τη ζωή των ανθρώπων. Όταν ένας αλγόριθμος αποφασίζει ποιος θα πάρει δάνειο ή ποιος θα κληθεί για συνέντευξη εργασίας, η νομοθεσία απαιτεί πλήρη διαφάνεια και τακτικούς ελέγχους (audits).
Οι εταιρείες που αναπτύσσουν τέτοια συστήματα οφείλουν πλέον να παρέχουν λεπτομερείς τεκμηριώσεις για τα δεδομένα εκπαίδευσης των μοντέλων τους και να δημοσιοποιούν περιλήψεις των κινδύνων που εντοπίστηκαν. Από την άλλη πλευρά, οι επιχειρήσεις που χρησιμοποιούν αυτά τα εργαλεία (deployers) υποχρεούνται να εφαρμόζουν προγράμματα διαχείρισης κινδύνου και να ενημερώνουν τους καταναλωτές όταν μια απόφαση που τους αφορά έχει ληφθεί από ΤΝ.
Η Πολιτική Σύγκρουση και οι Αντιδράσεις της Silicon Valley
Η διαδρομή προς την υπογραφή του νόμου δεν ήταν ανέφελη. Ο ίδιος ο Κυβερνήτης Polis, παρά την υπογραφή του, εξέφρασε επιφυλάξεις, σημειώνοντας ότι η νομοθεσία θα μπορούσε να αποθαρρύνει την καινοτομία και να δημιουργήσει ένα δαιδαλώδες νομικό περιβάλλον αν κάθε πολιτεία ακολουθήσει διαφορετικό δρόμο. Η βιομηχανία της τεχνολογίας, μέσω ισχυρών λόμπι, προσπάθησε μέχρι την τελευταία στιγμή να αποδυναμώσει τις διατάξεις, υποστηρίζοντας ότι οι απαιτήσεις για ετήσιους ελέγχους είναι υπερβολικά δαπανηρές για τις νεοφυείς επιχειρήσεις.
Ωστόσο, οι υποστηρικτές των πολιτικών δικαιωμάτων χαιρέτισαν την κίνηση ως μια αναγκαία άμυνα απέναντι στον «μαύρο κουτί» των αλγορίθμων. Η κριτική τους επικεντρώνεται στο γεγονός ότι χωρίς αυστηρή εποπτεία, η ΤΝ τείνει να αναπαράγει και να ενισχύει τις υπάρχουσες κοινωνικές ανισότητες που κρύβονται στα ιστορικά δεδομένα.
Το Φαινόμενο του Ντόμινο και το Μέλλον της Διακυβέρνησης
Η κίνηση του Κολοράντο θεωρείται ο «λαγός» που θα παρασύρει και άλλες πολιτείες, όπως η Καλιφόρνια και η Νέα Υόρκη, σε παρόμοιες δράσεις. Σε μια περίοδο που το Κογκρέσο των ΗΠΑ παραμένει διχασμένο και δυσκίνητο όσον αφορά τη ρύθμιση της τεχνολογίας, οι πολιτείες αναλαμβάνουν τον ρόλο των «εργαστηρίων δημοκρατίας». Αυτό όμως εγκυμονεί τον κίνδυνο ενός κατακερματισμένου ρυθμιστικού πλαισίου (patchwork regulations), όπου μια εταιρεία θα πρέπει να ακολουθεί διαφορετικούς κανόνες στο Ντένβερ και διαφορετικούς στο Σιάτλ.
Το μεγάλο ερώτημα που παραμένει είναι η εφαρμογή. Ο νόμος θα τεθεί σε πλήρη ισχύ το 2026, δίνοντας στις επιχειρήσεις ένα χρονικό περιθώριο προσαρμογής. Η επιτυχία του θα κριθεί από την ικανότητα του Γενικού Εισαγγελέα του Κολοράντο να επιβάλλει πρόστιμα και να ελέγχει τους τεχνολογικούς κολοσσούς, χωρίς να στραγγαλίσει την τοπική οικονομία της γνώσης. Το Κολοράντο έθεσε τον πήχη· μένει να δούμε ποιος θα μπορέσει να τον περάσει.
