Η εποχή της αλγοριθμικής ασυλίας φαίνεται να πλησιάζει στο τέλος της. Σε μια απόφαση που αναμένεται να αναδιαμορφώσει το τοπίο της τεχνητής νοημοσύνης στον εργασιακό χώρο, ομοσπονδιακό δικαστήριο της Καλιφόρνια έκρινε ότι η Workday Inc., ένας από τους μεγαλύτερους παρόχους λογισμικού διαχείρισης ανθρώπινου δυναμικού παγκοσμίως, πρέπει να αντιμετωπίσει μια ομαδική αγωγή που την κατηγορεί για διευκόλυνση διακρίσεων μέσω των εργαλείων τεχνητής νοημοσύνης που διαθέτει.
Η Νομική Ανατροπή: Ο Πάροχος ως «Εργοδότης»
Η ουσία της απόφασης της δικαστού Rita Lin έγκειται στην ερμηνεία του ομοσπονδιακού νόμου περί πολιτικών δικαιωμάτων. Μέχρι σήμερα, εταιρείες τεχνολογίας όπως η Workday υποστήριζαν ότι λειτουργούν αποκλειστικά ως πάροχοι λογισμικού (SaaS), μεταθέτοντας την πλήρη ευθύνη για τις αποφάσεις πρόσληψης στους πελάτες τους —δηλαδή στις εταιρείες που χρησιμοποιούν το λογισμικό. Ωστόσο, η δικαστής Lin απέρριψε αυτό το επιχείρημα, κρίνοντας ότι η Workday μπορεί να θεωρηθεί «έμμεσος εργοδότης» ή «πράκτορας» των πελατών της.
Αυτή η διάκριση είναι κεφαλαιώδους σημασίας. Αν το λογισμικό μιας εταιρείας αναλαμβάνει de facto τη λειτουργία του φιλτραρίσματος των υποψηφίων, τότε η εταιρεία που το δημιούργησε φέρει ευθύνη για το αν αυτό το φιλτράρισμα παραβιάζει τους νόμους κατά των διακρίσεων. Η απόφαση αυτή καταρρίπτει το «οχυρό» της τεχνικής ουδετερότητας και θέτει τους δημιουργούς αλγορίθμων προ των ευθυνών τους για τα αποτελέσματα των συστημάτων τους.
Η Υπόθεση Mobley: Ένα Πρόσωπο Πίσω από τα Δεδομένα
Η αγωγή κατατέθηκε από τον Derek Mobley, έναν Αφροαμερικανό άνδρα άνω των 40 ετών που πάσχει από άγχος και κατάθλιψη. Ο Mobley ισχυρίζεται ότι απορρίφθηκε από περισσότερες από 100 θέσεις εργασίας για τις οποίες είχε τα προσόντα, σε εταιρείες που χρησιμοποιούσαν τα εργαλεία της Workday. Η καταγγελία του υποστηρίζει ότι οι αλγόριθμοι της Workday παρουσιάζουν «συστηματική μεροληψία» εις βάρος των μαύρων υποψηφίων, των ατόμων μεγαλύτερης ηλικίας και των ατόμων με αναπηρίες.
Το πρόβλημα, σύμφωνα με τους νομικούς εκπροσώπους του Mobley, δεν είναι μόνο η πρόθεση, αλλά το αποτέλεσμα. Η «μεροληψία των δεδομένων» (data bias) προκύπτει όταν τα μοντέλα μηχανικής μάθησης εκπαιδεύονται σε ιστορικά δεδομένα που ήδη περιέχουν ανθρώπινες προκαταλήψεις. Αν οι ιστορικές προσλήψεις μιας εταιρείας ευνοούσαν μια συγκεκριμένη δημογραφική ομάδα, η AI θα «μάθει» ότι αυτά τα χαρακτηριστικά αποτελούν δείκτες επιτυχίας, αποκλείοντας αυτόματα ικανούς υποψηφίους από μειονοτικές ομάδες.
Η «Μαύρη Τρύπα» των Προσλήψεων και η Ανάγκη για Διαφάνεια
Η χρήση της AI στις προσλήψεις έχει δημιουργήσει μια «μαύρη τρύπα» για τους αναζητούντες εργασία. Συχνά, οι υποψήφιοι δεν γνωρίζουν καν ότι έχουν απορριφθεί από έναν αλγόριθμο, ούτε έχουν τη δυνατότητα να αμφισβητήσουν την απόφαση. Η Workday, από την πλευρά της, υπεραμύνεται των εργαλείων της, δηλώνοντας ότι είναι σχεδιασμένα να βοηθούν τους εργοδότες να βρίσκουν τους καλύτερους υποψηφίους με αποτελεσματικότητα.
Ωστόσο, η αποτελεσματικότητα δεν μπορεί να θυσιάζει την ισότητα. Η υπόθεση αυτή αναδεικνύει την ανάγκη για «αλγοριθμική λογοδοσία». Ήδη, η Ευρωπαϊκή Ένωση με το AI Act έχει κατατάξει τα συστήματα AI που χρησιμοποιούνται στην απασχόληση ως «υψηλού κινδύνου», απαιτώντας αυστηρούς ελέγχους και διαφάνεια. Η απόφαση στην Καλιφόρνια δείχνει ότι και οι ΗΠΑ αρχίζουν να κινούνται προς την ίδια κατεύθυνση μέσω της δικαστικής οδού.
Οι Επιπτώσεις για τη Silicon Valley
Οι συνέπειες αυτής της δίκης θα είναι τεράστιες. Αν η Workday κριθεί τελικά ένοχη, ολόκληρος ο κλάδος του HR-Tech θα αναγκαστεί να αναθεωρήσει τα μοντέλα του. Οι εταιρείες θα πρέπει να διεξάγουν τακτικούς ελέγχους (audits) για μεροληψία και να είναι σε θέση να εξηγήσουν τις αποφάσεις των αλγορίθμων τους. Επιπλέον, οι ασφαλιστικές εταιρείες που καλύπτουν την επαγγελματική ευθύνη θα δουν τα ασφάλιστρα να εκτοξεύονται, καθώς ο κίνδυνος αγωγών για «αλγοριθμικές διακρίσεις» γίνεται πλέον χειροπιαστός.
Σε έναν κόσμο όπου η τεχνολογία διεισδύει σε κάθε πτυχή της ζωής μας, η δικαιοσύνη καλείται να διασφαλίσει ότι οι κώδικες προγραμματισμού δεν θα γίνουν τα νέα τείχη του κοινωνικού αποκλεισμού. Η υπόθεση Workday είναι μόνο η αρχή μιας μακράς μάχης για τα ψηφιακά ανθρώπινα δικαιώματα στον 21ο αιώνα.
