Η εποχή της ατιμωρησίας για τους «αλγοριθμικούς θυρωρούς» της αγοράς εργασίας φαίνεται να πλησιάζει στο τέλος της. Σε μια απόφαση που αναμένεται να προκαλέσει τριγμούς στη Silicon Valley, η ομοσπονδιακή δικαστής Ρίτα Λιν στο Σαν Φρανσίσκο έκρινε ότι η Workday Inc., ένας από τους μεγαλύτερους παρόχους λογισμικού διαχείρισης ανθρώπινου δυναμικού παγκοσμίως, πρέπει να αντιμετωπίσει δικαστικά τις κατηγορίες για συστημικές διακρίσεις μέσω των εργαλείων τεχνητής νοημοσύνης που προσφέρει.
Η υπόθεση, γνωστή ως Mobley v. Workday, φέρνει στο προσκήνιο τον Ντέρεκ Μόμπλεϊ, έναν Αφροαμερικανό άνδρα άνω των 40 ετών που πάσχει από άγχος και κατάθλιψη. Ο Μόμπλεϊ ισχυρίζεται ότι απορρίφθηκε από περισσότερες από 100 θέσεις εργασίας για τις οποίες είχε τα προσόντα, επειδή το λογισμικό της Workday χρησιμοποίησε αλγόριθμους που εισάγουν διακρίσεις βάσει φυλής, ηλικίας και αναπηρίας. Η σημασία αυτής της απόφασης δεν έγκειται μόνο στις κατηγορίες, αλλά στο γεγονός ότι το δικαστήριο αναγνώρισε τη Workday ως δυνητικό «έμμεσο εργοδότη» ή «πρακτορείο απασχόλησης», καταρρίπτοντας το επιχείρημα ότι η εταιρεία είναι απλώς ένας ουδέτερος πάροχος τεχνολογίας.
Η «Μαύρη Τρύπα» των Αλγορίθμων και η Νομική Ευθύνη
Για χρόνια, οι εταιρείες τεχνολογίας κρύβονταν πίσω από την πολυπλοκότητα των κωδίκων τους. Όταν ένας υποψήφιος απορρίπτονταν από ένα αυτοματοποιημένο σύστημα, η ευθύνη μετακυλιόταν στον εργοδότη που χρησιμοποιούσε το εργαλείο, ενώ ο δημιουργός του λογισμικού παρέμενε στο απυρόβλητο. Η δικαστής Λιν, ωστόσο, υιοθέτησε μια διαφορετική προσέγγιση. Στην απόφασή της, τόνισε ότι εάν μια εταιρεία όπως η Workday αναλαμβάνει παραδοσιακές λειτουργίες πρόσληψης —όπως ο έλεγχος, η αξιολόγηση και η απόρριψη υποψηφίων— τότε πρέπει να υπόκειται στους ίδιους αντιδιακριτικούς νόμους που διέπουν τους ανθρώπινους υπεύθυνους προσλήψεων.
Το νομικό επιχείρημα βασίζεται στον ομοσπονδιακό νόμο περί Πολιτικών Δικαιωμάτων (Title VII) και στον νόμο για τους Αμερικανούς με Αναπηρία (ADA). Η απόφαση αυτή αποτελεί προειδοποίηση για ολόκληρο τον κλάδο του SaaS (Software as a Service). Εάν το λογισμικό σας λαμβάνει αποφάσεις που επηρεάζουν τη ζωή των ανθρώπων, δεν μπορείτε πλέον να ισχυρίζεστε ότι είστε ένας απλός «αγωγός» πληροφοριών. Η Workday, από την πλευρά της, αρνείται τις κατηγορίες, υποστηρίζοντας ότι οι πελάτες της έχουν τον τελικό έλεγχο των κριτηρίων πρόσληψης. Ωστόσο, η δικαστική έρευνα θα εξετάσει πλέον σε βάθος πώς εκπαιδεύονται αυτοί οι αλγόριθμοι και αν τα δεδομένα εκπαίδευσης φέρουν προκαταλήψεις του παρελθόντος.
Από την Τεχνολογία στην Κοινωνική Δικαιοσύνη
Η χρήση της AI στις προσλήψεις υπόσχεται αποτελεσματικότητα και ταχύτητα, αλλά συχνά λειτουργεί ως ένας «πολλαπλασιαστής προκαταλήψεων». Οι αλγόριθμοι μαθαίνουν από ιστορικά δεδομένα. Εάν μια εταιρεία ιστορικά προσλάμβανε κυρίως λευκούς άνδρες από συγκεκριμένα πανεπιστήμια, η AI θα θεωρήσει αυτά τα χαρακτηριστικά ως «σήματα επιτυχίας», απορρίπτοντας αυτόματα υποψηφίους που δεν ταιριάζουν στο πρότυπο. Αυτό δημιουργεί έναν φαύλο κύκλο που αποκλείει ταλαντούχους ανθρώπους λόγω της ταυτότητάς τους και όχι των ικανοτήτων τους.
- Συστημικός Αποκλεισμός: Η περίπτωση του Μόμπλεϊ δείχνει πώς η αυτοματοποίηση μπορεί να κλειδώσει ολόκληρες κοινωνικές ομάδες έξω από την αγορά εργασίας χωρίς ποτέ να δοθεί εξήγηση.
- Η Διαφάνεια ως Απαίτηση: Η απόφαση ενισχύει την ανάγκη για «αλγοριθμική λογοδοσία», όπου οι εταιρείες πρέπει να αποδεικνύουν ότι τα εργαλεία τους είναι δίκαια.
- Προηγούμενο για την ΕΕ: Αν και η απόφαση αφορά τις ΗΠΑ, αναμένεται να επηρεάσει τις συζητήσεις στην Ευρώπη σχετικά με την εφαρμογή του AI Act, ειδικά σε τομείς υψηλού κινδύνου όπως η απασχόληση.
Οι Επιπτώσεις για το Μέλλον της Εργασίας
Αυτή η δικαστική εξέλιξη σηματοδοτεί μια στροφή προς την αυστηρότερη ρύθμιση της AI. Οι εταιρείες δεν μπορούν πλέον να αγοράζουν «μαύρα κουτιά» λογισμικού και να ελπίζουν ότι δεν θα φέρουν ευθύνη για τα αποτελέσματά τους. Η Workday θα αναγκαστεί πλέον να αποκαλύψει πτυχές της λειτουργίας των αλγορίθμων της κατά τη διαδικασία της αποδεικτικής διαδικασίας (discovery), κάτι που οι εταιρείες τεχνολογίας αποφεύγουν παραδοσιακά ως «εμπορικό μυστικό».
Στο μέλλον, αναμένουμε να δούμε την άνοδο των ανεξάρτητων ελέγχων (audits) για την AI. Όπως οι εταιρείες ελέγχονται οικονομικά, έτσι θα πρέπει να ελέγχονται και για την ηθική και τη δικαιοσύνη των αλγορίθμων τους. Η υπόθεση Mobley v. Workday είναι μόνο η αρχή μιας μακράς μάχης για τα ψηφιακά δικαιώματα στον χώρο εργασίας. Η τεχνολογία πρέπει να υπηρετεί την ανθρωπότητα, όχι να αναπαράγει τις παθογένειές της κάτω από τον μανδύα της μαθηματικής αντικειμενικότητας.
«Η τεχνητή νοημοσύνη δεν είναι μια ανώτερη δύναμη· είναι ένα εργαλείο που κατασκευάστηκε από ανθρώπους και πρέπει να λογοδοτεί στους ανθρώπινους νόμους», αναφέρουν νομικοί κύκλοι που παρακολουθούν την υπόθεση.
