Σε μια εποχή που η Τεχνητή Νοημοσύνη (ΤΝ) παρουσιάζεται συχνά ως το απόλυτο εργαλείο αντικειμενικότητας και αποτελεσματικότητας, ο Βαλέριο Ντι Στεφάνο, καθηγητής Δικαίου στο Πανεπιστήμιο York και ειδικός στον μετασχηματισμό της εργασίας, έρχεται να καταρρίψει αυτόν τον μύθο. Μέσα από την πρόσφατη παρέμβασή του, ο Ντι Στεφάνο αναδεικνύει μια σκληρή πραγματικότητα: οι αλγόριθμοι δεν είναι ουδέτεροι μαθηματικοί τύποι, αλλά «ψηφιακοί καθρέφτες» που αντανακλούν και, συχνά, μεγεθύνουν τις προκαταλήψεις και τις ανισότητες που ήδη μαστίζουν την κοινωνία μας.
Η Ψευδαίσθηση της Αντικειμενικότητας
Η κεντρική ιδέα της ανάλυσης του Ντι Στεφάνο εστιάζει στο γεγονός ότι τα συστήματα ΤΝ εκπαιδεύονται πάνω σε δεδομένα που προέρχονται από έναν κόσμο γεμάτο ανισότητες. Όταν ένας αλγόριθμος χρησιμοποιείται για την πρόσληψη προσωπικού, για παράδειγμα, και βασίζεται σε ιστορικά δεδομένα των τελευταίων 20 ετών μιας εταιρείας, θα τείνει να αναπαράγει τα πρότυπα του παρελθόντος. Αν η εταιρεία προσλάμβανε κυρίως άνδρες για διοικητικές θέσεις, ο αλγόριθμος θα «μάθει» ότι οι άνδρες είναι καταλληλότεροι, αποκλείοντας συστηματικά τις γυναίκες, ακόμα και αν έχουν ανώτερα προσόντα.
Αυτή η «ανακύκλωση των ανισοτήτων» δεν περιορίζεται μόνο στο φύλο, αλλά επεκτείνεται στη φυλή, την ηλικία, την κοινωνική προέλευση και την αναπηρία. Ο Ντι Στεφάνο υποστηρίζει ότι η χρήση της ΤΝ μπορεί να προσδώσει έναν μανδύα επιστημονικοφάνειας σε παλιές διακρίσεις, καθιστώντας τες πιο δύσκολο να εντοπιστούν και να καταπολεμηθούν, καθώς κρύβονται πίσω από το «μαύρο κουτί» του κώδικα.
Αλγοριθμική Διαχείριση: Η Νέα Πειθαρχία στον Χώρο Εργασίας
Μία από τις πιο ανησυχητικές πτυχές που αναλύει ο καθηγητής είναι η άνοδος της αλγοριθμικής διαχείρισης (algorithmic management). Δεν πρόκειται πλέον μόνο για την οικονομία της πλατφόρμας (τύπου Uber ή Wolt), αλλά για μια πρακτική που εισχωρεί σε παραδοσιακούς κλάδους, από τις τράπεζες μέχρι τα εργοστάσια. Οι εργαζόμενοι παρακολουθούνται συνεχώς από αισθητήρες και λογισμικό που μετρά την παραγωγικότητά τους σε δευτερόλεπτα, αξιολογεί τις κινήσεις τους και λαμβάνει αποφάσεις για προαγωγές, ποινές ή απολύσεις χωρίς ανθρώπινη παρέμβαση.
Σύμφωνα με τον Ντι Στεφάνο, αυτό δημιουργεί μια ασύμμετρη σχέση ισχύος. Ο εργαζόμενος βρίσκεται αντιμέτωπος με έναν «αόρατο διευθυντή» στον οποίο δεν μπορεί να αντιτείνει επιχειρήματα. Η αποστασιοποίηση της διοίκησης μέσω των αλγορίθμων οδηγεί στην αποξένωση και την εντατικοποίηση της εργασίας, ενώ παράλληλα διαβρώνει τα συλλογικά δικαιώματα και την ικανότητα των συνδικάτων να διαπραγματεύονται δίκαιους όρους.
Η Ανάγκη για Ρυθμιστικό Πλαίσιο και Διαφάνεια
Ο Ντι Στεφάνο δεν είναι τεχνοφοβικός, αλλά υποστηρίζει σθεναρά ότι η τεχνολογική πρόοδος πρέπει να συμβαδίζει με την προστασία των θεμελιωδών δικαιωμάτων. Σχολιάζοντας τις προσπάθειες της Ευρωπαϊκής Ένωσης, όπως η Πράξη για την Τεχνητή Νοημοσύνη (AI Act), επισημαίνει ότι η διαφάνεια από μόνη της δεν αρκεί. Το να γνωρίζει ένας εργαζόμενος ότι αξιολογείται από έναν αλγόριθμο δεν τον προστατεύει από την αυθαιρεσία αν δεν υπάρχουν μηχανισμοί αμφισβήτησης της απόφασης.
«Η διαφάνεια είναι το πρώτο βήμα, αλλά η λογοδοσία είναι ο τελικός στόχος. Πρέπει να διασφαλίσουμε ότι υπάρχει πάντα ένας άνθρωπος υπεύθυνος για τις τελικές αποφάσεις που επηρεάζουν τη ζωή και την εργασία των ανθρώπων», τονίζει χαρακτηριστικά.
Προτείνει την καθιέρωση του «ανθρώπου στον έλεγχο» (human-in-the-loop) όχι ως τυπική διαδικασία, αλλά ως ουσιαστική εγγύηση. Επιπλέον, καλεί για την ενίσχυση του ρόλου των κοινωνικών εταίρων, ώστε οι αλγόριθμοι να αποτελούν αντικείμενο συλλογικών διαπραγματεύσεων πριν από την εφαρμογή τους.
Συμπέρασμα: Προς μια Ανθρωποκεντρική Τεχνολογία
Το μήνυμα του Βαλέριο Ντι Στεφάνο είναι σαφές: η Τεχνητή Νοημοσύνη μπορεί να είναι ένας καθρέφτης, αλλά εμείς κρατάμε το πλαίσιο. Αν επιτρέψουμε στην τεχνολογία να λειτουργεί ανεξέλεγκτα, απλώς θα αυτοματοποιήσουμε την αδικία. Αν όμως την υποτάξουμε στις αξίες της δημοκρατίας και της ισότητας, μπορεί να αποτελέσει εργαλείο για την απελευθέρωση του ανθρώπινου δυναμικού.
Η πρόκληση για τα επόμενα χρόνια δεν είναι τεχνική, αλλά πολιτική και κοινωνική. Απαιτείται μια νέα ηθική της τεχνολογίας που θα θέτει τον άνθρωπο στο επίκεντρο, διασφαλίζοντας ότι ο ψηφιακός μετασχηματισμός δεν θα αφήσει κανέναν πίσω, ούτε θα νομιμοποιήσει τις προκαταλήψεις του χθες με τη γλώσσα του αύριο.
