Η υπόσχεση της τεχνητής νοημοσύνης στον τομέα των προσλήψεων ήταν απλή και ελκυστική: η εξάλειψη της ανθρώπινης προκατάληψης. Σε έναν κόσμο όπου οι υπεύθυνοι προσλήψεων (HR managers) συχνά επηρεάζονται υποσυνείδητα από το φύλο, την καταγωγή ή την ηλικία ενός υποψηφίου, η AI παρουσιάστηκε ως ο απόλυτος, αντικειμενικός κριτής. Ωστόσο, μια πρόσφατη μελέτη που είδε το φως της δημοσιότητας μέσω του Fortune ανατρέπει αυτή την αφήγηση, αποδεικνύοντας ότι η τεχνολογία δεν διορθώνει τις ανθρώπινες αδυναμίες, αλλά τις κωδικοποιεί και τις ενισχύει.
Το πείραμα ήταν απλό στην εκτέλεσή του αλλά συνταρακτικό στα αποτελέσματά του. Χρησιμοποιήθηκαν κορυφαία μοντέλα τεχνητής νοημοσύνης για τη δημιουργία και την αξιολόγηση βιογραφικών σημειωμάτων. Τα βιογραφικά ήταν πανομοιότυπα σε προσόντα, προϋπηρεσία και δεξιότητες. Η μόνη διαφορά; Το όνομα και οι ενδείξεις φύλου. Τα αποτελέσματα έδειξαν ότι τα βιογραφικά που ανήκαν σε γυναίκες είχαν σημαντικά περισσότερες πιθανότητες να χαρακτηριστούν ως «αδύναμα» ή «λιγότερο ανταγωνιστικά» σε σχέση με τα ακριβώς ίδια βιογραφικά που αποδίδονταν σε άνδρες.
Η Ψηφιακή Αναπαραγωγή των Στερεοτύπων
Για να κατανοήσουμε γιατί συμβαίνει αυτό, πρέπει να εξετάσουμε τον τρόπο με τον οποίο εκπαιδεύονται τα μεγάλα γλωσσικά μοντέλα (LLMs). Η AI δεν διαθέτει δική της ηθική πυξίδα· μαθαίνει από τον τεράστιο όγκο δεδομένων που υπάρχουν στο διαδίκτυο και στις ιστορικές βάσεις δεδομένων των εταιρειών. Αν για δεκαετίες οι ηγετικές θέσεις καταλαμβάνονταν κυρίως από άνδρες και οι περιγραφές θέσεων εργασίας ήταν γραμμένες με «ανδρικό» λεξιλόγιο, η AI συμπεραίνει ότι αυτά είναι τα πρότυπα της επιτυχίας.
Όταν το μοντέλο βλέπει ένα γυναικείο όνομα δίπλα σε ηγετικές δεξιότητες, δημιουργείται μια «στατιστική ασυμφωνία» με βάση τα δεδομένα εκπαίδευσής του. Το αποτέλεσμα είναι μια λανθάνουσα προκατάληψη που δεν είναι εύκολα ανιχνεύσιμη με την πρώτη ματιά, αλλά γίνεται εμφανής σε μεγάλες κλίμακες δεδομένων. Αυτό που είναι ιδιαίτερα ανησυχητικό είναι ότι η AI συχνά δικαιολογεί την απόφασή της χρησιμοποιώντας ουδέτερη γλώσσα, κρύβοντας τη διάκριση πίσω από τεχνοκρατικούς όρους.
Ο Κίνδυνος της «Μαύρης Τρύπας» στις Προσλήψεις
Πολλές εταιρείες Fortune 500 χρησιμοποιούν ήδη αυτοματοποιημένα συστήματα για το φιλτράρισμα χιλιάδων αιτήσεων. Αν αυτά τα συστήματα είναι εγγενώς προκατειλημμένα, τότε χιλιάδες ικανές γυναίκες αποκλείονται από τη διαδικασία πριν καν φτάσουν στο στάδιο της συνέντευξης. Αυτό δημιουργεί έναν φαύλο κύκλο: οι γυναίκες δεν προσλαμβάνονται σε ηγετικές θέσεις, τα δεδομένα προσλήψεων συνεχίζουν να δείχνουν ανδρική κυριαρχία και η AI συνεχίζει να θεωρεί τους άνδρες ως καταλληλότερους υποψηφίους.
- Η μείωση της ποικιλομορφίας οδηγεί σε λιγότερο καινοτόμες ομάδες.
- Οι εταιρείες εκτίθενται σε νομικούς κινδύνους και αγωγές για διακρίσεις.
- Η εμπιστοσύνη των εργαζομένων στην αξιοκρατία κλονίζεται ανεπανόρθωτα.
Η χρήση της AI ως εργαλείου «αποδοτικότητας» καταλήγει να λειτουργεί ως εργαλείο αποκλεισμού. Το πρόβλημα δεν είναι η τεχνολογία αυτή καθαυτή, αλλά η τυφλή εμπιστοσύνη που της δείχνουμε χωρίς να απαιτούμε διαφάνεια στους αλγορίθμους και στα δεδομένα εκπαίδευσης.
Προς μια Ηθική Τεχνητή Νοημοσύνη
Η λύση δεν είναι η κατάργηση της AI, αλλά η αυστηρή ρύθμιση και ο συνεχής έλεγχος. Η Ευρωπαϊκή Ένωση, μέσω του AI Act, έχει ήδη αρχίσει να κατηγοριοποιεί τα συστήματα προσλήψεων ως «υψηλού κινδύνου», απαιτώντας αυστηρότερα πρότυπα διαφάνειας. Ωστόσο, οι εταιρείες πρέπει να προχωρήσουν πέρα από τη συμμόρφωση. Απαιτούνται «αλγοριθμικοί έλεγχοι» (algorithmic audits) από τρίτους φορείς που θα εξετάζουν αν τα αποτελέσματα των προσλήψεων παρουσιάζουν στατιστικές αποκλίσεις βάσει φύλου ή φυλής.
«Η τεχνολογία είναι ένας καθρέφτης της κοινωνίας μας. Αν δεν μας αρέσει αυτό που βλέπουμε, δεν φταίει ο καθρέφτης, αλλά η πραγματικότητα που αντανακλά», σημειώνουν ειδικοί της ηθικής στην AI.
Στο τέλος της ημέρας, η ανθρώπινη κρίση παραμένει αναντικατάστατη. Η AI μπορεί να βοηθήσει στην οργάνωση των δεδομένων, αλλά η τελική απόφαση για την αξία ενός ανθρώπου δεν μπορεί να αφήνεται σε έναν αλγόριθμο που δεν κατανοεί την έννοια της ισότητας, παρά μόνο τις στατιστικές πιθανότητες του παρελθόντος.
