Η συζήτηση γύρω από την ηθική της Τεχνητής Νοημοσύνης (ΤΝ) συχνά περιορίζεται σε γενικόλογες διακηρύξεις περί «διαφάνειας» και «συμπερίληψης». Ωστόσο, μια νέα ερευνητική εργασία που δημοσιεύθηκε στο ArXiv (cs.AI — 2606.06514) επιχειρεί να μεταφέρει το ζήτημα από τη σφαίρα της κοινωνιολογίας σε εκείνη της καθαρής μαθηματικής θεωρίας. Οι ερευνητές προτείνουν μια ριζοσπαστική ιδέα: η δικαιοσύνη (fairness) στα συστήματα μηχανικής μάθησης δεν πρέπει να αντιμετωπίζεται ως ένα επιπρόσθετο φίλτρο, αλλά ως μια θεμελιώδης «λειτουργία συμμετρίας» (symmetry operation).

Η Φυσική της Κοινωνικής Δικαιοσύνης

Στη φυσική, η συμμετρία υποδηλώνει ότι ορισμένες ιδιότητες ενός συστήματος παραμένουν αμετάβλητες κάτω από συγκεκριμένους μετασχηματισμούς. Για παράδειγμα, οι νόμοι της βαρύτητας παραμένουν οι ίδιοι είτε βρισκόμαστε στην Αθήνα είτε στη Νέα Υόρκη. Η νέα έρευνα εφαρμόζει αυτή τη λογική στους αλγορίθμους ταξινόμησης που χρησιμοποιούνται σε κρίσιμους τομείς, όπως οι προσλήψεις προσωπικού, η έγκριση δανείων και η ποινική δικαιοσύνη. Σύμφωνα με τους συγγραφείς, ένας αλγόριθμος είναι «δίκαιος» μόνο εάν η απόφασή του παραμένει αναλλοίωτη (invariant) όταν εφαρμόζεται μια «αντιπαραδειγματική» (counterfactual) αλλαγή σε ένα προστατευόμενο χαρακτηριστικό, όπως η φυλή, το φύλο ή η θρησκεία.

Η προκατάληψη ορίζεται πλέον μαθηματικά ως «σπάσιμο της συμμετρίας» (symmetry breaking). Όταν ένα μοντέλο ΤΝ δίνει διαφορετικό αποτέλεσμα για δύο πανομοιότυπα προφίλ υποψηφίων, με μόνη διαφορά το φύλο τους, τότε η συμμετρία έχει καταρρεύσει. Η μελέτη εισάγει έναν αυστηρό φορμαλισμό όπου η δικαιοσύνη επιβάλλεται μέσω περιορισμών που αναγκάζουν το μοντέλο να «αγνοεί» μαθηματικά τις διαστάσεις εκείνες του χώρου των δεδομένων που σχετίζονται με τις διακρίσεις.

Από τη Θεωρία στην Καταστολή της Προκατάληψης

Το μεγάλο πρόβλημα με τις υπάρχουσες μεθόδους μείωσης της προκατάληψης (de-biasing) είναι ότι συχνά θυσιάζουν την ακρίβεια του μοντέλου ή αποτυγχάνουν να εντοπίσουν έμμεσες συσχετίσεις (proxy variables). Η προσέγγιση της συμμετρίας, ωστόσο, επιτρέπει στους προγραμματιστές να ενσωματώσουν την «αναλλοιότητα» απευθείας στη διαδικασία εκπαίδευσης του μοντέλου. Χρησιμοποιώντας τεχνικές από τη θεωρία ομάδων (Group Theory), οι ερευνητές δείχνουν πώς μπορούμε να εκπαιδεύσουμε νευρωνικά δίκτυα που είναι εκ φύσεως «τυφλά» στις κοινωνικές ανισότητες, χωρίς όμως να χάνουν την ικανότητά τους να αναγνωρίζουν τα πραγματικά προσόντα ενός υποψηφίου.

  • Αντιπαραδειγματική Δικαιοσύνη: Η ικανότητα του συστήματος να απαντά στην ερώτηση «Τι θα συνέβαινε αν αυτό το άτομο ανήκε σε άλλη κοινωνική ομάδα;».
  • Μαθηματική Αναλλοιότητα: Η διασφάλιση ότι η έξοδος του αλγορίθμου δεν μεταβάλλεται από μετασχηματισμούς που αφορούν προστατευόμενα χαρακτηριστικά.
  • Μείωση της Πολυπλοκότητας: Αντί για χιλιάδες ad-hoc κανόνες, η δικαιοσύνη επιτυγχάνεται μέσω μιας ενιαίας μαθηματικής αρχής.

Οι Προκλήσεις της Εφαρμογής

Παρά την κομψότητα της μαθηματικής προσέγγισης, η εφαρμογή της στον πραγματικό κόσμο παραμένει πρόκληση. Τα δεδομένα με τα οποία εκπαιδεύονται τα συστήματα ΤΝ είναι συχνά «μολυσμένα» από αιώνες ανθρώπινης προκατάληψης. Η επιβολή συμμετρίας σε ένα ασύμμετρο κόσμο μπορεί μερικές φορές να οδηγήσει σε αυτό που οι επικριτές αποκαλούν «αλγοριθμική ισοπέδωση». Επιπλέον, ο καθορισμός του ποια χαρακτηριστικά πρέπει να θεωρούνται «συμμετρικά» παραμένει μια πολιτική και κοινωνική απόφαση, όχι μαθηματική.

«Η δικαιοσύνη δεν είναι απλώς η απουσία σφάλματος, αλλά η παρουσία μιας σταθερής ηθικής δομής μέσα στον κώδικα», αναφέρει χαρακτηριστικά η ερευνητική ομάδα.

Σε ένα μέλλον όπου οι αλγόριθμοι θα αποφασίζουν για τη ζωή και την καριέρα εκατομμυρίων ανθρώπων, η ανάγκη για τέτοιου είδους «μαθηματικές εγγυήσεις» γίνεται επιτακτική. Η εργασία 2606.06514 ανοίγει το δρόμο για μια νέα γενιά «ηθικών από σχεδιασμό» (fair-by-design) συστημάτων, μετατρέποντας την κοινωνική ευαισθησία σε υπολογιστική ισχύ.