Η υπόσχεση της Τεχνητής Νοημοσύνης (ΤΝ) στην επιβολή του νόμου ήταν πάντα διττή: από τη μία, η υπόσχεση για απόλυτη ακρίβεια και ταχύτητα στην εξιχνίαση εγκλημάτων, και από την άλλη, ο φόβος για μια δυστοπική κοινωνία επιτήρησης. Σήμερα, καθώς οι δικαστικές αίθουσες γεμίζουν με αγωγές πολιτών που συνελήφθησαν άδικα λόγω αλγοριθμικών σφαλμάτων, η πλάστιγγα γέρνει επικίνδυνα προς τη δεύτερη εκδοχή. Η πρόσφατη νομική περιπέτεια που είδε το φως της δημοσιότητας μέσω του mynews4.com δεν είναι απλώς ένα μεμονωμένο περιστατικό, αλλά το σύμπτωμα μιας βαθύτερης κρίσης στην ψηφιακή αστυνόμευση.
Το κεντρικό ζήτημα περιστρέφεται γύρω από την τεχνολογία αναγνώρισης προσώπου (Facial Recognition Technology - FRT), η οποία χρησιμοποιείται όλο και περισσότερο από τα αστυνομικά τμήματα παγκοσμίως. Ωστόσο, η ευκολία με την οποία ένας αλγόριθμος μπορεί να «δείξει» έναν ύποπτο έρχεται σε πλήρη αντίθεση με την επιστημονική πραγματικότητα των ποσοστών σφάλματος, ειδικά όταν πρόκειται για μειονότητες. Η αγωγή αναδεικνύει πώς η τυφλή εμπιστοσύνη στα δεδομένα των μηχανών μπορεί να οδηγήσει σε κατάφωρες παραβιάσεις των ανθρωπίνων δικαιωμάτων.
Το Τεχνικό Υπόβαθρο και η Προκατάληψη των Δεδομένων
Η αναγνώριση προσώπου λειτουργεί με τη χαρτογράφηση των χαρακτηριστικών του προσώπου ενός ατόμου και τη σύγκρισή τους με μια βάση δεδομένων, συνήθως φωτογραφίες από άδειες οδήγησης ή προηγούμενες συλλήψεις. Ενώ στα χαρτιά η διαδικασία φαίνεται αντικειμενική, στην πράξη οι αλγόριθμοι εκπαιδεύονται σε σύνολα δεδομένων που συχνά στερούνται πολυμορφίας. Αυτό έχει ως αποτέλεσμα μια τρομακτική διαφορά στην ακρίβεια: μελέτες από το MIT και το NIST έχουν δείξει ότι τα συστήματα αυτά έχουν έως και 100 φορές περισσότερες πιθανότητες να αναγνωρίσουν λανθασμένα ένα άτομο με σκούρο χρώμα δέρματος σε σχέση με έναν λευκό άνδρα.
Στην περίπτωση της πρόσφατης αγωγής, η αστυνομία φέρεται να βασίστηκε αποκλειστικά σε ένα «ταίριασμα» (match) που παρήγαγε το λογισμικό, χωρίς να διεξάγει περαιτέρω παραδοσιακή έρευνα. Αυτό το φαινόμενο, γνωστό ως «αυτοματοποιημένη μεροληψία» (automation bias), οδηγεί τους αστυνομικούς στο να θεωρούν το αποτέλεσμα του υπολογιστή ως αδιαμφισβήτητη αλήθεια, αγνοώντας προφανείς διαφορές μεταξύ του υπόπτου και του ατόμου που έχουν μπροστά τους.
Νομικό Κενό και Πολιτικές Ελευθερίες
Το μεγαλύτερο πρόβλημα παραμένει η έλλειψη ενός ενιαίου ομοσπονδιακού πλαισίου που να ρυθμίζει τη χρήση της ΤΝ στην αστυνόμευση. Στις Ηνωμένες Πολιτείες, η χρήση της FRT μοιάζει με την «Άγρια Δύση», με κάθε πολιτεία ή ακόμα και κάθε δήμο να θεσπίζει τους δικούς του κανόνες. Οι νομικοί υποστηρίζουν ότι η χρήση αυτών των εργαλείων χωρίς αυστηρή επίβλεψη παραβιάζει την Τέταρτη Τροπολογία του Συντάγματος των ΗΠΑ, η οποία προστατεύει τους πολίτες από παράνομες έρευνες και συλλήψεις.
- Έλλειψη Διαφάνειας: Πολλά αστυνομικά τμήματα αρνούνται να αποκαλύψουν ποιο λογισμικό χρησιμοποιούν, επικαλούμενα εμπορικά μυστικά των εταιρειών τεχνολογίας.
- Απουσία Εκπαίδευσης: Οι αστυνομικοί συχνά δεν λαμβάνουν την απαραίτητη εκπαίδευση για να κατανοήσουν ότι ένα «ταίριασμα» είναι απλώς μια ένδειξη και όχι απόδειξη ενοχής.
- Ψυχολογικές Επιπτώσεις: Οι θύματα λανθασμένων συλλήψεων βιώνουν τραυματικές εμπειρίες που κλονίζουν την εμπιστοσύνη τους στους θεσμούς.
Η νομική μάχη που περιγράφεται στην είδηση δεν αφορά μόνο την αποζημίωση ενός ατόμου. Αφορά τον καθορισμό ενός προηγουμένου: Μπορεί μια μηχανή να αποτελέσει τη μοναδική βάση για τη στέρηση της ελευθερίας ενός ανθρώπου; Η απάντηση των δικαστηρίων θα καθορίσει το μέλλον της ποινικής δικαιοσύνης στην ψηφιακή εποχή.
Η Ευρωπαϊκή Οπτική και η Ανάγκη για Ρύθμιση
Σε αντίθεση με τις ΗΠΑ, η Ευρωπαϊκή Ένωση έχει υιοθετήσει μια πολύ πιο επιφυλακτική στάση μέσω της Πράξης για την Τεχνητή Νοημοσύνη (AI Act). Η ΕΕ απαγορεύει σε μεγάλο βαθμό τη χρήση βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσιους χώρους, αναγνωρίζοντας τους κινδύνους για τη δημοκρατία. Ωστόσο, οι πιέσεις από τις δυνάμεις ασφαλείας για εξαιρέσεις παραμένουν έντονες.
«Η τεχνολογία δεν είναι ουδέτερη. Αντικατοπτρίζει τις προκαταλήψεις των δημιουργών της και τις ατέλειες των δεδομένων μας. Όταν αυτή η ατέλεια οπλίζεται με τη δύναμη της σύλληψης, το αποτέλεσμα είναι καταστροφικό», αναφέρουν ειδικοί σε θέματα ψηφιακών δικαιωμάτων.
Κλείνοντας, είναι σαφές ότι η τεχνολογία αναγνώρισης προσώπου χρειάζεται άμεσα ένα «φρένο». Η καινοτομία δεν μπορεί να προηγείται της δικαιοσύνης. Οι αγωγές αυτές λειτουργούν ως μια αναγκαία υπενθύμιση ότι στην καρδιά του νομικού μας συστήματος πρέπει να παραμείνει ο άνθρωπος και η κριτική σκέψη, και όχι ένας αδιαφανής αλγόριθμος που λειτουργεί σε ένα «μαύρο κουτί».
