Σε μια κίνηση που σηματοδοτεί μια σημαντική καμπή στην ενσωμάτωση της τεχνολογίας στην επιβολή του νόμου, η πολιτεία του Κονέκτικατ ανακοίνωσε την προσωρινή παύση ενός πιλοτικού προγράμματος που χρησιμοποιούσε Τεχνητή Νοημοσύνη (AI) για τη σύνταξη αστυνομικών αναφορών. Η απόφαση αυτή, η οποία ελήφθη από το Τμήμα Υπηρεσιών Έκτακτης Ανάγκης και Προστασίας του Πολίτη (DESPP), αντανακλά μια αυξανόμενη ανησυχία σχετικά με την ακρίβεια, τη νομική εγκυρότητα και τις ηθικές προεκτάσεις της ανάθεσης κρίσιμων εγγράφων της δικαιοσύνης σε αλγορίθμους.
Το Πείραμα της Αυτοματοποιημένης Αστυνόμευσης
Το πρόγραμμα είχε ως στόχο να ελαφρύνει το διοικητικό φόρτο των αστυνομικών, χρησιμοποιώντας γεννητική τεχνητή νοημοσύνη (Generative AI) για τη μετατροπή των καταγραφών από τις κάμερες σώματος (body cams) σε γραπτές εκθέσεις περιστατικών. Θεωρητικά, η τεχνολογία αυτή θα επέτρεπε στους αστυνομικούς να περνούν περισσότερο χρόνο στους δρόμους και λιγότερο χρόνο πίσω από ένα πληκτρολόγιο. Ωστόσο, η πραγματικότητα αποδείχθηκε πολύ πιο περίπλοκη. Η δυνατότητα της AI να «παραισθάνεται» (hallucinate) — δηλαδή να κατασκευάζει γεγονότα που δεν συνέβησαν ποτέ — αποτέλεσε το κύριο σημείο τριβής.
Οι αστυνομικές αναφορές δεν είναι απλά διοικητικά έγγραφα· αποτελούν τον ακρογωνιαίο λίθο της ποινικής διαδικασίας. Χρησιμοποιούνται από τους εισαγγελείς για την απαγγελία κατηγοριών, από τους δικαστές για τον καθορισμό εγγυήσεων και από τους δικηγόρους υπεράσπισης για την αμφισβήτηση της αξιοπιστίας των μαρτύρων. Εάν μια αναφορά περιέχει ανακρίβειες που έχουν παραχθεί από έναν αλγόριθμο, ολόκληρη η νομική διαδικασία κινδυνεύει να καταρρεύσει, οδηγώντας ενδεχομένως σε άδικες καταδίκες ή στην απελευθέρωση επικίνδυνων εγκληματιών λόγω τεχνικών σφαλμάτων.
Νομικά και Ηθικά Διλήμματα
Ένα από τα πιο κρίσιμα ζητήματα που προέκυψαν είναι η έννοια της «αυτοματοποιημένης μεροληψίας» (automation bias). Υπάρχει ο φόβος ότι οι αστυνομικοί, πιεζόμενοι από το χρόνο, μπορεί να αποδέχονται τις αναφορές της AI χωρίς τον απαραίτητο έλεγχο, θεωρώντας ότι η μηχανή είναι αντικειμενική. Επιπλέον, τίθεται το ζήτημα της διασταυρούμενης εξέτασης στο δικαστήριο. Όπως επισημαίνουν νομικοί αναλυτές, ένας δικηγόρος μπορεί να εξετάσει έναν αστυνομικό για όσα είδε και έγραψε, αλλά πώς μπορεί να εξετάσει έναν «μαύρο κουτί» αλγόριθμο για τον τρόπο με τον οποίο ερμήνευσε μια ασαφή κίνηση σε ένα βίντεο;
- Η έλλειψη διαφάνειας στον τρόπο λειτουργίας των αλγορίθμων καθιστά δύσκολη την υπεράσπιση των δικαιωμάτων των κατηγορουμένων.
- Οι ανησυχίες για φυλετικές και κοινωνικές διακρίσεις ενισχύονται, καθώς τα μοντέλα AI εκπαιδεύονται σε δεδομένα που συχνά εμπεριέχουν ιστορικές προκαταλήψεις.
- Η ευθύνη (accountability) θολώνει: ποιος φταίει για μια λανθασμένη αναφορά; Ο αστυνομικός, η εταιρεία λογισμικού ή ο αλγόριθμος;
Η ACLU και άλλες οργανώσεις πολιτικών ελευθεριών έχουν προειδοποιήσει ότι η βιαστική υιοθέτηση τέτοιων εργαλείων χωρίς αυστηρό ρυθμιστικό πλαίσιο αποτελεί απειλή για το κράτος δικαίου. Η περίπτωση του Κονέκτικατ λειτουργεί ως προειδοποιητικό σήμα για άλλες πολιτείες και χώρες που σπεύδουν να ψηφιοποιήσουν τη δικαιοσύνη χωρίς να έχουν προβλέψει τις συνέπειες.
Η Επόμενη Μέρα και η Παγκόσμια Τάση
Η παύση στο Κονέκτικατ δεν σημαίνει απαραίτητα το τέλος της AI στην αστυνόμευση, αλλά μια αναγκαία αναδίπλωση για την αξιολόγηση των κινδύνων. Η πολιτεία σκοπεύει τώρα να θεσπίσει αυστηρότερα πρωτόκολλα ελέγχου και να εκπαιδεύσει το προσωπικό της στην κριτική αξιολόγηση των παραγόμενων κειμένων. Η συζήτηση μετατοπίζεται από το «αν» θα χρησιμοποιηθεί η AI, στο «πώς» θα διασφαλιστεί ότι η ανθρώπινη κρίση παραμένει η τελική αυθεντία.
Σε παγκόσμιο επίπεδο, η Ευρωπαϊκή Ένωση μέσω της Πράξης για την Τεχνητή Νοημοσύνη (AI Act) έχει ήδη κατατάξει τη χρήση AI στην επιβολή του νόμου ως «υψηλού κινδύνου». Η κίνηση του Κονέκτικατ ευθυγραμμίζεται με αυτή τη λογική της προφύλαξης. Η τεχνολογία πρέπει να υπηρετεί τη δικαιοσύνη, όχι να την υποκαθιστά. Η αποτελεσματικότητα δεν μπορεί να επιτευχθεί εις βάρος της αλήθειας, ειδικά όταν διακυβεύεται η ελευθερία των πολιτών. Στο τέλος της ημέρας, η εμπιστοσύνη των πολιτών στους θεσμούς εξαρτάται από τη διαφάνεια και την ανθρώπινη ευθύνη, δύο στοιχεία που η τρέχουσα γενιά της AI δυσκολεύεται να εγγυηθεί.
