Σε μια κίνηση που αντηχεί σε ολόκληρο το αμερικανικό δικαστικό σύστημα, το Υπουργείο Υπηρεσιών Έκτακτης Ανάγκης και Προστασίας του Πολίτη (DESPP) του Κονέκτικατ διέταξε την άμεση παύση της χρήσης εργαλείων Τεχνητής Νοημοσύνης για τη σύνταξη αστυνομικών αναφορών. Η απόφαση αυτή, η οποία επηρεάζει τόσο την Πολιτειακή Αστυνομία όσο και τις τοπικές αστυνομικές διευθύνσεις, υπογραμμίζει τη βαθιά ένταση μεταξύ της τεχνολογικής αποτελεσματικότητας και της ανάγκης για απόλυτη ακρίβεια στις ποινικές διώξεις.
Η Υπόσχεση της Παραγωγικότητας και το Εργαλείο Draft One
Η αστυνόμευση στον 21ο αιώνα μαστίζεται από έναν όγκο γραφειοκρατίας που συχνά καθηλώνει τους αξιωματικούς στα γραφεία τους αντί να βρίσκονται στους δρόμους. Σύμφωνα με στοιχεία της βιομηχανίας, ένας αστυνομικός μπορεί να ξοδεύει έως και το 40% της βάρδιάς του συντάσσοντας αναφορές. Εδώ εισήλθε η Axon, η εταιρεία πίσω από τα Taser και τις κάμερες σώματος, με το προϊόν της «Draft One». Το λογισμικό αυτό χρησιμοποιεί τη γεννητική τεχνητή νοημοσύνη (Generative AI) για να μετατρέπει τον ήχο από τις κάμερες σώματος σε προσχέδια αναφορών μέσα σε δευτερόλεπτα.
Οι υποστηρικτές της τεχνολογίας υποστηρίζουν ότι η AI δεν αντικαθιστά τον άνθρωπο, αλλά λειτουργεί ως ένας εξαιρετικά γρήγορος γραμματέας. Ο αστυνομικός οφείλει να ελέγξει, να διορθώσει και να υπογράψει την αναφορά. Ωστόσο, η ευκολία που προσφέρει το σύστημα δημιουργεί τον κίνδυνο της «εμπιστοσύνης στην αυτοματοποίηση», όπου οι αξιωματικοί μπορεί να παραβλέψουν μικρά αλλά κρίσιμα λάθη ή «παραισθήσεις» (hallucinations) του μοντέλου AI, οι οποίες θα μπορούσαν να αλλάξουν την πορεία μιας δίκης.
Νομικά Κωλύματα και το Δικαίωμα στην Αντιπαράσταση
Ο κύριος λόγος για την παύση στο Κονέκτικατ δεν είναι μόνο τεχνικός, αλλά βαθιά συνταγματικός. Οι εισαγγελείς και οι νομικοί αναλυτές εκφράζουν σοβαρές ανησυχίες για το πώς αυτές οι αναφορές θα σταθούν στο δικαστήριο. Η Έκτη Τροπολογία του Αμερικανικού Συντάγματος εγγυάται στον κατηγορούμενο το δικαίωμα να αντιπαρατεθεί με τους μάρτυρες κατηγορίας. Εάν μια αναφορά έχει συνταχθεί από έναν αλγόριθμο, ποιος είναι ο μάρτυρας; Ο αστυνομικός που την υπέγραψε ή ο κώδικας που την παρήγαγε;
- Πιθανότητα μεροληψίας: Τα μοντέλα AI εκπαιδεύονται σε δεδομένα που μπορεί να περιέχουν ιστορικές προκαταλήψεις κατά μειονοτήτων.
- Ακρίβεια των γεγονότων: Η AI μπορεί να παρερμηνεύσει τη γλώσσα του σώματος ή την αργκό, δημιουργώντας μια ψευδή εικόνα για την επικινδυνότητα μιας κατάστασης.
- Διαφάνεια: Οι αλγόριθμοι της Axon είναι ιδιοκτησιακοί, καθιστώντας αδύνατο για τους δικηγόρους υπεράσπισης να εξετάσουν το «μαύρο κουτί» της λήψης αποφάσεων.
Η Αντίδραση των Αρχών και το Μέλλον
Ο Επίτροπος Ronnell Higgins δήλωσε ότι η παύση είναι απαραίτητη μέχρι να θεσπιστεί ένα ενιαίο πολιτειακό πλαίσιο και να εκπαιδευτούν κατάλληλα όλοι οι εμπλεκόμενοι. Δεν πρόκειται για μια οριστική απαγόρευση, αλλά για μια «στιγμή περισυλλογής». Η Επιτροπή Προτύπων και Εκπαίδευσης Αστυνομικών (POST) καλείται τώρα να δημιουργήσει κανονισμούς που θα διασφαλίζουν ότι η τεχνολογία υπηρετεί τη δικαιοσύνη και όχι μόνο την ταχύτητα.
«Η αστυνομική αναφορά είναι το θεμέλιο της ποινικής δίωξης. Αν το θεμέλιο είναι ελαττωματικό, ολόκληρο το οικοδόμημα της δικαιοσύνης κινδυνεύει να καταρρεύσει», αναφέρουν νομικοί κύκλοι της πολιτείας.
Σε μια εποχή που η εμπιστοσύνη του κοινού στην αστυνομία δοκιμάζεται, η εισαγωγή αδιαφανών τεχνολογιών θα μπορούσε να επιδεινώσει το χάσμα. Το Κονέκτικατ πρωτοπορεί θέτοντας το ερώτημα: Πόση από την ανθρώπινη κρίση είμαστε διατεθειμένοι να παραχωρήσουμε στη μηχανή στο όνομα της αποδοτικότητας; Η απάντηση θα καθορίσει το μέλλον της επιβολής του νόμου παγκοσμίως.
