Η είδηση ότι ένας αστυνομικός της Μητροπολιτικής Αστυνομίας του Λονδίνου βρίσκεται υπό ποινική έρευνα για τη φερόμενη χρήση τεχνητής νοημοσύνης (AI) στη σύνταξη ένορκης κατάθεσης, αποτελεί ένα ηχηρό καμπανάκι κινδύνου για τα συστήματα δικαιοσύνης παγκοσμίως. Η υπόθεση, η οποία διερευνάται από το Ανεξάρτητο Γραφείο για τη Συμπεριφορά της Αστυνομίας (IOPC), δεν αφορά μόνο μια πιθανή παράβαση καθήκοντος, αλλά αγγίζει τον πυρήνα της νομικής εγκυρότητας και της ηθικής ευθύνης στην εποχή των Μεγάλων Γλωσσικών Μοντέλων (LLMs).
Η Ακεραιότητα των Αποδεικτικών Στοιχείων και το Φάντασμα των «Ψευδαισθήσεων»
Το κεντρικό ζήτημα σε αυτή την υπόθεση είναι η φύση της ίδιας της μαρτυρίας. Μια αστυνομική κατάθεση αποτελεί ένα νομικό έγγραφο που υπογράφεται υπό το βάρος της ποινής για ψευδορκία. Πρέπει να αποτελεί την πιστή αναπαράσταση των όσων είδε, άκουσε και βίωσε ο αξιωματικός. Όταν ένα εργαλείο AI παρεμβάλλεται σε αυτή τη διαδικασία, η γραμμή μεταξύ πραγματικής ανάμνησης και αλγοριθμικής πρόβλεψης θολώνει επικίνδυνα.
Τα μοντέλα τεχνητής νοημοσύνης, παρά την εντυπωσιακή τους ικανότητα να συνθέτουν κείμενο, λειτουργούν βάσει πιθανοτήτων και όχι βάσει αλήθειας. Το φαινόμενο των «ψευδαισθήσεων» (hallucinations), όπου το AI κατασκευάζει γεγονότα που φαίνονται πειστικά αλλά είναι εντελώς ανύπαρκτα, αποτελεί τον μεγαλύτερο εφιάλτη για τη δικαιοσύνη. Αν ένας αστυνομικός χρησιμοποίησε AI για να «γεμίσει τα κενά» μιας κατάθεσης ή για να την καταστήσει πιο συνεκτική, τότε το έγγραφο παύει να είναι μαρτυρία και μετατρέπεται σε ένα προϊόν μυθοπλασίας που μπορεί να οδηγήσει σε λανθασμένες καταδίκες και κατάρρευση της δίκαιης δίκης.
Συστημικές Πιέσεις και η Παγίδα της Παραγωγικότητας
Για να κατανοήσουμε πώς φτάσαμε εδώ, πρέπει να εξετάσουμε τις συνθήκες υπό τις οποίες εργάζονται οι αστυνομικές δυνάμεις το 2026. Με τον όγκο των ψηφιακών δεδομένων να αυξάνεται και τις απαιτήσεις για γραφειοκρατική τεκμηρίωση να γίνονται ολοένα και πιο ασφυκτικές, η χρήση εργαλείων αυτοματισμού φαντάζει ως «σανίδα σωτηρίας». Ωστόσο, υπάρχει μια θεμελιώδης διαφορά μεταξύ της χρήσης AI για την οργάνωση δεδομένων και της χρήσης του για τη δημιουργία περιεχομένου που απαιτεί ανθρώπινη κρίση και ηθική δέσμευση.
Η «αυτοματοποιημένη προκατάληψη» (automation bias) είναι ένας ακόμη κίνδυνος. Οι άνθρωποι τείνουν να εμπιστεύονται τις προτάσεις ενός υπολογιστικού συστήματος περισσότερο από τη δική τους κρίση, ειδικά όταν είναι κουρασμένοι ή υπό πίεση. Αν ένας αξιωματικός αφήσει το AI να συντάξει μια αναφορά, μπορεί να μην παρατηρήσει λεπτές αλλά κρίσιμες αλλοιώσεις στα γεγονότα, οι οποίες στη συνέχεια θα παρουσιαστούν στο δικαστήριο ως απόλυτη αλήθεια. Αυτό δεν είναι απλώς μια τεχνική αστοχία· είναι μια συστημική διάβρωση της αστυνομικής ακεραιότητας.
Η Ανάγκη για ένα Αυστηρό Ρυθμιστικό Πλαίσιο
Η υπόθεση αυτή αναδεικνύει το τεράστιο κενό που υπάρχει στη ρύθμιση της AI εντός των σωμάτων ασφαλείας. Ενώ υπάρχουν κατευθυντήριες γραμμές για τη χρήση της αναγνώρισης προσώπου ή της προγνωστικής αστυνόμευσης, η χρήση γεννητικής τεχνητής νοημοσύνης (Generative AI) για τη σύνταξη νομικών εγγράφων παραμένει μια «γκρίζα ζώνη». Η έρευνα του IOPC θα αποτελέσει πιθανότατα το νομικό προηγούμενο που θα καθορίσει τα όρια της τεχνολογίας στο μέλλον.
Είναι σαφές ότι η δικαιοσύνη δεν μπορεί να βασίζεται σε αλγορίθμους «μαύρου κουτιού». Η διαφάνεια, η ιχνηλασιμότητα και η απόλυτη ανθρώπινη ευθύνη πρέπει να παραμείνουν οι πυλώνες του συστήματος. Αν επιτρέψουμε στην AI να αντικαταστήσει την ανθρώπινη μαρτυρία, τότε κινδυνεύουμε να μετατρέψουμε το δικαστικό μας σύστημα σε μια μηχανική διαδικασία όπου η αλήθεια θυσιάζεται στον βωμό της ταχύτητας. Η ποινική έρευνα σε βάρος του αστυνομικού είναι μια υπενθύμιση ότι, στον κόσμο της τεχνολογίας, η ηθική παραμένει η μόνη σταθερά που δεν μπορούμε να αφήσουμε στην τύχη.
