Η νομική επιστήμη, ένας κλάδος που παραδοσιακά βασίζεται στην ακρίβεια, την ιστορική τεκμηρίωση και την αδιαμφισβήτητη εγκυρότητα των πηγών, βρίσκεται αντιμέτωπη με μια πρωτοφανή κρίση αξιοπιστίας. Η πρόσφατη προειδοποίηση του δικαστή James Egan του Εφετείου του Όρεγκον δεν αποτελεί απλώς μια παρατήρηση, αλλά μια κραυγή αγωνίας για την αλλοίωση της δικαστικής διαδικασίας από την ανεξέλεγκτη χρήση εργαλείων Τεχνητής Νοημοσύνης (AI).
Η «Επιδημία» των Ψευδαισθήσεων στη Νομολογία
Σε ένα ασυνήθιστο υπόμνημα που εξέδωσε, ο δικαστής Egan περιέγραψε μια «ταχέως κλιμακούμενη» τάση δικηγόρων και διαδίκων που καταθέτουν υπομνήματα γεμάτα με ανύπαρκτες δικαστικές αποφάσεις και κατασκευασμένα νομικά επιχειρήματα. Το φαινόμενο αυτό, γνωστό στον κλάδο της πληροφορικής ως «hallucination» (ψευδαίσθηση), συμβαίνει όταν τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) όπως το ChatGPT, στην προσπάθειά τους να ικανοποιήσουν το αίτημα του χρήστη, παράγουν κείμενο που μοιάζει νομικά ορθό αλλά στερείται πραγματικής βάσης.
Σύμφωνα με τον Egan, η κατάσταση έχει ξεφύγει από τα όρια των μεμονωμένων περιστατικών. Οι δικαστικοί υπάλληλοι και οι βοηθοί δικαστών δαπανούν πλέον αμέτρητες ώρες προσπαθώντας να εντοπίσουν υποτιθέμενες αποφάσεις ανωτάτων δικαστηρίων που δεν εκδόθηκαν ποτέ. Αυτή η σπατάλη δημόσιων πόρων και χρόνου υπονομεύει την αποτελεσματικότητα του δικαστικού συστήματος και θέτει σε κίνδυνο την απονομή δικαιοσύνης.
Από το Σφάλμα στην Εσκεμμένη Αμέλεια
Το ζήτημα δεν είναι καινούργιο, αλλά η κλίμακά του είναι. Το 2023, η υπόθεση Mata v. Avianca στη Νέα Υόρκη έγινε παγκόσμιο πρωτοσέλιδο όταν ένας δικηγόρος παραδέχτηκε ότι χρησιμοποίησε το ChatGPT για να συντάξει μια αγωγή, η οποία περιείχε έξι εντελώς φανταστικές υποθέσεις. Ωστόσο, αυτό που συμβαίνει τώρα στο Όρεγκον και σε άλλα μέρη των ΗΠΑ δείχνει ότι το μάθημα δεν έγινε κατανοητό.
Ο δικαστής Egan τόνισε ότι η χρήση της AI δεν απαλλάσσει τον δικηγόρο από την ηθική και επαγγελματική του υποχρέωση να επαληθεύει κάθε αναφορά. «Η Τεχνητή Νοημοσύνη είναι ένα εργαλείο, όχι ένας αντικαταστάτης της νομικής έρευνας», φαίνεται να είναι το μήνυμα. Η δικαιοσύνη βασίζεται στην αρχή του stare decisis (εμμονή στα αποφασισμένα), και όταν τα θεμέλια αυτής της αρχής μολύνονται από ψευδή δεδομένα, ολόκληρο το οικοδόμημα του κράτους δικαίου κλονίζεται.
Η Θεσμική Θωράκιση και οι Κυρώσεις
Πολλά δικαστήρια διεθνώς έχουν αρχίσει να θεσπίζουν κανόνες που απαιτούν από τους δικηγόρους να δηλώνουν εάν χρησιμοποίησαν AI στη σύνταξη των εγγράφων τους και να πιστοποιούν ότι ένας άνθρωπος έλεγξε την ακρίβεια των αναφορών. Στο Όρεγκον, η προειδοποίηση του Egan συνοδεύεται από την απειλή σοβαρών κυρώσεων, συμπεριλαμβανομένων προστίμων και πειθαρχικών διώξεων από τον Δικηγορικό Σύλλογο.
- Υποχρεωτική δήλωση χρήσης εργαλείων παραγωγικής τεχνητής νοημοσύνης.
- Αυστηρός έλεγχος των παραπομπών από ειδικούς βοηθούς (law clerks).
- Επιβολή προστίμων για «ελαφρά τη καρδία» κατάθεση ψευδών στοιχείων.
Η πρόκληση παραμένει: πώς μπορεί το δίκαιο να ενσωματώσει την τεχνολογική πρόοδο χωρίς να θυσιάσει την ακεραιότητά του; Η απάντηση ίσως βρίσκεται στην εκπαίδευση. Οι νομικοί πρέπει να κατανοήσουν ότι τα LLMs είναι πιθανοτικά μοντέλα —προβλέπουν την επόμενη λέξη— και όχι βάσεις δεδομένων αλήθειας. Η εμπιστοσύνη σε αυτά για τον εντοπισμό νομολογίας είναι σαν να ζητάς από έναν μυθιστοριογράφο να γράψει ένα εγχειρίδιο χειρουργικής.
Συμπέρασμα: Η Ανθρώπινη Κρίση ως Τελευταίο Οχυρό
Καθώς η AI εξελίσσεται, η διάκριση μεταξύ πραγματικότητας και κατασκευασμένης αλήθειας θα γίνεται ολοένα και πιο δύσκολη. Ο δικαστής Egan υπενθυμίζει σε όλους μας ότι η δικαιοσύνη είναι μια βαθιά ανθρώπινη δραστηριότητα που απαιτεί κριτική σκέψη, ηθική συνείδηση και, πάνω απ' όλα, ευθύνη. Η «ταχεία κλιμάκωση» των σφαλμάτων στο Όρεγκον αποτελεί μια προειδοποιητική βολή για όλα τα σύγχρονα δημοκρατικά συστήματα: η τεχνολογία μπορεί να επιταχύνει τις διαδικασίες, αλλά αν αφεθεί χωρίς επίβλεψη, μπορεί να οδηγήσει σε έναν νομικό λαβύρινθο από τον οποίο δεν υπάρχει εύκολη έξοδος.
