Η νομική επιστήμη, ένας κλάδος που παραδοσιακά βασίζεται στην ακρίβεια, την ιστορική τεκμηρίωση και την αδιαμφισβήτητη εγκυρότητα των πηγών, βρίσκεται αντιμέτωπη με μια υπαρξιακή κρίση στην εποχή της παραγωγικής τεχνητής νοημοσύνης. Η πρόσφατη απόφαση του Εφετείου των ΗΠΑ να επιπλήξει δριμύτατα δικηγόρο για την υποβολή υπομνήματος που περιείχε «ψευδείς και πλασματικές» αναφορές σε προηγούμενες υποθέσεις, δεν είναι απλώς ένα μεμονωμένο περιστατικό επαγγελματικής αμέλειας· είναι ένα σήμα κινδύνου για το μέλλον της δικαιοσύνης.
Το Χρονικό μιας Προαναγγελθείσας Απάτης
Το περιστατικό, το οποίο έφερε στο φως το Reuters, αφορά την κατάθεση νομικών εγγράφων όπου η τεχνητή νοημοσύνη —πιθανότατα κάποιο Large Language Model (LLM)— χρησιμοποιήθηκε για τη σύνταξη επιχειρημάτων. Το πρόβλημα προέκυψε όταν το δικαστήριο προσπάθησε να επαληθεύσει τις αναφορές σε προηγούμενες δικαστικές αποφάσεις (case law), μόνο και μόνο για να ανακαλύψει ότι αυτές οι αποφάσεις δεν υπήρξαν ποτέ. Ήταν «παραισθήσεις» (hallucinations) του αλγορίθμου, ο οποίος, στην προσπάθειά του να ικανοποιήσει το αίτημα του χρήστη για νομική τεκμηρίωση, κατασκεύασε πειστικά ονόματα υποθέσεων, αριθμούς πρωτοκόλλου και αποφάσεις που έμοιαζαν απόλυτα αληθοφανείς.
Το δικαστήριο στην απόφασή του ήταν καταπέλτης: «Η υποβολή πλασματικών αναφορών αποτελεί προσβολή προς το δικαστήριο και υπονομεύει την ακεραιότητα του δικαστικού συστήματος». Ο δικηγόρος, ο οποίος ισχυρίστηκε ότι δεν γνώριζε πως η τεχνητή νοημοσύνη μπορούσε να κατασκευάσει ψέματα, βρέθηκε αντιμέτωπος με πειθαρχικές κυρώσεις που θέτουν σε κίνδυνο την άδεια ασκήσεως επαγγέλματός του.
Η Ψευδαίσθηση της Αυθεντίας
Το πρόβλημα με τα LLMs, όπως το ChatGPT ή το Claude, είναι ότι δεν είναι μηχανές αναζήτησης αλήθειας, αλλά «στοχαστικοί παπαγάλοι». Προβλέπουν την επόμενη λέξη σε μια ακολουθία με βάση στατιστικές πιθανότητες. Όταν ένας δικηγόρος ζητά μια απόφαση που να υποστηρίζει μια συγκεκριμένη θέση, το AI θα την «δημιουργήσει» αν δεν την βρει, επειδή ο σκοπός του είναι η γλωσσική ροή και όχι η πραγματολογική ακρίβεια.
- Οι «παραισθήσεις» δεν είναι σφάλματα του συστήματος, αλλά εγγενές χαρακτηριστικό του τρόπου λειτουργίας τους.
- Η έλλειψη κριτικής επαλήθευσης από τον άνθρωπο μετατρέπει ένα χρήσιμο εργαλείο σε όπλο παραπληροφόρησης.
- Η νομική ευθύνη παραμένει πάντα στον υπογράφοντα δικηγόρο, ανεξάρτητα από τα μέσα που χρησιμοποίησε.
«Η τεχνολογία μπορεί να βοηθήσει στη σύνταξη, αλλά η ευθύνη της αλήθειας δεν μπορεί να μεταβιβαστεί σε έναν αλγόριθμο», δήλωσε χαρακτηριστικά ο προεδρεύων δικαστής.
Η Ανάγκη για Νέους Κανόνες Δεοντολογίας
Αυτό το περιστατικό επιταχύνει τη συζήτηση για τη θέσπιση αυστηρών κανόνων στη χρήση της AI στα δικαστήρια. Ήδη, αρκετοί ομοσπονδιακοί δικαστές στις ΗΠΑ έχουν εκδώσει οδηγίες που απαιτούν από τους δικηγόρους να δηλώνουν ρητά αν χρησιμοποίησαν AI και να βεβαιώνουν ότι κάθε αναφορά έχει ελεγχθεί από άνθρωπο. Στην Ευρώπη, η συζήτηση κινείται προς παρόμοια κατεύθυνση, με την Πράξη για την Τεχνητή Νοημοσύνη (AI Act) να θέτει αυστηρά πλαίσια για εφαρμογές «υψηλού κινδύνου», στις οποίες περιλαμβάνεται και η απονομή δικαιοσύνης.
Ηθικά, το ζήτημα αγγίζει τον πυρήνα της δικηγορίας. Αν ένας δικηγόρος χρησιμοποιεί AI για να εξοικονομήσει χρόνο και χρεώνει τον πελάτη με τις ίδιες ώρες εργασίας, ενώ ταυτόχρονα διακινδυνεύει την υπόθεση με ψευδή στοιχεία, τότε δεν έχουμε μόνο τεχνικό σφάλμα, αλλά και σοβαρή ηθική παραβίαση. Η δικαιοσύνη απαιτεί ανθρώπινη κρίση, ενσυναίσθηση και, πάνω από όλα, αλήθεια. Η αυτοματοποίηση της νομικής έρευνας χωρίς εποπτεία είναι ένας δρόμος που οδηγεί στην αποδόμηση της εμπιστοσύνης των πολιτών προς τους θεσμούς.
Συμπέρασμα
Η περίπτωση του Reuters χρησιμεύει ως ένα σκληρό μάθημα για τη νομική κοινότητα παγκοσμίως. Η τεχνητή νοημοσύνη είναι εδώ για να μείνει, και οι δυνατότητές της στην ανάλυση τεράστιου όγκου δεδομένων είναι αδιαμφισβήτητες. Ωστόσο, η τυφλή εμπιστοσύνη σε αλγοριθμικά αποτελέσματα χωρίς την απαραίτητη ανθρώπινη επαλήθευση είναι μια επικίνδυνη ύβρις. Η νομική επιστήμη πρέπει να εξελιχθεί, αλλά όχι εις βάρος της αλήθειας.
