Η είδηση ότι μια από τις πιο εξέχουσες δικηγορικές εταιρείες του κόσμου υπέπεσε στο ατόπημα να καταθέσει δικαστικά έγγραφα που περιείχαν ανύπαρκτες νομικές αναφορές, κατασκευασμένες από εργαλεία Τεχνητής Νοημοσύνης, δεν είναι απλώς ένα τεχνικό σφάλμα· είναι ένα ηχηρό καμπανάκι για το μέλλον της νομικής επιστήμης. Οι λεγόμενες «ψευδαισθήσεις» (hallucinations) των Μεγάλων Γλωσσικών Μοντέλων (LLMs) πέρασαν το κατώφλι των ανωτάτων δικαστηρίων, αποδεικνύοντας ότι ούτε το κύρος ούτε οι παραδοσιακές δικλείδες ασφαλείας των μεγάλων οίκων είναι απρόσβλητες από την υπερβολική εμπιστοσύνη στους αλγορίθμους.
Η Ανατομία μιας Νομικής «Ψευδαίσθησης»
Το φαινόμενο των ψευδαισθήσεων στην Τεχνητή Νοημοσύνη συμβαίνει όταν ένα μοντέλο, στην προσπάθειά του να ικανοποιήσει το αίτημα του χρήστη για πληροφορίες, παράγει κείμενο που φαίνεται εξαιρετικά πειστικό και τεκμηριωμένο, αλλά στερείται οποιασδήποτε βάσης στην πραγματικότητα. Στη συγκεκριμένη περίπτωση, το AI δημιούργησε ολόκληρες δικαστικές αποφάσεις, με ονόματα δικαστών, αριθμούς πρωτοκόλλου και αποσπάσματα σκεπτικών, τα οποία όμως δεν υπήρξαν ποτέ. Οι δικηγόροι, βασιζόμενοι στην ταχύτητα παραγωγής του κειμένου, απέτυχαν να προβούν στον στοιχειώδη έλεγχο διασταύρωσης (cross-referencing), με αποτέλεσμα να εκτεθούν ανεπανόρθωτα ενώπιον της δικαιοσύνης.
Το πρόβλημα έγκειται στη φύση των LLMs. Αυτά τα συστήματα είναι «στοχαστικοί παπαγάλοι» — έχουν εκπαιδευτεί να προβλέπουν την επόμενη πιθανή λέξη σε μια πρόταση, όχι να κατανοούν την αλήθεια ή τη νομική εγκυρότητα. Όταν ένας δικηγόρος ζητά μια προηγούμενη δικαστική απόφαση που να υποστηρίζει μια συγκεκριμένη θέση, το AI θα «ράψει» μια απάντηση που ακούγεται σαν νομικό κείμενο, ακόμα κι αν χρειαστεί να την εφεύρει εξ ολοκλήρου.
Ηθική και Επαγγελματική Ευθύνη
Η χρήση της Τεχνητής Νοημοσύνης στη νομική έρευνα δεν είναι παράνομη, αλλά η τυφλή εμπιστοσύνη σε αυτήν παραβιάζει θεμελιώδεις κανόνες δεοντολογίας. Σύμφωνα με τους κανόνες επαγγελματικής συμπεριφοράς, ο δικηγόρος έχει την αποκλειστική ευθύνη για την ακρίβεια των εγγράφων που υπογράφει. Η δικαιολογία «το έγραψε το AI» δεν γίνεται δεκτή από τους δικαστές, οι οποίοι βλέπουν σε αυτή την πρακτική μια απόπειρα παραπλάνησης του δικαστηρίου, έστω και από αμέλεια.
- Η Υποχρέωση της Επάρκειας: Οι δικηγόροι πρέπει να κατανοούν τα εργαλεία που χρησιμοποιούν. Αν δεν γνωρίζουν πώς λειτουργεί το AI, δεν θα έπρεπε να το χρησιμοποιούν για κρίσιμες εργασίες.
- Η Εποπτεία των «Βοηθών»: Το AI πρέπει να αντιμετωπίζεται ως ένας άπειρος ασκούμενος δικηγόρος του οποίου η εργασία απαιτεί σχολαστικό έλεγχο.
- Η Ακεραιότητα του Συστήματος: Η κατάθεση ψευδών στοιχείων κλονίζει την εμπιστοσύνη των πολιτών στη δικαιοσύνη και επιβαρύνει τα δικαστήρια με άσκοπη εργασία για τον έλεγχο ανύπαρκτων πηγών.
Οι Επιπτώσεις για τον Νομικό Κλάδο
Η υπόθεση αυτή αναμένεται να επιταχύνει τη θέσπιση αυστηρότερων κανόνων. Ήδη, ορισμένοι δικαστές στις ΗΠΑ έχουν εκδώσει οδηγίες που απαιτούν από τους δικηγόρους να δηλώνουν εάν χρησιμοποίησαν AI στη σύνταξη των προτάσεών τους και να βεβαιώνουν ότι κάθε αναφορά έχει ελεγχθεί από άνθρωπο. Για τις μεγάλες δικηγορικές εταιρείες, το διακύβευμα είναι η ίδια τους η φήμη. Η «οικονομία της ταχύτητας» που υπόσχεται το AI έρχεται σε σύγκρουση με την «οικονομία της ακρίβειας» που απαιτεί ο νόμος.
«Η Τεχνητή Νοημοσύνη μπορεί να είναι ένας εξαιρετικός υπηρέτης, αλλά είναι ένας επικίνδυνος κύριος. Στη νομική επιστήμη, η λεπτομέρεια δεν είναι πολυτέλεια, είναι η ίδια η ουσία της δικαιοσύνης.»
Σε μια εποχή που η πίεση για μείωση του κόστους και αύξηση της παραγωγικότητας είναι τεράστια, οι δικηγόροι καλούνται να επαναπροσδιορίσουν τον ρόλο τους. Η αξία ενός νομικού συμβούλου δεν έγκειται πλέον στην ικανότητα να βρίσκει πληροφορίες —αυτό το κάνει το AI— αλλά στην ικανότητα να τις αξιολογεί, να τις συνθέτει και να εγγυάται για την ορθότητά τους. Το πάθημα της κορυφαίας αυτής εταιρείας αποτελεί μάθημα για ολόκληρο τον κλάδο: η τεχνολογία μπορεί να αυτοματοποιήσει τη γραφή, αλλά δεν μπορεί να αυτοματοποιήσει την κρίση και την ηθική ευθύνη.
