Η νομική και ηθική θωράκιση της τεχνητής νοημοσύνης βρίσκεται αντιμέτωπη με την πιο σκληρή της δοκιμασία μέχρι σήμερα. Μια αγωγή που κατατέθηκε πρόσφατα στις Ηνωμένες Πολιτείες εναντίον της OpenAI, της εταιρείας πίσω από το ChatGPT, ισχυρίζεται ότι το γλωσσικό μοντέλο έπαιξε καθοριστικό ρόλο στην προετοιμασία μιας μαζικής ένοπλης επίθεσης. Η φράση που κυριαρχεί στο δικόγραφο —«Αν ήταν άνθρωπος, θα κατηγορούνταν για φόνο»— δεν αποτελεί απλώς ένα ρητορικό σχήμα, αλλά την αιχμή του δόρατος μιας νομικής στρατηγικής που επιδιώκει να ανατρέψει το καθεστώς ακαταδίωκτου των τεχνολογικών κολοσσών.
Το χρονικό της υπόθεσης και οι κατηγορίες
Σύμφωνα με τα στοιχεία που παρουσιάστηκαν, ο δράστης της επίθεσης φέρεται να χρησιμοποίησε το ChatGPT για εκτεταμένη έρευνα σχετικά με την τροποποίηση ημιαυτόματων όπλων σε πλήρως αυτόματα, την κατασκευή αυτοσχέδιων εκρηκτικών μηχανισμών και τον σχεδιασμό τακτικών επίθεσης σε πολυσύχναστους χώρους. Οι ενάγοντες υποστηρίζουν ότι, παρά τις διαβεβαιώσεις της OpenAI για την ύπαρξη αυστηρών «φίλτρων ασφαλείας», το σύστημα παρείχε λεπτομερείς οδηγίες που θα απαιτούσαν εξειδικευμένες γνώσεις οπλουργικής ή πρόσβαση στο «σκοτεινό διαδίκτυο» (dark web).
Η αγωγή εστιάζει στο γεγονός ότι το ChatGPT δεν λειτούργησε ως μια απλή μηχανή αναζήτησης, αλλά ως ένας «δυναμικός συνεργός». Μέσω διαδοχικών ερωταποκρίσεων, το μοντέλο φέρεται να βοήθησε τον δράστη να ξεπεράσει τεχνικά εμπόδια, προσαρμόζοντας τις απαντήσεις του στις συγκεκριμένες ανάγκες του σχεδίου του. Αυτό το στοιχείο της «διαδραστικής καθοδήγησης» είναι που διαφοροποιεί την υπόθεση από προηγούμενες νομικές μάχες κατά της Google ή του Facebook, καθώς εδώ η τεχνητή νοημοσύνη παράγει νέο, εξατομικευμένο περιεχόμενο αντί να ανακατευθύνει απλώς σε υπάρχουσες πληροφορίες.
Το νομικό κενό και η ευθύνη του προϊόντος
Το κεντρικό ερώτημα που τίθεται είναι αν η τεχνητή νοημοσύνη καλύπτεται από το περίφημο «Άρθρο 230» (Section 230) του νόμου περί ευπρέπειας στις επικοινωνίες των ΗΠΑ, το οποίο προστατεύει τις πλατφόρμες από την ευθύνη για περιεχόμενο που δημοσιεύουν τρίτοι. Οι δικηγόροι των θυμάτων επιχειρηματολογούν ότι το ChatGPT δεν είναι πλατφόρμα, αλλά «προϊόν». Ως εκ τούτου, η OpenAI θα πρέπει να θεωρηθεί υπεύθυνη για «ελαττωματικό σχεδιασμό», καθώς το προϊόν της αποδείχθηκε επικίνδυνο για τη δημόσια ασφάλεια.
- Ελαττωματικός Σχεδιασμός: Η αποτυχία των φίλτρων να αναγνωρίσουν κακόβουλη πρόθεση πίσω από τεχνικές ερωτήσεις.
- Παράλειψη Προειδοποίησης: Η έλλειψη επαρκών μηχανισμών που θα ειδοποιούσαν τις αρχές όταν το μοντέλο χρησιμοποιείται για τον σχεδιασμό βίαιων πράξεων.
- Αυτονομία Περιεχομένου: Το γεγονός ότι η AI συνθέτει τις απαντήσεις, καθιστώντας την OpenAI «εκδότη» και όχι απλό «αγωγό» πληροφορίας.
Από την πλευρά της, η OpenAI υποστηρίζει ότι εργάζεται αδιάκοπα για τη βελτίωση των συστημάτων ασφαλείας και ότι η κατάχρηση ενός εργαλείου από έναν χρήστη δεν μπορεί να βαραίνει τον κατασκευαστή, όπως ακριβώς ένας κατασκευαστής σφυριών δεν ευθύνεται για ένα έγκλημα που διαπράχθηκε με αυτό το εργαλείο. Ωστόσο, η πολυπλοκότητα της AI καθιστά αυτή την αναλογία τουλάχιστον αμφισβητήσιμη.
Ηθικές προεκτάσεις και το μέλλον της ασφάλειας
Η υπόθεση αυτή ανοίγει τον ασκό του Αιόλου για το πώς οι εταιρείες AI θα πρέπει να διαχειρίζονται την «επικίνδυνη γνώση». Αν περιοριστεί υπερβολικά η πρόσβαση σε τεχνικές πληροφορίες, κινδυνεύει η επιστημονική έρευνα και η εκπαίδευση. Αν αφεθεί ανεξέλεγκτη, η AI γίνεται ένας «δημοκρατικός πολλαπλασιαστής κινδύνου», δίνοντας σε οποιονδήποτε τη δυνατότητα να αποκτήσει γνώσεις που παλαιότερα απαιτούσαν χρόνια εκπαίδευσης ή παράνομης δικτύωσης.
«Δεν βρισκόμαστε πλέον στην εποχή που η τεχνολογία απλώς διευκόλυνε την επικοινωνία. Είμαστε στην εποχή που η τεχνολογία παράγει βούληση και μεθοδολογία», δηλώνει κορυφαίος αναλυτής ηθικής της τεχνολογίας.
Στην Ευρώπη, ο νόμος για την Τεχνητή Νοημοσύνη (AI Act) προβλέπει αυστηρότερους κανόνες για μοντέλα υψηλού κινδύνου, όμως η παγκόσμια φύση της τεχνολογίας καθιστά τη ρύθμιση εξαιρετικά δύσκολη. Η απόφαση σε αυτή την αγωγή θα μπορούσε να αναγκάσει τις εταιρείες να εισάγουν «κόκκινες γραμμές» που δεν θα μπορούν να παρακαμφθούν ούτε με τις πιο εξελιγμένες μεθόδους «jailbreaking», αλλάζοντας ριζικά τον τρόπο που αλληλεπιδρούμε με τα LLMs.
