Η ραγδαία εξέλιξη της Τεχνητής Νοημοσύνης (ΤΝ) έχει φέρει την ανθρωπότητα σε ένα κρίσιμο σταυροδρόμι, όπου η υπόσχεση για ιατρικά θαύματα συνυπάρχει με τον εφιάλτη της βιολογικής τρομοκρατίας. Πρόσφατα, μια συμμαχία από κορυφαίους διευθύνοντες συμβούλους των μεγαλύτερων εργαστηρίων AI στον κόσμο —συμπεριλαμβανομένων των OpenAI, Anthropic και Google DeepMind— απηύθυνε μια δραματική έκκληση προς τις κυβερνήσεις: τη θέσπιση νόμων που θα προστατεύουν την κοινωνία από την πιθανότητα η ΤΝ να χρησιμοποιηθεί για τον σχεδιασμό και την παραγωγή βιολογικών όπλων.

Η Δημοκρατικοποίηση του Κινδύνου

Το κύριο επιχείρημα των CEO δεν είναι ότι η ΤΝ θα «επαναστατήσει» από μόνη της, αλλά ότι θα λειτουργήσει ως ένας ισχυρός επιταχυντής για κακόβουλους δρώντες. Τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) και τα εξειδικευμένα μοντέλα πρωτεϊνικής αναδίπλωσης έχουν την ικανότητα να επεξεργάζονται τεράστιους όγκους επιστημονικών δεδομένων. Ενώ αυτό βοηθά τους επιστήμονες να ανακαλύψουν νέα φάρμακα σε χρόνο ρεκόρ, μπορεί επίσης να επιτρέψει σε κάποιον χωρίς εξειδικευμένες γνώσεις ιολογίας να βρει οδηγίες για τη γενετική τροποποίηση παθογόνων οργανισμών, καθιστώντας τους πιο μεταδοτικούς ή ανθεκτικούς στα εμβόλια.

Σύμφωνα με αναφορές που έχουν δει το φως της δημοσιότητας, δοκιμές σε περιβάλλοντα «κόκκινης ομάδας» (red-teaming) έδειξαν ότι η ΤΝ μπορεί να βοηθήσει στον προγραμματισμό της εφοδιαστικής αλυσίδας για την απόκτηση επικίνδυνων υλικών παρακάμπτοντας τους ελέγχους, καθώς και στην παροχή λεπτομερών πρωτοκόλλων για τη σύνθεση ιών στο εργαστήριο.

Η Στρατηγική της «Ρυθμιστικής Σύλληψης» ή Πραγματική Ανησυχία;

Η κίνηση αυτή των CEOs έχει προκαλέσει ποικίλες αντιδράσεις στην παγκόσμια κοινότητα. Από τη μία πλευρά, υπάρχει η αναγνώριση ότι η αυτορρύθμιση δεν αρκεί. Οι εταιρείες παραδέχονται ότι οι δικές τους εσωτερικές δικλείδες ασφαλείας μπορούν να παρακαμφθούν από εξελιγμένες επιθέσεις (jailbreaking). Από την άλλη, πολλοί αναλυτές επισημαίνουν τον κίνδυνο της «ρυθμιστικής σύλληψης» (regulatory capture). Ζητώντας αυστηρούς νόμους που απαιτούν τεράστιους πόρους για συμμόρφωση, οι τεχνολογικοί κολοσσοί ίσως προσπαθούν να υψώσουν εμπόδια εισόδου για μικρότερους ανταγωνιστές και την κοινότητα του ανοιχτού κώδικα (open source).

«Δεν μπορούμε να βασιζόμαστε μόνο στην καλή θέληση των εταιρειών όταν διακυβεύεται η παγκόσμια βιοασφάλεια»,
αναφέρει χαρακτηριστικά στέλεχος που συμμετείχε στις διαβουλεύσεις. Η ανάγκη για ένα διεθνές πλαίσιο, παρόμοιο με αυτό της μη διάδοσης των πυρηνικών όπλων, φαίνεται πλέον επιτακτική.Το Δίλημμα του Ανοιχτού Κώδικα

Ένα από τα πιο ακανθώδη ζητήματα είναι η αντιμετώπιση των μοντέλων ανοιχτού κώδικα. Ενώ η διαφάνεια προάγει την καινοτομία, η διάθεση ισχυρών μοντέλων χωρίς περιορισμούς σημαίνει ότι οι δικλείδες ασφαλείας που εφαρμόζει η OpenAI ή η Google δεν υπάρχουν. Οι CEOs υποστηρίζουν ότι για μοντέλα που ξεπερνούν ένα συγκεκριμένο όριο υπολογιστικής ισχύος, θα πρέπει να επιβάλλονται αυστηροί έλεγχοι πριν τη διάθεσή τους στο κοινό. Αυτό όμως έρχεται σε σύγκρουση με την ακαδημαϊκή ελευθερία και την πεποίθηση ότι η ασφάλεια προκύπτει μέσα από τον έλεγχο της κοινότητας και όχι από τη μυστικότητα.

Η Γεωπολιτική Διάσταση

Η συζήτηση δεν περιορίζεται στον ιδιωτικό τομέα. Οι Ηνωμένες Πολιτείες και η Ευρωπαϊκή Ένωση βρίσκονται σε μια κούρσα για το ποιος θα θέσει τα παγκόσμια πρότυπα. Η κυβέρνηση Μπάιντεν, μέσω εκτελεστικών διαταγμάτων, έχει ήδη αρχίσει να απαιτεί από τις εταιρείες AI να αναφέρουν τα αποτελέσματα των δοκιμών ασφαλείας τους. Ωστόσο, οι CEOs επισημαίνουν ότι χωρίς νομοθετική κατοχύρωση, αυτά τα μέτρα παραμένουν ευάλωτα σε πολιτικές αλλαγές. Επιπλέον, υπάρχει ο φόβος ότι αν η Δύση αυτοπεριοριστεί υπερβολικά, η Κίνα ή άλλοι ανταγωνιστές θα αποκτήσουν προβάδισμα, δημιουργώντας ένα κενό ασφαλείας σε παγκόσμιο επίπεδο.

Συμπέρασμα

Η έκκληση των ηγετών της ΤΝ για προστασία από τα βιολογικά όπλα αποτελεί μια ιστορική στιγμή όπου η τεχνολογική ισχύς αναγνωρίζει τα όριά της. Η πρόκληση για τους νομοθέτες είναι να δημιουργήσουν ένα πλαίσιο που θα αποτρέπει τον όλεθρο χωρίς να στραγγαλίζει την καινοτομία που θα μπορούσε να θεραπεύσει τον καρκίνο ή να προλάβει την επόμενη πανδημία. Η ισορροπία είναι λεπτή και ο χρόνος πιέζει, καθώς η ΤΝ εξελίσσεται με ταχύτητα που ξεπερνά κατά πολύ τους ρυθμούς της παραδοσιακής νομοθέτησης.