Ο συνιδρυτής της Google DeepMind, Σερ Ντέμις Χασάμπις, παρουσίασε μια νέα πρόταση για τη ρύθμιση των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης, υποστηρίζοντας την ανάγκη για έναν ανεξάρτητο φορέα που θα αξιολογεί την ασφάλεια των ισχυρότερων μοντέλων πριν αυτά διατεθούν στο κοινό.

Το μοντέλο της FINRA ως πρότυπο

Η πρόταση του Χασάμπις δεν αφορά μια παραδοσιακή κυβερνητική υπηρεσία. Αντίθετα, προκρίνει ένα υβριδικό μοντέλο βασισμένο στη Financial Industry Regulatory Authority (FINRA) των ΗΠΑ. Πρόκειται για έναν ιδιωτικό οργανισμό αυτορρύθμισης που χρηματοδοτείται από τον κλάδο, αλλά λειτουργεί με αρμοδιότητες που του έχουν εκχωρηθεί από το κράτος.

Σύμφωνα με τον Χασάμπις, οι κλασικές δημόσιες δομές συχνά στερούνται την ταχύτητα και την τεχνική εξειδίκευση που απαιτείται για να παρακολουθήσουν τις εξελίξεις στην AI. Ο νέος φορέας θα μπορούσε να προσλαμβάνει κορυφαίους επιστήμονες και μηχανικούς, προσφέροντας ένα ευέλικτο πλαίσιο ελέγχου που θα προσαρμόζεται διαρκώς.

Επαναπροσδιορίζοντας την «Frontier AI»

Μια σημαντική καινοτομία της πρότασης είναι ο τρόπος κατάταξης των μοντέλων. Ενώ προηγούμενα κανονιστικά πλαίσια εστίαζαν στην υπολογιστική ισχύ (compute) που χρησιμοποιήθηκε για την εκπαίδευση, ο Χασάμπις προτείνει την αξιολόγηση βάσει των πραγματικών δυνατοτήτων.

  • Τα μοντέλα θα χαρακτηρίζονται «frontier» εάν ξεπερνούν συγκεκριμένα όρια σε εξειδικευμένες δοκιμές.
  • Η προσέγγιση αυτή καλύπτει και μοντέλα ανοικτού κώδικα ή ακαδημαϊκά συστήματα, εφόσον επιδεικνύουν υψηλές ικανότητες.
  • Τα εργαστήρια που αναπτύσσουν τέτοια συστήματα θα υπόκεινται σε υποχρεωτική εποπτεία και αυστηρότερα πρότυπα διαφάνειας.

Κενά στις δοκιμές ασφαλείας

Ο Χασάμπις επισημαίνει ότι οι σημερινές δοκιμές επικεντρώνονται κυρίως σε εμπορικές επιδόσεις και όχι σε κινδύνους ασφαλείας. Ο νέος φορέας θα καλείται να αναπτύξει τυποποιημένες δοκιμές για κρίσιμους τομείς, όπως:

  • Η ικανότητα απόκρυψης των πραγματικών δυνατοτήτων του μοντέλου.
  • Η προθυμία παράκαμψης κανόνων και οδηγιών.
  • Η δυνατότητα αυτόνομης εκτέλεσης επικίνδυνων ενεργειών ή σχεδιασμού κυβερνοεπιθέσεων.

Σε αντίθεση με τον Σαμ Άλτμαν της OpenAI, που υποστηρίζει μια διεθνή πρωτοβουλία εξ αρχής, ο Χασάμπις θεωρεί πιο ρεαλιστικό να ηγηθούν οι ΗΠΑ, δημιουργώντας ένα πρότυπο το οποίο άλλες χώρες —ακόμη και η Κίνα— θα αναγκαστούν να ακολουθήσουν για να διατηρήσουν την πρόσβασή τους στην παγκόσμια αγορά.