Η Anthropic, η εταιρεία πίσω από το μοντέλο Claude, ενισχύει δραστικά τις ομάδες ασφαλείας της, αναζητώντας 32 ειδικούς για την πρόληψη της κακόβουλης χρήσης της τεχνητής νοημοσύνης. Οι νέες θέσεις εργασίας καλύπτουν ένα ευρύ φάσμα απειλών, από την κατασκευή εκρηκτικών και την ανάπτυξη πυρηνικών όπλων έως τις κυβερνοεπιθέσεις και τη βιολογική τρομοκρατία.
Από τις πυρηνικές απειλές στο Red Teaming
Η εταιρεία αναζητά αναλυτές και ερευνητές με εξειδίκευση σε ιδιαίτερα ευαίσθητα πεδία, όπως οι απειλές CBRN-E (χημικές, βιολογικές, ραδιολογικές, πυρηνικές και εκρηκτικές). Οι ειδικοί αυτοί θα εφαρμόζουν τη μέθοδο του «red teaming», επιχειρώντας να σκεφτούν ως κακόβουλοι χρήστες για να εντοπίσουν αδυναμίες στα συστήματα πριν από την κυκλοφορία τους.
Σύμφωνα με την Anthropic, το έργο τους περιλαμβάνει:
- Την παράκαμψη φίλτρων ασφαλείας για τον εντοπισμό κενών.
- Τη διασφάλιση ότι το μοντέλο δεν παρέχει επικίνδυνες τεχνικές πληροφορίες.
- Τον έλεγχο για το αν η ΤΝ μπορεί να συνδυάσει αθώες πληροφορίες σε επικίνδυνες οδηγίες.
Υψηλές αμοιβές και η ιδιωτικοποίηση της ασφάλειας
Η εξειδικευμένη γνώση που απαιτείται ανταμείβεται με ετήσιες αμοιβές που κινούνται στα επίπεδα των 200.000 έως 300.000 δολαρίων. Αυτή η τάση αναδεικνύει μια νέα αγορά εργασίας όπου η τεχνολογία συναντά την εθνική ασφάλεια. Ωστόσο, η συγκέντρωση τέτοιας τεχνογνωσίας σε ιδιωτικούς οργανισμούς εγείρει ερωτήματα για το ποιος αποφασίζει τελικά ποιοι κίνδυνοι είναι αποδεκτοί.
Συγκρούσεις και ανταγωνισμός
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει προειδοποιήσει επανειλημμένα για τον κίνδυνο βιολογικών επιθέσεων μέσω ΤΝ. Παράλληλα, η εταιρεία έχει έρθει σε σύγκρουση με το αμερικανικό υπουργείο Άμυνας σχετικά με τη χρήση της τεχνολογίας της σε συστήματα μαζικής παρακολούθησης. Την ίδια στιγμή, η OpenAI ακολουθεί παρόμοια πορεία, προσφέροντας μάλιστα αμοιβές που φτάνουν έως και τα 445.000 δολάρια για αντίστοιχους ρόλους βιοασφάλειας.
