Σε μια εποχή όπου η ριζοσπαστικοποίηση μεταφέρεται από τους φυσικούς χώρους στα σκοτεινά δωμάτια του διαδικτύου και τις κρυπτογραφημένες εφαρμογές, η ανάγκη για προηγμένα εργαλεία ανίχνευσης και παρέμβασης είναι πιο επιτακτική από ποτέ. Η πρόσφατη ανάλυση του Παγκόσμιου Δικτύου για τον Εξτρεμισμό και την Τεχνολογία (GNET) αναδεικνύει την Τεχνητή Νοημοσύνη (ΤΝ) ως το νέο «σύνορο» στον αγώνα κατά της τρομοκρατίας. Ωστόσο, η μετάβαση από την ανθρώπινη ανάλυση στην αλγοριθμική επιτήρηση δεν στερείται κινδύνων, καθώς η λεπτή γραμμή μεταξύ της δημόσιας ασφάλειας και της καταστολής των πολιτικών ελευθεριών γίνεται όλο και πιο δυσδιάκριτη.
Η Υπόσχεση της Αλγοριθμικής Πρόληψης
Η Τεχνητή Νοημοσύνη προσφέρει μοναδικές δυνατότητες στην αναγνώριση προτύπων που το ανθρώπινο μάτι αδυνατεί να εντοπίσει σε πραγματικό χρόνο. Μέσω της Επεξεργασίας Φυσικής Γλώσσας (NLP), τα συστήματα ΤΝ μπορούν να σαρώνουν εκατομμύρια αναρτήσεις, βίντεο και συνομιλίες, εντοπίζοντας τη ρητορική μίσους και τις στρατολογικές τακτικές προτού αυτές οδηγήσουν σε βίαιες ενέργειες. Η δυνατότητα πρόβλεψης της «διαδρομής προς τη ριζοσπαστικοποίηση» επιτρέπει στις αρχές και στις ΜΚΟ να παρεμβαίνουν νωρίς, προσφέροντας εναλλακτικές αφηγήσεις ή υποστήριξη σε ευάλωτα άτομα.
Επιπλέον, η ΤΝ χρησιμοποιείται όλο και περισσότερο σε προγράμματα απεμπλοκής (disengagement). Πρόκειται για την περίπλοκη διαδικασία κατά την οποία ένα άτομο εγκαταλείπει μια εξτρεμιστική οργάνωση. Εδώ, τα chatbots που βασίζονται σε Μεγάλα Γλωσσικά Μοντέλα (LLMs) μπορούν να λειτουργήσουν ως «ασφαλείς» συνομιλητές, παρέχοντας πληροφορίες και ψυχολογική υποστήριξη χωρίς το στίγμα ή τον φόβο της άμεσης αστυνομικής ανάκρισης, διευκολύνοντας την επιστροφή στην κοινωνική ομαλότητα.
Το Ηθικό Ναρκοπέδιο και η Προκατάληψη των Δεδομένων
Παρά τις τεχνικές δυνατότητες, η χρήση της ΤΝ στην αντιτρομοκρατία εγείρει σοβαρά ηθικά διλήμματα. Το κυριότερο πρόβλημα παραμένει η αλγοριθμική προκατάληψη (algorithmic bias). Εάν τα συστήματα εκπαιδεύονται σε δεδομένα που αντανακλούν προϋπάρχουσες κοινωνικές ή φυλετικές προκαταλήψεις, υπάρχει ο κίνδυνος να στοχοποιηθούν άδικα συγκεκριμένες θρησκευτικές ή εθνοτικές ομάδες. Η «μαύρη τρύπα» της λήψης αποφάσεων από την ΤΝ —το γεγονός δηλαδή ότι συχνά δεν γνωρίζουμε γιατί ένας αλγόριθμος χαρακτήρισε κάποιον ως «υψηλού κινδύνου»— καθιστά τη λογοδοσία σχεδόν αδύνατη.
- Ψευδώς Θετικά Αποτελέσματα: Ο κίνδυνος να χαρακτηριστεί ένας αθώος πολίτης ως δυνητικός τρομοκράτης λόγω μιας παρεξηγημένης ανάρτησης.
- Διάβρωση της Ιδιωτικότητας: Η μαζική επιτήρηση υπό το πρόσχημα της πρόληψης μπορεί να οδηγήσει σε μια κοινωνία «πανοπτικού».
- Κατάχρηση από Αυταρχικά Καθεστώτα: Τεχνολογίες που σχεδιάστηκαν για την καταπολέμηση του ISIS μπορούν εύκολα να χρησιμοποιηθούν για την καταστολή της ειρηνικής πολιτικής διαφωνίας.
«Η Τεχνητή Νοημοσύνη δεν είναι μια ουδέτερη λύση· είναι ένας καθρέφτης των προτεραιοτήτων και των φόβων μας. Αν δεν προσέξουμε, η προσπάθειά μας να προστατεύσουμε τη δημοκρατία μπορεί να την υπονομεύσει ανεπανόρθωτα», σημειώνουν αναλυτές του GNET.
Η Αντίστροφη Χρήση: Η ΤΝ στα Χέρια των Εξτρεμιστών
Δεν πρέπει να παραβλέπουμε ότι η τεχνολογία είναι ένα δίκοπο μαχαίρι. Ενώ οι κυβερνήσεις αναπτύσσουν ΤΝ για πρόληψη, οι εξτρεμιστικές οργανώσεις χρησιμοποιούν τη Γεννητική ΤΝ (Generative AI) για να δημιουργήσουν υπερ-ρεαλιστική προπαγάνδα, deepfakes που υποκινούν τη βία και αυτοματοποιημένα δίκτυα (bots) για τη διάδοση παραπληροφόρησης. Η μάχη είναι πλέον αλγοριθμική και οι παραδοσιακές μέθοδοι αντιμετώπισης φαίνονται απελπιστικά αργές μπροστά στην ταχύτητα της ψηφιακής εξάπλωσης του μίσους.
Για να είναι αποτελεσματική η χρήση της ΤΝ στην απεμπλοκή και την πρόληψη, απαιτείται ένα πλαίσιο «ανθρώπου-στον-βρόχο» (human-in-the-loop). Η τεχνολογία πρέπει να υποστηρίζει, όχι να αντικαθιστά, τους ειδικούς ψυχικής υγείας, τους κοινωνικούς λειτουργούς και τους αναλυτές ασφαλείας. Η διαφάνεια στους αλγορίθμους και ο αυστηρός νομικός έλεγχος είναι οι μόνες δικλείδες ασφαλείας που μπορούν να διασφαλίσουν ότι η ΤΝ θα παραμείνει εργαλείο προστασίας και όχι όπλο καταπίεσης.
