Σε μια κίνηση που σηματοδοτεί το τέλος της εποχής της «ψηφιακής αθωότητας» και της ανεξέλεγκτης δράσης των τεχνολογικών κολοσσών, ο Καναδάς ανακοίνωσε την κατάθεση μιας ρηξικέλευθης νομοθεσίας. Το νομοσχέδιο στοχεύει στην πλήρη απαγόρευση της πρόσβασης σε πλατφόρμες κοινωνικής δικτύωσης για παιδιά κάτω των 16 ετών, ενώ παράλληλα εισάγει το πιο αυστηρό πλαίσιο ρύθμισης για τα chatbots τεχνητής νοημοσύνης (AI) που έχει δει η Βόρεια Αμερική μέχρι σήμερα.

Η κίνηση αυτή δεν αποτελεί κεραυνό εν αιθρία, αλλά την κορύφωση μιας παγκόσμιας ανησυχίας για την ψυχική υγεία των εφήβων και την επίδραση των αλγορίθμων στη διαμόρφωση της κοινής γνώμης και της προσωπικότητας των νέων. Ο Καναδός Πρωθυπουργός, Τζάστιν Τριντό, τόνισε ότι η προστασία των παιδιών στον ψηφιακό κόσμο είναι εξίσου σημαντική με την προστασία τους στον φυσικό κόσμο, παραδεχόμενος ωστόσο τις τεχνικές δυσκολίες που ενέχει η εφαρμογή ενός τέτοιου μέτρου.

Το Όριο των 16 Ετών: Προστασία ή Ψηφιακός Αποκλεισμός;

Η καρδιά της νέας νομοθεσίας είναι η επιβολή ενός αυστηρού ηλικιακού ορίου. Σύμφωνα με το προτεινόμενο πλαίσιο, οι πλατφόρμες όπως το TikTok, το Instagram και το X (πρώην Twitter) θα υποχρεούνται να εφαρμόζουν αξιόπιστα συστήματα επαλήθευσης ηλικίας. Σε αντίθεση με τις παλαιότερες, τυπικές μεθόδους όπου ο χρήστης απλώς δήλωνε την ημερομηνία γέννησής του, ο Καναδάς προσανατολίζεται σε βιομετρικές λύσεις ή διασύνδεση με κυβερνητικά έγγραφα ταυτοποίησης.

Οι επικριτές του μέτρου κάνουν λόγο για πλήγμα στην ιδιωτικότητα, καθώς η συλλογή ευαίσθητων δεδομένων για την επαλήθευση της ηλικίας θα μπορούσε να δημιουργήσει μια τεράστια βάση δεδομένων που θα αποτελούσε στόχο κυβερνοεπιθέσεων. Ωστόσο, η κυβέρνηση υποστηρίζει ότι το κόστος της αδράνειας είναι πολύ υψηλότερο, παραπέμποντας σε μελέτες που συνδέουν την υπερβολική χρήση των social media με την αύξηση των ποσοστών κατάθλιψης, άγχους και αυτοτραυματισμών στους εφήβους.

Ρυθμίζοντας την Τεχνητή Νοημοσύνη: Τα Chatbots στο Μικροσκόπιο

Πέρα από τα κοινωνικά δίκτυα, το νομοσχέδιο κάνει ένα αποφασιστικό βήμα προς τη ρύθμιση της Τεχνητής Νοημοσύνης. Συγκεκριμένα, τα AI chatbots που αλληλεπιδρούν με το κοινό θα πρέπει να πληρούν αυστηρές προδιαγραφές ασφαλείας. Η νομοθεσία απαιτεί από τις εταιρείες να διασφαλίζουν ότι τα μοντέλα τους δεν παράγουν επιβλαβές περιεχόμενο, δεν προωθούν παραπληροφόρηση και, κυρίως, δεν εκμεταλλεύονται την ψυχολογία των ανηλίκων.

Ιδιαίτερη έμφαση δίνεται στα deepfakes και στη χρήση της ΤΝ για τη δημιουργία μη συναινετικού περιεχομένου. Οι εταιρείες που αναπτύσσουν μεγάλα γλωσσικά μοντέλα (LLMs) θα υποχρεούνται να διενεργούν τακτικούς ελέγχους (audits) και να αναφέρουν στην κυβέρνηση τυχόν κινδύνους που εντοπίζουν στα συστήματά τους. Πρόκειται για μια προσέγγιση που θυμίζει την Πράξη για την Τεχνητή Νοημοσύνη (AI Act) της Ευρωπαϊκής Ένωσης, αλλά προσαρμοσμένη στα δεδομένα της βορειοαμερικανικής αγοράς.

Η Ευθύνη των Εταιρειών και οι Κυρώσεις

Το μήνυμα προς τη Silicon Valley είναι σαφές: η εποχή της αυτορρύθμισης τελείωσε. Ο Καναδάς σκοπεύει να ιδρύσει μια νέα ρυθμιστική αρχή, τον «Επίτροπο Ψηφιακής Ασφάλειας», ο οποίος θα έχει την εξουσία να επιβάλλει πρόστιμα-μαμούθ που μπορούν να φτάσουν έως και το 6% των παγκόσμιων εσόδων μιας εταιρείας. Αυτό σημαίνει ότι για κολοσσούς όπως η Meta ή η Google, η μη συμμόρφωση θα μπορούσε να κοστίσει δισεκατομμύρια δολάρια.

Επιπλέον, η νομοθεσία προβλέπει το «κατέβασμα» περιεχομένου εντός 24 ωρών όταν αυτό κρίνεται επικίνδυνο για τη δημόσια ασφάλεια ή την προστασία των παιδιών. Οι πλατφόρμες θα είναι υπόλογες όχι μόνο για το περιεχόμενο που ανεβάζουν οι χρήστες, αλλά και για τον τρόπο με τον οποίο οι αλγόριθμοι προτείνουν αυτό το περιεχόμενο (recommendation engines), ειδικά όταν αυτό οδηγεί σε «λαγούμι» (rabbit hole) ριζοσπαστικοποίησης ή επιβλαβών προτύπων.

Μια Παγκόσμια Τάση και το Μέλλον

Η πρωτοβουλία του Καναδά ακολουθεί το παράδειγμα της Αυστραλίας, η οποία πρόσφατα ψήφισε παρόμοια απαγόρευση. Η κίνηση αυτή δημιουργεί ένα «μέτωπο» δημοκρατικών κρατών που επιχειρούν να χαλιναγωγήσουν την τεχνολογική ισχύ. Το ερώτημα που παραμένει είναι αν η τεχνολογία μπορεί όντως να περιοριστεί από γεωγραφικά σύνορα ή αν οι έφηβοι θα βρουν τρόπους παράκαμψης μέσω VPN και άλλων εργαλείων.

Σε κάθε περίπτωση, η κίνηση του Καναδά αποτελεί ορόσημο. Αναγνωρίζει ότι ο ψηφιακός χώρος δεν είναι ένας ουδέτερος τόπος, αλλά ένα περιβάλλον που απαιτεί κανόνες, ηθική και κρατική παρέμβαση για την προστασία των πιο ευάλωτων μελών της κοινωνίας. Η μάχη για τον έλεγχο της προσοχής και των δεδομένων των παιδιών μας μόλις πέρασε σε μια νέα, πολύ πιο σοβαρή φάση.