Σε μια κίνηση που ακροβατεί ανάμεσα στην ψηφιακή ασφάλεια και την ολοκληρωτική βιομετρική επιτήρηση, η Meta —η μητρική εταιρεία του Facebook και του Instagram— ανακοίνωσε την εφαρμογή ενός νέου συστήματος Τεχνητής Νοημοσύνης που θα αναλύει την οστική δομή των χρηστών. Στόχος της εταιρείας είναι ο εντοπισμός και η απομάκρυνση χρηστών κάτω των 13 ετών, οι οποίοι συχνά παρακάμπτουν τους παραδοσιακούς ελέγχους ηλικίας δηλώνοντας ψευδή έτη γέννησης. Ωστόσο, η είδηση αυτή έχει προκαλέσει θύελλα αντιδράσεων από οργανώσεις προστασίας προσωπικών δεδομένων και ειδικούς σε θέματα παιδικής ψυχολογίας.
Η Τεχνολογία πίσω από το Βλέμμα
Το σύστημα δεν περιορίζεται στην απλή αναγνώριση προσώπου. Σύμφωνα με τεχνικές λεπτομέρειες που διέρρευσαν, η AI της Meta χρησιμοποιεί εξελιγμένους αλγορίθμους υπολογιστικής όρασης (computer vision) για να σαρώσει φωτογραφίες και βίντεο, αναζητώντας «γενικά θέματα και οπτικά ερεθίσματα». Το κλειδί βρίσκεται στην ανάλυση της αναλογίας των άκρων, της πυκνότητας των χαρακτηριστικών του προσώπου και της σκελετικής ανάπτυξης που υποδηλώνει την προ-εφηβική ηλικία. Η Meta υποστηρίζει ότι αυτή η μέθοδος είναι πολύ πιο ακριβής από την απλή εκτίμηση ηλικίας βάσει προσώπου, καθώς η οστική ανάπτυξη ακολουθεί συγκεκριμένα βιολογικά πρότυπα που είναι δύσκολο να κρυφτούν με φίλτρα ή μακιγιάζ.
Η ανάγκη για μια τέτοια δραστική λύση προέκυψε από την αυξανόμενη πίεση των ρυθμιστικών αρχών παγκοσμίως. Με την Πράξη για τις Ψηφιακές Υπηρεσίες (DSA) στην Ευρωπαϊκή Ένωση και τις αυστηρότερες απαιτήσεις του COPPA στις ΗΠΑ, οι πλατφόρμες κοινωνικής δικτύωσης βρίσκονται αντιμέτωπες με κολοσσιαία πρόστιμα εάν αποδειχθεί ότι επιτρέπουν σε ανήλικους κάτω των 13 ετών να διατηρούν λογαριασμούς χωρίς γονική συναίνεση. Η Meta ισχυρίζεται ότι η αυτοματοποιημένη αυτή διαδικασία είναι ο μόνος τρόπος να διασφαλιστεί η συμμόρφωση σε κλίμακα δισεκατομμυρίων χρηστών.
Το Ηθικό Ναρκοπέδιο της Βιομετρικής Επιτήρησης
Παρά τις διαβεβαιώσεις της εταιρείας ότι η διαδικασία είναι «προστατευτική», οι επικριτές επισημαίνουν ότι πρόκειται για μια πρωτοφανή εισβολή στην ιδιωτικότητα των παιδιών. Η χρήση βιομετρικών δεδομένων —όπως η οστική δομή— για τον προσδιορισμό της ηλικίας μετατρέπει κάθε φωτογραφία που ανεβάζει ένας έφηβος σε ένα εργαλείο ιατροδικαστικής ανάλυσης. Υπάρχει επίσης ο κίνδυνος των «ψευδώς θετικών» αποτελεσμάτων. Η ανθρώπινη ανάπτυξη δεν είναι ομοιόμορφη. Παιδιά με ορμονικές διαταραχές, διαφορετικές εθνοτικές καταβολές ή συγκεκριμένες ιατρικές καταστάσεις μπορεί να κατηγοριοποιηθούν λανθασμένα, οδηγώντας σε αυθαίρετους αποκλεισμούς από την ψηφιακή κοινωνική ζωή.
«Δεν μπορούμε να προστατεύσουμε τα παιδιά καταστρέφοντας το δικαίωμά τους στην ανωνυμία και την ιδιωτικότητα. Η μετατροπή του Instagram σε ένα εργαστήριο βιομετρικής σάρωσης είναι μια επικίνδυνη υπέρβαση», δηλώνει η Δρ. Ελένη Παπαδάκη, ειδικός σε θέματα ψηφιακών δικαιωμάτων.
Επιπλέον, τίθεται το ζήτημα της αποθήκευσης αυτών των δεδομένων. Αν και η Meta υποστηρίζει ότι οι αναλύσεις γίνονται σε πραγματικό χρόνο και τα δεδομένα δεν αποθηκεύονται μόνιμα με τρόπο που να ταυτοποιεί το άτομο, το ιστορικό της εταιρείας με τις διαρροές δεδομένων δεν εμπνέει εμπιστοσύνη. Η σκέψη ότι μια ιδιωτική εταιρεία κατέχει έναν χάρτη της σκελετικής ανάπτυξης εκατομμυρίων νέων ανθρώπων είναι, το λιγότερο, ανησυχητική.
Η Μεροληψία του Αλγορίθμου και η Κοινωνική Διάσταση
Μια άλλη κρίσιμη πτυχή είναι η φυλετική και πολιτισμική μεροληψία. Οι αλγόριθμοι Τεχνητής Νοημοσύνης εκπαιδεύονται συχνά σε σύνολα δεδομένων που δεν αντιπροσωπεύουν την παγκόσμια ποικιλομορφία. Εάν τα δεδομένα εκπαίδευσης βασίζονται κυρίως σε δυτικά πρότυπα ανάπτυξης, υπάρχει σοβαρός κίνδυνος η AI να αποτύχει παταγωδώς στην ανάλυση παιδιών από την Ασία, την Αφρική ή τη Λατινική Αμερική. Αυτό θα μπορούσε να οδηγήσει σε μια νέα μορφή ψηφιακού αποκλεισμού, όπου η πρόσβαση στην τεχνολογία εξαρτάται από το αν το σώμα σου ταιριάζει στα στατιστικά μοντέλα της Silicon Valley.
Συμπερασματικά, η κίνηση της Meta σηματοδοτεί μια νέα εποχή στην οποία η ταυτότητά μας στο διαδίκτυο δεν ορίζεται από αυτά που λέμε, αλλά από τη βιολογική μας πραγματικότητα, όπως αυτή ερμηνεύεται από μια μηχανή. Ενώ ο στόχος της προστασίας των ανηλίκων είναι ευγενής, τα μέσα που χρησιμοποιούνται εγείρουν το ερώτημα: Πόση ελευθερία είμαστε διατεθειμένοι να θυσιάσουμε στο βωμό της ασφάλειας; Η συζήτηση για την οστική ανάλυση είναι μόνο η κορυφή του παγόβουνου σε μια κοινωνία που σταδιακά αποδέχεται την καθολική επιτήρηση ως το αναγκαίο τίμημα της ψηφιακής ευκολίας.
