Στην αυγή μιας εποχής όπου η διάκριση μεταξύ πραγματικότητας και ψηφιακής κατασκευής γίνεται ολοένα και πιο δυσδιάκριτη, η Meta Platforms βρέθηκε πρόσφατα στο στόχαστρο κριτικής. Μια εμπεριστατωμένη ανάλυση του πρακτορείου Reuters αποκάλυψε ότι το σύστημα αυτόματης σήμανσης εικόνων που έχουν δημιουργηθεί με τεχνητή νοημοσύνη (AI) παρουσιάζει σοβαρές αδυναμίες. Συγκεκριμένα, διαπιστώθηκε ότι το εργαλείο αδυνατεί να αναγνωρίσει εικόνες που το ίδιο το AI της Meta δημιούργησε, εάν αυτές υποστούν έστω και μια ελάχιστη επεξεργασία, όπως η περικοπή (cropping) ή η αλλαγή μεγέθους.
Το Πείραμα του Reuters και η Αποτυχία της Σήμανσης
Η Meta είχε υποσχεθεί ότι οι εικόνες που δημιουργούνται μέσω των εργαλείων της θα φέρουν την ένδειξη «Made with AI», προκειμένου να ενισχυθεί η διαφάνεια και να καταπολεμηθεί η παραπληροφόρηση. Ωστόσο, η δοκιμή του Reuters έδειξε ότι αυτή η προστασία είναι εξαιρετικά εύθραυστη. Οι δημοσιογράφοι χρησιμοποίησαν το εργαλείο «Imagine with Meta AI» για να δημιουργήσουν εικόνες. Στη συνέχεια, εφαρμόζοντας απλές τεχνικές που οποιοσδήποτε χρήστης smartphone μπορεί να εκτελέσει —όπως το να τραβήξει ένα screenshot της εικόνας ή να την περικόψει ελαφρώς— διαπίστωσαν ότι η σήμανση εξαφανιζόταν κατά την εκ νέου ανάρτηση στην πλατφόρμα.
Αυτό το εύρημα εγείρει σοβαρά ερωτήματα σχετικά με την αποτελεσματικότητα των τεχνικών υδατογράφησης (watermarking) που χρησιμοποιούν οι τεχνολογικοί κολοσσοί. Ενώ η Meta υποστηρίζει ότι χρησιμοποιεί αόρατα σήματα στα μεταδεδομένα (metadata) και στο ίδιο το σώμα της εικόνας, η πρακτική εφαρμογή δείχνει ότι αυτά τα σήματα καταστρέφονται εύκολα. Η αδυναμία αυτή δεν είναι απλώς ένα τεχνικό σφάλμα, αλλά μια δομική τρύπα στην ασφάλεια του ψηφιακού διαλόγου, ειδικά σε μια χρονιά γεμάτη κρίσιμες εκλογικές αναμετρήσεις παγκοσμίως.
Η Τεχνολογία C2PA και τα Όριά Της
Για να κατανοήσουμε το πρόβλημα, πρέπει να εξετάσουμε τα πρότυπα που προσπαθεί να επιβάλει η βιομηχανία, όπως το C2PA (Coalition for Content Provenance and Authenticity). Αυτό το πρωτόκολλο στοχεύει στη δημιουργία μιας «αλυσίδας εμπιστοσύνης» για το ψηφιακό περιεχόμενο. Ωστόσο, όπως επισημαίνουν ειδικοί στην ψηφιακή εγκληματολογία, τα μεταδεδομένα είναι τα πρώτα που θυσιάζονται όταν μια εικόνα συμπιέζεται για να ανέβει στα κοινωνικά δίκτυα ή όταν υφίσταται επεξεργασία.
- Τα μεταδεδομένα (EXIF/IPTC) διαγράφονται συχνά από τις ίδιες τις πλατφόρμες για λόγους προστασίας της ιδιωτικότητας των χρηστών.
- Τα αόρατα υδατογραφήματα (invisible watermarks) απαιτούν πολύπλοκους αλγόριθμους για να παραμείνουν ανέπαφα μετά από αλλαγές στο pixelation.
- Η έλλειψη ενιαίου προτύπου σε όλες τις πλατφόρμες (Google, OpenAI, Meta, TikTok) δημιουργεί κενά που εκμεταλλεύονται οι κακόβουλοι δράστες.
Η Meta παραδέχεται ότι η τεχνολογία ανίχνευσης είναι ακόμα σε πρώιμο στάδιο. Ωστόσο, η βιασύνη να παρουσιαστούν λύσεις «βιτρίνας» για να ικανοποιηθούν οι ρυθμιστικές αρχές της Ευρωπαϊκής Ένωσης και των ΗΠΑ φαίνεται να έχει οδηγήσει σε εργαλεία που προσφέρουν μια ψευδαίσθηση ασφάλειας παρά ουσιαστική προστασία.
Κοινωνικές και Πολιτικές Προεκτάσεις
Το timing αυτής της αποκάλυψης είναι κρίσιμο. Με τις εκλογές στις ΗΠΑ και άλλες μεγάλες δυνάμεις να πλησιάζουν, η χρήση AI για τη δημιουργία «deepfakes» αποτελεί τη μεγαλύτερη απειλή για την ακεραιότητα της δημοκρατικής διαδικασίας. Αν ένα απλό crop μπορεί να ξεγελάσει τους αλγόριθμους της Meta, τότε οι καμπάνιες παραπληροφόρησης έχουν ένα πανίσχυρο όπλο στα χέρια τους. Η ευκολία με την οποία μπορεί να παρακαμφθεί η σήμανση σημαίνει ότι το βάρος της επαλήθευσης πέφτει και πάλι στους ώμους του απλού χρήστη, ο οποίος συχνά δεν διαθέτει τα εργαλεία ή τον χρόνο για να ελέγξει την αυθεντικότητα αυτού που βλέπει.
«Η τεχνολογία ανίχνευσης AI είναι ένας αγώνας δρόμου εξοπλισμών. Αυτή τη στιγμή, οι δημιουργοί περιεχομένου AI προηγούνται κατά πολύ από εκείνους που προσπαθούν να το αστυνομεύσουν», αναφέρει χαρακτηριστικά αναλυτής ψηφιακών μέσων.
Συμπερασματικά, η ανάλυση του Reuters υπογραμμίζει την ανάγκη για μια πιο ριζοσπαστική προσέγγιση. Ίσως η λύση να μην βρίσκεται στην εκ των υστέρων σήμανση, αλλά στην ενσωμάτωση της αυθεντικότητας στο επίπεδο του υλικού (hardware) των καμερών, κάτι που όμως φαντάζει μακρινό σενάριο. Μέχρι τότε, η ένδειξη «Made with AI» παραμένει περισσότερο μια ευχή παρά μια εγγύηση.
