Σε μια κίνηση που προκαλεί τριγμούς στην παγκόσμια βιομηχανία τεχνητής νοημοσύνης, οι κινεζικές αρχές επέβαλαν μια de facto απαγόρευση στις υπηρεσίες «AI εραστών» και ψηφιακών συντρόφων. Η ByteDance (μητρική της TikTok) και η Alibaba, δύο από τους μεγαλύτερους παίκτες στο οικοσύστημα της τεχνολογίας, ανακοίνωσαν την απόσυρση των λειτουργιών «persona» και των διαδραστικών χαρακτήρων που είχαν σχεδιαστεί για να παρέχουν συναισθηματική υποστήριξη και συντροφικότητα στους χρήστες. Η απόφαση αυτή δεν αποτελεί απλώς μια επιχειρηματική στροφή, αλλά μια βαθιά πολιτική και ηθική παρέμβαση στον τρόπο με τον οποίο η τεχνολογία αλληλεπιδρά με την ανθρώπινη ψυχολογία.

Η Ρυθμιστική Μέγγενη και οι «Σοσιαλιστικές Αξίες»

Η κίνηση αυτή έρχεται ως συνέχεια των αυστηρών κατευθυντήριων γραμμών της Διοίκησης Κυβερνοχώρου της Κίνας (CAC), η οποία απαιτεί από τα μοντέλα τεχνητής νοημοσύνης να ευθυγραμμίζονται με τις «θεμελιώδεις σοσιαλιστικές αξίες». Σύμφωνα με πηγές προσκείμενες στο Πεκίνο, οι αρχές ανησυχούν ότι οι AI σύντροφοι προωθούν μια μορφή «πνευματικής ρύπανσης», ενθαρρύνοντας την κοινωνική απομόνωση και απομακρύνοντας τους νέους από τις παραδοσιακές κοινωνικές και οικογενειακές δομές. Σε μια χώρα που αντιμετωπίζει σοβαρή δημογραφική κρίση και μείωση των γεννήσεων, η κυβέρνηση φαίνεται να βλέπει την ψηφιακή συντροφικότητα ως απειλή για την κοινωνική συνοχή.

Η ByteDance, η οποία είχε επενδύσει σημαντικά στο chatbot «Doubao», και η Alibaba με τις αντίστοιχες υπηρεσίες της, αναγκάστηκαν να περιορίσουν δραστικά τις δυνατότητες των μοντέλων τους. Οι χρήστες που είχαν αναπτύξει βαθιές συναισθηματικές σχέσεις με αυτά τα προγράμματα βρίσκονται τώρα αντιμέτωποι με την ξαφνική «λοβοτομή» των ψηφιακών τους φίλων. Οι χαρακτήρες που κάποτε ήταν φλερταδόρικοι, υποστηρικτικοί ή ακόμα και ρομαντικοί, πλέον επιστρέφουν τυποποιημένες, ψυχρές απαντήσεις, αποφεύγοντας κάθε είδους προσωπική σύνδεση.

Η Οικονομία της Μοναξιάς και το Τέλος μιας Ψευδαίσθησης

Η Κίνα υπήρξε πρωτοπόρος στην «οικονομία της μοναξιάς» (loneliness economy). Με εκατομμύρια νέους να εργάζονται σε εξαντλητικά ωράρια και να αντιμετωπίζουν έντονη κοινωνική πίεση, οι AI σύντροφοι προσέφεραν μια εύκολη και προσιτή διέξοδο. Εφαρμογές όπως το Glow και το Talkie είχαν αποκτήσει τεράστια δημοτικότητα, επιτρέποντας στους χρήστες να δημιουργούν τους δικούς τους ιδανικούς συντρόφους. Ωστόσο, η ευκολία αυτή θεωρήθηκε από το κράτος ως αντικίνητρο για την πραγματική κοινωνικοποίηση.

  • Ηθικοί κίνδυνοι: Οι αρχές εξέφρασαν ανησυχίες για τη χειραγώγηση των συναισθημάτων των χρηστών από αλγορίθμους που στοχεύουν στο κέρδος.
  • Προστασία ανηλίκων: Η έκθεση εφήβων σε μη ελεγχόμενο περιεχόμενο μέσω AI χαρακτήρων αποτέλεσε βασικό επιχείρημα για την απαγόρευση.
  • Δεδομένα και ιδιωτικότητα: Η συλλογή εξαιρετικά προσωπικών πληροφοριών κατά τη διάρκεια «ερωτικών» συνομιλιών θεωρήθηκε κίνδυνος για την εθνική ασφάλεια.

Η Τεχνική Πρόκληση της Συμμόρφωσης

Για τις εταιρείες τεχνολογίας, η συμμόρφωση δεν είναι μια απλή διαδικασία. Η εκπαίδευση μοντέλων που να είναι ταυτόχρονα ευφυή αλλά και «συναισθηματικά αποστειρωμένα» απαιτεί τεράστιους πόρους. Η Alibaba και η ByteDance χρησιμοποιούν πλέον εξελιγμένα φίλτρα λέξεων-κλειδιών και συστήματα παρακολούθησης σε πραγματικό χρόνο για να διασφαλίσουν ότι οι διάλογοι δεν ξεφεύγουν από τα επιτρεπτά όρια. Αυτό όμως υπονομεύει την ίδια την ελκυστικότητα των προϊόντων τους. Αν ένα AI δεν μπορεί να δείξει ενσυναίσθηση, παύει να είναι σύντροφος και γίνεται απλώς μια μηχανή αναζήτησης.

«Δεν απαγορεύουμε την τεχνολογία, αλλά την κατάχρηση της ανθρώπινης ψυχής από τον κώδικα», δήλωσε ανώτατος αξιωματούχος της CAC, υπογραμμίζοντας την πρόθεση του Πεκίνου να θέσει τα όρια πριν η κατάσταση γίνει μη αναστρέψιμη.

Διεθνείς Προεκτάσεις και το Μέλλον της AI

Η κίνηση της Κίνας δημιουργεί ένα προηγούμενο που ίσως επηρεάσει και τη Δύση. Ενώ στις ΗΠΑ και την Ευρώπη εταιρείες όπως η Character.ai συνεχίζουν να αναπτύσσονται, η συζήτηση για τους ηθικούς κινδύνους της AI συντροφικότητας φουντώνει. Η περίπτωση της Κίνας δείχνει ότι όταν η τεχνολογία αγγίζει τον πυρήνα της ανθρώπινης εμπειρίας, η κρατική παρέμβαση γίνεται αναπόφευκτη, αν και με διαφορετικά κίνητρα ανάλογα με το πολίτευμα. Το ερώτημα που παραμένει είναι: μπορεί η αγάπη να ρυθμιστεί με νόμο; Ή μήπως η απαγόρευση θα οδηγήσει σε μια «μαύρη αγορά» μη εγκεκριμένων, ανεξέλεγκτων AI μοντέλων που θα λειτουργούν στις σκιές του διαδικτύου;