Η μετάβαση στην ψηφιακή διακυβέρνηση συχνά παρουσιάζεται ως μια γραμμική εξέλιξη της γραφειοκρατίας, μια απλή αναβάθμιση από το χαρτί στην οθόνη. Ωστόσο, η πραγματικότητα που διαμορφώνεται στις αίθουσες των κυβερνητικών κτιρίων παγκοσμίως είναι πολύ πιο ριζοσπαστική. Η Τεχνητή Νοημοσύνη (ΤΝ) έχει ήδη εισχωρήσει στον πυρήνα του κράτους, λαμβάνοντας αποφάσεις που επηρεάζουν τη ζωή εκατομμυρίων πολιτών, συχνά χωρίς τη δέουσα διαφάνεια ή δημόσιο διάλογο.

Η Αθόρυβη Ενσωμάτωση: Πέρα από τα Chatbots

Όταν σκεφτόμαστε την ΤΝ στην κυβέρνηση, το μυαλό μας πηγαίνει συχνά σε αυτοματοποιημένα συστήματα εξυπηρέτησης πολιτών. Όμως, η πραγματική δράση συμβαίνει στο παρασκήνιο. Από τον εντοπισμό φοροδιαφυγής και την κατανομή κοινωνικών επιδομάτων μέχρι την προγνωστική αστυνόμευση και τη διαχείριση των αστικών υποδομών, οι αλγόριθμοι έχουν γίνει οι νέοι «μανδαρίνοι» της εξουσίας. Αυτά τα συστήματα δεν προτείνουν απλώς λύσεις· σε πολλές περιπτώσεις, η εισήγησή τους γίνεται de facto απόφαση, καθώς οι ανθρώπινοι λειτουργοί αδυνατούν να ελέγξουν τον τεράστιο όγκο δεδομένων που επεξεργάζεται η μηχανή.

Στις Ηνωμένες Πολιτείες, συστήματα αξιολόγησης κινδύνου χρησιμοποιούνται ήδη για τον καθορισμό εγγυήσεων ή ποινών, ενώ στην Ευρώπη, παρά το αυστηρό πλαίσιο του AI Act, πολλές δημόσιες υπηρεσίες πειραματίζονται με εργαλεία που προβλέπουν τη μελλοντική συμπεριφορά των πολιτών. Το ερώτημα δεν είναι πλέον αν θα χρησιμοποιηθεί η ΤΝ, αλλά πώς θα διασφαλιστεί ότι η χρήση της δεν θα υπονομεύσει τις θεμελιώδεις αρχές του κράτους δικαίου.

Το Έλλειμμα Λογοδοσίας και το «Μαύρο Κουτί»

Μία από τις μεγαλύτερες προκλήσεις της αλγοριθμικής διακυβέρνησης είναι το πρόβλημα του «μαύρου κουτιού». Όταν μια διοικητική απόφαση λαμβάνεται από έναν άνθρωπο, υπάρχει μια διαδρομή λογικής που μπορεί να αμφισβητηθεί νομικά. Όταν όμως ένας αλγόριθμος μηχανικής μάθησης απορρίπτει μια αίτηση ασύλου ή ένα επίδομα αναπηρίας βάσει μοτίβων που ούτε οι ίδιοι οι προγραμματιστές του δεν μπορούν να εξηγήσουν πλήρως, η έννοια της δικαιοσύνης τίθεται σε κίνδυνο.

«Η μετάβαση από τη διακυβέρνηση μέσω νόμων στη διακυβέρνηση μέσω δεδομένων κινδυνεύει να μετατρέψει τον πολίτη από υποκείμενο δικαιωμάτων σε αντικείμενο ανάλυσης», σημειώνουν αναλυτές πολιτικής.

Η έλλειψη διαφάνειας ενισχύεται από το γεγονός ότι πολλά από αυτά τα εργαλεία αναπτύσσονται από ιδιωτικές εταιρείες. Το «εμπορικό απόρρητο» συχνά χρησιμοποιείται ως ασπίδα για να αποφευχθεί ο δημόσιος έλεγχος των αλγορίθμων, δημιουργώντας μια επικίνδυνη εξάρτηση του κράτους από την Big Tech. Αυτή η ιδιωτικοποίηση της δημόσιας κρίσης αποτελεί μια από τις πιο αθέατες αλλά κρίσιμες αλλαγές στη σύγχρονη πολιτική ιστορία.

Γεωπολιτικός Ανταγωνισμός και Ψηφιακός Αυταρχισμός

Η υιοθέτηση της ΤΝ στη διακυβέρνηση δεν συμβαίνει σε κενό αέρος, αλλά εν μέσω ενός σφοδρού παγκόσμιου ανταγωνισμού. Η Κίνα έχει ήδη δείξει πώς η ΤΝ μπορεί να χρησιμοποιηθεί για την ενίσχυση του κρατικού ελέγχου μέσω του συστήματος κοινωνικής πίστωσης (social credit system). Αυτό το μοντέλο «ψηφιακού αυταρχισμού» προσφέρει μια ελκυστική, αν και τρομακτική, υπόσχεση απόλυτης κοινωνικής ευταξίας και αποτελεσματικότητας.

Από την άλλη πλευρά, οι δυτικές δημοκρατίες πασχίζουν να εξισορροπήσουν την καινοτομία με τις ατομικές ελευθερίες. Η Ευρωπαϊκή Ένωση, με την πρωτοποριακή νομοθεσία της, προσπαθεί να θέσει «κόκκινες γραμμές», όπως η απαγόρευση της βιομετρικής παρακολούθησης σε πραγματικό χρόνο. Ωστόσο, η πίεση για «αποτελεσματικό κράτος» και η ανάγκη για μείωση του κόστους οδηγούν συχνά σε υποχωρήσεις. Ο κίνδυνος είναι η σταδιακή διολίσθηση σε μια μορφή «ήπιου αυταρχισμού», όπου οι πολίτες καθοδηγούνται και ελέγχονται από αλγορίθμους που υποτίθεται ότι τους υπηρετούν.

Συμπέρασμα: Το Νέο Κοινωνικό Συμβόλαιο

Η έλευση της κυβερνητικής ΤΝ απαιτεί ένα νέο κοινωνικό συμβόλαιο. Δεν αρκεί η τεχνική αρτιότητα των συστημάτων· απαιτείται η επαναφορά του ανθρώπινου παράγοντα ως τελικού κριτή (human-in-the-loop). Οι πολίτες πρέπει να έχουν το δικαίωμα στην εξήγηση, το δικαίωμα στην ανθρώπινη παρέμβαση και, πάνω απ' όλα, το δικαίωμα να γνωρίζουν πότε και πώς αλληλεπιδρούν με μια μηχανή.

Η διακυβέρνηση μέσω ΤΝ είναι ήδη εδώ. Το αν θα οδηγήσει σε μια πιο δίκαιη και αποτελεσματική κοινωνία ή σε έναν κόσμο αλγοριθμικής αυθαιρεσίας εξαρτάται από τις πολιτικές επιλογές που κάνουμε σήμερα. Η τεχνολογία είναι το εργαλείο, αλλά η ηθική πυξίδα παραμένει –προς το παρόν– ανθρώπινη ευθύνη.