Η ψηφιακή επανάσταση στην Ελλάδα, με αιχμή του δόρατος το Gov.gr και την ευρύτερη στρατηγική του Υπουργείου Ψηφιακής Διακυβέρνησης, έχει αναμφισβήτητα διευκολύνει την καθημερινότητα των πολιτών. Ωστόσο, κάτω από την επιφάνεια της εκσυγχρονιστικής ευφορίας, αναδύεται μια ανησυχητική πραγματικότητα: η διείσδυση της Τεχνητής Νοημοσύνης (ΤΝ) στον δημόσιο τομέα πραγματοποιείται συχνά σε ένα θεσμικό κενό, χωρίς επαρκείς δικλείδες ασφαλείας, διαφάνεια ή δημόσιο έλεγχο.

Το ζήτημα δεν είναι πλέον θεωρητικό. Από τους αλγορίθμους που χρησιμοποιεί η ΑΑΔΕ για τον εντοπισμό φοροδιαφυγής μέχρι τα συστήματα ανάλυσης δεδομένων στην υγεία και την κοινωνική πρόνοια, η ΤΝ λαμβάνει ή επηρεάζει αποφάσεις που καθορίζουν τη ζωή των πολιτών. Η έλλειψη ενός σαφούς πλαισίου λογοδοσίας δημιουργεί τον κίνδυνο μιας «αλγοριθμικής αυθαιρεσίας», όπου ο πολίτης βρίσκεται αντιμέτωπος με αποφάσεις που δεν μπορεί ούτε να κατανοήσει ούτε να αμφισβητήσει.

Η Ταχεία Μετάβαση και το Κενό Εποπτείας

Η Ελλάδα έχει επιδείξει αξιοσημείωτη ταχύτητα στην υιοθέτηση ψηφιακών εργαλείων. Η εισαγωγή του «mAigov», του πρώτου ψηφιακού βοηθού με τεχνητή νοημοσύνη για το δημόσιο, αποτέλεσε ορόσημο. Παρά την επικοινωνιακή επιτυχία, ελάχιστα έχουν γίνει γνωστά για την εκπαίδευση αυτών των μοντέλων, τις πηγές των δεδομένων τους και, κυρίως, τη διασφάλιση ότι δεν αναπαράγουν προκαταλήψεις ή λανθασμένες πληροφορίες.

Το πρόβλημα εντείνεται από το γεγονός ότι πολλές από αυτές τις λύσεις αναπτύσσονται από ιδιωτικές εταιρείες μέσω συμβάσεων που συχνά καλύπτονται από ρήτρες εμπιστευτικότητας. Αυτό δημιουργεί το λεγόμενο «μαύρο κουτί» (black box) της διακυβέρνησης: οι δημόσιες υπηρεσίες βασίζονται σε ιδιωτικούς αλγορίθμους των οποίων ο εσωτερικός μηχανισμός είναι άγνωστος ακόμη και στους ίδιους τους λειτουργούς του κράτους. Ποιος φέρει την ευθύνη όταν ένα σύστημα ΤΝ απορρίπτει μια αίτηση επιδόματος ή επιβάλλει ένα πρόστιμο βασισμένο σε λανθασμένη ανάλυση προτύπων;

Διαφάνεια και Λογοδοσία: Το Πρόβλημα του «Μαύρου Κουτιού»

Η διαφάνεια δεν είναι απλώς μια ηθική απαίτηση, αλλά μια νομική αναγκαιότητα στο πλαίσιο του κράτους δικαίου. Σύμφωνα με διεθνείς οργανισμούς, η χρήση αλγορίθμων στη δημόσια διοίκηση πρέπει να συνοδεύεται από «εκτιμήσεις αντικτύπου στα θεμελιώδη δικαιώματα» (Fundamental Rights Impact Assessments). Στην ελληνική πραγματικότητα, τέτοιες μελέτες σπανίζουν ή παραμένουν στο συρτάρι.

  • Έλλειψη δημόσιου μητρώου αλγορίθμων που χρησιμοποιούνται από το κράτος.
  • Αδυναμία των πολιτών να ζητήσουν εξηγήσεις για τον τρόπο λειτουργίας ενός αυτοματοποιημένου συστήματος.
  • Κίνδυνος ψηφιακού αποκλεισμού για ομάδες πληθυσμού που δεν διαθέτουν τις απαραίτητες δεξιότητες.

Επιπλέον, η χρήση της ΤΝ στον τομέα της ασφάλειας και της επιτήρησης εγείρει σοβαρά ερωτήματα για την προστασία των προσωπικών δεδομένων. Η χρήση συστημάτων βιομετρικής αναγνώρισης ή πρόβλεψης εγκληματικότητας, αν και συχνά παρουσιάζεται ως μέσο ενίσχυσης της δημόσιας ασφάλειας, μπορεί εύκολα να διολισθήσει σε πρακτικές μαζικής παρακολούθησης, υπονομεύοντας το δικαίωμα στην ιδιωτικότητα και την ελευθερία της έκφρασης.

Κοινωνικές Επιπτώσεις και ο Κίνδυνος των Διακρίσεων

Ένας από τους μεγαλύτερους κινδύνους της ανεξέλεγκτης ΤΝ είναι η ενσωμάτωση και μεγέθυνση των κοινωνικών προκαταλήψεων. Οι αλγόριθμοι μαθαίνουν από ιστορικά δεδομένα. Εάν αυτά τα δεδομένα περιέχουν μεροληψίες κατά συγκεκριμένων κοινωνικών ομάδων, ο αλγόριθμος θα τις αναπαράγει με μαθηματική ακρίβεια. Σε τομείς όπως η δικαιοσύνη ή η εργασία, αυτό μπορεί να οδηγήσει σε συστηματικές διακρίσεις εις βάρος των πιο ευάλωτων.

«Η τεχνητή νοημοσύνη στο δημόσιο δεν πρέπει να είναι ένας μηχανισμός αποποίησης ευθυνών, αλλά ένα εργαλείο ενίσχυσης της δικαιοσύνης. Αν δεν μπορούμε να εξηγήσουμε το 'γιατί' μιας απόφασης, τότε δεν έχουμε διοίκηση, αλλά τεχνοκρατικό αυταρχισμό.»

Η ανάγκη για «ανθρώπινη παρέμβαση» (human-in-the-loop) είναι επιτακτική. Καμία απόφαση που επηρεάζει ουσιωδώς τα δικαιώματα ενός πολίτη δεν πρέπει να λαμβάνεται αποκλειστικά από ένα μηχάνημα. Ωστόσο, η υποστελέχωση των δημόσιων υπηρεσιών οδηγεί συχνά τους υπαλλήλους στο να εμπιστεύονται τυφλά τις υποδείξεις των συστημάτων, μετατρέποντας την ανθρώπινη εποπτεία σε μια τυπική, γραφειοκρατική διαδικασία χωρίς ουσία.

Η Ευρωπαϊκή Πράξη για την Τεχνητή Νοημοσύνη ως Σανίδα Σωτηρίας

Η πρόσφατη ψήφιση της Ευρωπαϊκής Πράξης για την Τεχνητή Νοημοσύνη (EU AI Act) αποτελεί ένα σημαντικό βήμα προς τη σωστή κατεύθυνση. Το πλαίσιο αυτό κατηγοριοποιεί τις χρήσεις της ΤΝ ανάλογα με τον κίνδυνο που ενέχουν, επιβάλλοντας αυστηρότατες υποχρεώσεις στα συστήματα «υψηλού κινδύνου», στα οποία περιλαμβάνονται οι περισσότερες εφαρμογές στον δημόσιο τομέα.

Για την Ελλάδα, η πρόκληση είναι η άμεση και ουσιαστική εναρμόνιση με αυτό το πλαίσιο. Δεν αρκεί η τυπική συμμόρφωση· απαιτείται η δημιουργία μιας ανεξάρτητης αρχής εποπτείας με την τεχνογνωσία να ελέγχει τους κώδικες και τις λογικές των αλγορίθμων. Παράλληλα, είναι απαραίτητη η εκπαίδευση των δημόσιων λειτουργών και η ενημέρωση των πολιτών, ώστε η τεχνολογία να υπηρετεί τη δημοκρατία και όχι το αντίστροφο. Η ψηφιακή μετάβαση είναι ένα ταξίδι που απαιτεί πυξίδα τις αξίες μας, όχι μόνο την ταχύτητα των επεξεργαστών μας.