Στον σύγχρονο κόσμο της τεχνολογίας, επικρατεί μια διάχυτη πεποίθηση ότι η Τεχνητή Νοημοσύνη (AI) αποτελεί μια ανώτερη μορφή λογικής, μια ψηφιακή οντότητα που υπερβαίνει τις ανθρώπινες γνωστικές ικανότητες. Ωστόσο, οι χρήστες που αλληλεπιδρούν καθημερινά με μοντέλα όπως το ChatGPT, το Claude ή το Gemini, έρχονται συχνά αντιμέτωποι με ένα παράδοξο: το ίδιο σύστημα που μπορεί να αναλύσει την Καντιανή φιλοσοφία ή να γράψει πολύπλοκο κώδικα Python, μπορεί να αποτύχει παταγωδώς στο να συγκρίνει δύο δεκαδικούς αριθμούς ή να μετρήσει πόσα «r» υπάρχουν στη λέξη «strawberry».
Αυτό το φαινόμενο, που συχνά περιγράφεται ως «μαθηματική παραίσθηση», δεν είναι ένα απλό σφάλμα λογισμικού που μπορεί να διορθωθεί με ένα patch. Είναι ένα δομικό χαρακτηριστικό του τρόπου με τον οποίο λειτουργούν τα Μεγάλα Γλωσσικά Μοντέλα (LLMs). Η κατανόηση του γιατί η AI κάνει μαθηματικά λάθη είναι απαραίτητη για την οριοθέτηση των προσδοκιών μας και την ασφαλή ενσωμάτωση αυτών των εργαλείων στην εκπαίδευση και την οικονομία.
Η Αρχιτεκτονική της Πιθανότητας έναντι της Λογικής
Το θεμελιώδες πρόβλημα έγκειται στο γεγονός ότι τα LLMs δεν είναι «μηχανές υπολογισμού», αλλά «μηχανές πρόβλεψης». Όταν ζητάμε από μια AI να λύσει μια εξίσωση, δεν εκτελεί μαθηματικές πράξεις σε έναν εσωτερικό επεξεργαστή με τον τρόπο που το κάνει μια αριθμομηχανή. Αντίθετα, προσπαθεί να προβλέψει ποια είναι η πιο πιθανή επόμενη λέξη (ή σύμβολο) με βάση τα δεδομένα εκπαίδευσής της. Αν στα δεδομένα αυτά έχει δει χιλιάδες φορές ότι το «2+2» ακολουθείται από το «4», θα απαντήσει σωστά. Αν όμως της ζητηθεί ένας πολύπλοκος πολλαπλασιασμός που δεν υπήρχε αυτούσιος στα δεδομένα της, η πιθανολογική της φύση μπορεί να την οδηγήσει σε ένα αποτέλεσμα που «μοιάζει» σωστό αλλά είναι μαθηματικά λανθασμένο.
Επιπλέον, υπάρχει το ζήτημα του «tokenization». Τα μοντέλα AI δεν διαβάζουν κείμενο γράμμα-γράμμα ή αριθμό-αριθμό. Μετατρέπουν τις εισόδους σε «tokens», τα οποία μπορεί να είναι ολόκληρες λέξεις ή τμήματα αυτών. Συχνά, οι αριθμοί τεμαχίζονται με τρόπο που καθιστά την αριθμητική λογική αδύνατη. Για παράδειγμα, ο αριθμός «1534» μπορεί να αναγνωριστεί ως δύο ξεχωριστά tokens («15» και «34»), εμποδίζοντας το μοντέλο να αντιληφθεί την πραγματική του αξία κατά τη διάρκεια του υπολογισμού.
Το Παράδοξο του «Strawberry» και η Έλλειψη Σημασιολογικής Κατανόησης
Ένα από τα πιο πολυσυζητημένα παραδείγματα πρόσφατα ήταν η αδυναμία πολλών μοντέλων να μετρήσουν σωστά τα γράμματα σε απλές λέξεις. Αυτό συμβαίνει επειδή η AI δεν «βλέπει» τη λέξη όπως ένας άνθρωπος. Για την AI, η λέξη «strawberry» είναι ένα ενιαίο διάνυσμα σε έναν πολυδιάστατο χώρο. Δεν έχει οπτική επαφή με τα μεμονωμένα γράμματα, εκτός αν εξαναγκαστεί μέσω συγκεκριμένων τεχνικών (όπως το Chain of Thought) να αναλύσει τη λέξη βήμα-βήμα.
Αυτή η έλλειψη πραγματικής κατανόησης επεκτείνεται και στα μαθηματικά προβλήματα λόγου. Η AI μπορεί να παρασυρθεί από την διατύπωση και να δώσει μια απάντηση που ακολουθεί το γλωσσικό μοτίβο του προβλήματος, αγνοώντας τους περιορισμούς της λογικής. Είναι η διαφορά μεταξύ του «φαίνεσθαι» έξυπνος και του «είναι» λογικός. Στην εκπαίδευση, αυτό δημιουργεί τεράστιους κινδύνους, καθώς οι μαθητές μπορεί να αποδεχτούν ως έγκυρες απαντήσεις που στερούνται μαθηματικής βάσης.
Προς μια Νέα Γενιά: Το Μοντέλο o1 και η Συλλογιστική
Η βιομηχανία της AI αναγνωρίζει αυτό το κενό. Η πρόσφατη κυκλοφορία μοντέλων όπως το OpenAI o1 (γνωστό και με την κωδική ονομασία Strawberry) σηματοδοτεί μια στροφή προς τη «συλλογιστική» (reasoning). Αυτά τα μοντέλα εκπαιδεύονται να χρησιμοποιούν μια εσωτερική «αλυσίδα σκέψης» (Chain of Thought) πριν δώσουν την τελική απάντηση. Αντί να εκτοξεύουν την πρώτη πιθανή λέξη, σταματούν, αναλύουν το πρόβλημα σε υπο-ερωτήματα, ελέγχουν τα ενδιάμεσα αποτελέσματα και στη συνέχεια καταλήγουν στο συμπέρασμα.
Αυτή η εξέλιξη πλησιάζει περισσότερο στον τρόπο που ο άνθρωπος λύνει μαθηματικά: με συγκέντρωση, μεθοδικότητα και αυτοέλεγχο. Ωστόσο, ακόμη και αυτά τα προηγμένα συστήματα δεν είναι απρόσβλητα στα λάθη. Η εξάρτηση από την ποιότητα των δεδομένων εκπαίδευσης και η πιθανότητα «εκτροχιασμού» της λογικής αλυσίδας παραμένουν υπαρκτές προκλήσεις.
Συμπέρασμα: Η Ανάγκη για Κριτική Σκέψη
Τα μαθηματικά λάθη της AI μας υπενθυμίζουν ότι η τεχνολογία αυτή είναι ένα εργαλείο και όχι ένας αλάθητος κριτής της αλήθειας. Η ικανότητα των LLMs να παράγουν πειστικό λόγο είναι συχνά πολύ πιο αναπτυγμένη από την ικανότητά τους να εκτελούν τυπική λογική. Για τους ερευνητές, τους εκπαιδευτικούς και τους επαγγελματίες, το μήνυμα είναι σαφές: η επαλήθευση παραμένει ανθρώπινη ευθύνη. Η AI μπορεί να είναι ένας εξαιρετικός βοηθός στην καταιγίδα ιδεών ή στη σύνταξη κειμένων, αλλά όταν πρόκειται για την ακρίβεια των αριθμών, η παραδοσιακή αριθμομηχανή —και κυρίως το ανθρώπινο μυαλό— παραμένουν οι πιο αξιόπιστοι σύμμαχοι.
