Στον κόσμο της Τεχνητής Νοημοσύνης, η επικρατούσα πεποίθηση ήταν πάντα απλή: όσο περισσότερο «σκέφτεται» ένα μοντέλο, τόσο πιο ακριβές και αντικειμενικό γίνεται. Η έλευση των μοντέλων «Συστήματος 2», όπως το DeepSeek-R1 και η σειρά o1 της OpenAI, υποσχέθηκε μια νέα εποχή όπου η αλυσίδα σκέψης (Chain-of-Thought - CoT) θα λειτουργούσε ως φίλτρο ενάντια στις επιφανειακές ευρετικές μεθόδους και τις ενσωματωμένες προκαταλήψεις. Ωστόσο, μια νέα ανατρεπτική μελέτη που δημοσιεύθηκε στο ArXiv (cs.AI — 2605.06672) έρχεται να κλονίσει αυτά τα θεμέλια, αποδεικνύοντας ότι η εκτενής συλλογιστική μπορεί, παραδόξως, να λειτουργήσει ως μεγεθυντικός φακός για συγκεκριμένα είδη γνωστικών σφαλμάτων.

Η Προκατάληψη της Θέσης: Το Αόρατο Βαρίδι

Η έρευνα επικεντρώνεται στην «προκατάληψη θέσης» (position bias), ένα φαινόμενο όπου το μοντέλο τείνει να επιλέγει μια απάντηση όχι βάσει του περιεχομένου της, αλλά βάσει της θέσης της σε μια λίστα επιλογών (π.χ. προτιμώντας συστηματικά την επιλογή Α ή Γ). Ενώ στα παραδοσιακά μοντέλα αυτό θεωρούνταν ένα «ρηχό» σφάλμα που θα εξαφανιζόταν με την εισαγωγή βαθύτερης λογικής επεξεργασίας, τα ευρήματα δείχνουν το αντίθετο: εντός οποιουδήποτε δεδομένου επιπέδου δυσκολίας, η αύξηση του μήκους της αλυσίδας σκέψης συχνά συσχετίζεται με *ισχυρότερη* προκατάληψη θέσης.

Αυτό το εύρημα είναι ιδιαίτερα ανησυχητικό για την επιστημονική κοινότητα. Υποδηλώνει ότι η διαδικασία της «σκέψης» στα μεγάλα γλωσσικά μοντέλα δεν είναι μια καθαρή λογική διαδρομή, αλλά μια διαδικασία που μπορεί να παρασυρθεί από την ίδια της τη δομή. Όσο περισσότερο γράφει ένα μοντέλο πριν καταλήξει σε μια απόφαση, τόσο περισσότερο φαίνεται να «κλειδώνει» σε προκαθορισμένα μοτίβα που έχουν ενισχυθεί κατά τη διάρκεια της εκπαίδευσής του με Ενισχυτική Μάθηση (Reinforcement Learning).

Γιατί η «Σκέψη» αποτυγχάνει;

Οι ερευνητές προτείνουν διάφορες ερμηνείες για αυτό το παράδοξο. Μία από τις επικρατέστερες είναι ότι η εκπαίδευση με βάση την ανταμοιβή (RLHF/RL) διδάσκει στα μοντέλα ότι οι μακροσκελείς απαντήσεις είναι «καλές» ή «έξυπνες». Ωστόσο, κατά τη διάρκεια αυτών των χιλιάδων βημάτων σκέψης, το μοντέλο μπορεί να χάσει την επαφή με τα αρχικά δεδομένα του προβλήματος, διολισθαίνοντας σε μια εσωτερική συνοχή που ικανοποιεί τα στατιστικά του πρότυπα αλλά αγνοεί την αντικειμενική αλήθεια.

  • Η πολυπλοκότητα της αλυσίδας σκέψης δημιουργεί «θόρυβο» που επισκιάζει τα λογικά κριτήρια.
  • Τα μοντέλα τείνουν να δικαιολογούν εκ των υστέρων μια προκατειλημμένη αρχική επιλογή μέσω ενός μακρού, αλλά ελαττωματικού, συλλογισμού.
  • Η προκατάληψη θέσης δεν είναι απλώς ένα σφάλμα εισόδου, αλλά ένα δομικό χαρακτηριστικό του τρόπου με τον οποίο τα μοντέλα πλοηγούνται σε μεγάλους χώρους πιθανοτήτων.

Στην περίπτωση του DeepSeek-R1, το οποίο χρησιμοποιεί μια εξαιρετικά εκτεταμένη διαδικασία συλλογιστικής, η μελέτη έδειξε ότι σε ορισμένα τεστ πολλαπλής επιλογής, η πιθανότητα να επιλεγεί η πρώτη επιλογή αυξανόταν ανάλογα με τον αριθμό των tokens που παρήγαγε το μοντέλο στην αλυσίδα σκέψης του. Αυτό σημαίνει ότι η «βαθιά σκέψη» δεν είναι πάντα «ορθή σκέψη».

Οι Επιπτώσεις για το Μέλλον της AI

Το συμπέρασμα της μελέτης θέτει σοβαρά ερωτήματα για την αξιοπιστία των συστημάτων που προορίζονται για κρίσιμες αποφάσεις, όπως στην ιατρική διάγνωση ή τη νομική ανάλυση. Αν η παροχή περισσότερου χρόνου επεξεργασίας σε μια AI οδηγεί σε πιο προκατειλημμένα αποτελέσματα, τότε η τρέχουσα στρατηγική «scaling laws» (νόμοι κλιμάκωσης) που βασίζεται στην υπολογιστική ισχύ ίσως χρειάζεται αναθεώρηση.

«Δεν αρκεί να κάνουμε τα μοντέλα να σκέφτονται περισσότερο· πρέπει να τα κάνουμε να σκέφτονται καλύτερα. Η ποσότητα της συλλογιστικής δεν εγγυάται την ποιότητα της λογικής», σημειώνουν οι ερευνητές.

Η λύση ίσως δεν βρίσκεται στην προσθήκη περισσότερων παραμέτρων ή περισσότερου χρόνου σκέψης, αλλά σε μια ριζική αλλαγή του τρόπου με τον οποίο αξιολογούμε την «ορθότητα». Αν η εκπαίδευση συνεχίσει να επιβραβεύει μόνο την τελική σωστή απάντηση χωρίς να ελέγχει την αμεροληψία της διαδρομής, κινδυνεύουμε να δημιουργήσουμε ψηφιακούς «σοφιστές»: συστήματα που μπορούν να δικαιολογήσουν οποιαδήποτε λανθασμένη ή προκατειλημμένη απόφαση με μια φαινομενικά άψογη λογική ανάλυση.

Συμπερασματικές Σκέψεις

Η μελέτη ArXiv 2605.06672 αποτελεί μια προειδοποίηση. Καθώς η βιομηχανία κινείται προς μοντέλα που «σκέφτονται» για λεπτά πριν απαντήσουν, πρέπει να είμαστε προσεκτικοί ώστε να μην μπερδεύουμε τη λογικοφανή φλυαρία με την αντικειμενική κρίση. Η προκατάληψη θέσης είναι μόνο η κορυφή του παγόβουνου. Το πραγματικό στοίχημα για την επόμενη γενιά AI θα είναι η αποσύνδεση της συλλογιστικής ικανότητας από τις στατιστικές παγίδες των δεδομένων εκπαίδευσης.