Το περασμένο καλοκαίρι, ο Peter Degen, ένας μεταδιδακτορικός ερευνητής, βρέθηκε αντιμέτωπος με ένα παράδοξο πρόβλημα: μια παλαιότερη εργασία του από το 2017 άρχισε ξαφνικά να δέχεται εκατοντάδες αναφορές (citations). Στον κόσμο της ακαδημίας, οι αναφορές είναι το νόμισμα της επιτυχίας, το μέτρο της επιρροής ενός επιστήμονα. Ωστόσο, οι αναφορές αυτές δεν προέρχονταν από συναδέλφους που έχτιζαν πάνω στο έργο του, αλλά από μια παράξενη πλημμύρα άρθρων που έμοιαζαν να έχουν παραχθεί από μηχανές. Το περιστατικό αυτό δεν ήταν μεμονωμένο, αλλά το σύμπτωμα μιας βαθύτερης παθογένειας που απειλεί να καταρρακώσει το οικοδόμημα της παγκόσμιας επιστημονικής έρευνας.
Η Ψευδαίσθηση της Ποιότητας και το «Slop»
Η έλευση των Μεγάλων Γλωσσικών Μοντέλων (LLMs) έχει προσφέρει στους ερευνητές εργαλεία που μπορούν να μετατρέψουν πρόχειρες σημειώσεις σε κομψά, ακαδημαϊκά δοκίμια. Ενώ αυτό θα μπορούσε να βοηθήσει ερευνητές που δεν έχουν τα αγγλικά ως μητρική γλώσσα, η πραγματικότητα είναι πολύ πιο σκοτεινή. Παρατηρούμε την άνοδο του λεγόμενου «AI slop» στην ακαδημία: μελέτες που φαίνονται άψογες στη δομή και τη σύνταξη, αλλά στερούνται ουσίας, πρωτοτυπίας ή, ακόμα χειρότερα, βασίζονται σε κατασκευασμένα δεδομένα.
Το πρόβλημα έγκειται στο ότι η Τεχνητή Νοημοσύνη είναι εξαιρετική στο να μιμείται το ύφος της επιστημονικής αυθεντίας χωρίς να κατέχει την κατανόηση του αντικειμένου. Ένα άρθρο μπορεί να περιλαμβάνει περίπλοκα γραφήματα και βιβλιογραφικές αναφορές που φαίνονται σωστές με την πρώτη ματιά, αλλά αν εξεταστούν προσεκτικά, αποκαλύπτονται ως παραισθήσεις του μοντέλου. Αυτή η «βελτίωση» στην εμφάνιση των εργασιών καθιστά το έργο των κριτών (peer reviewers) εξαιρετικά δύσκολο, καθώς οι παραδοσιακές «κόκκινες σημαίες», όπως τα ορθογραφικά λάθη ή η κακή σύνταξη, έχουν πλέον εξαφανιστεί.
Ο Φαύλος Κύκλος της Αξιολόγησης
Ίσως η πιο ανησυχητική πτυχή αυτής της εξέλιξης είναι ο τρόπος με τον οποίο η ΤΝ διεισδύει στη διαδικασία της ομότιμης αξιολόγησης (peer review). Οι ακαδημαϊκοί, πιεσμένοι από τον τεράστιο όγκο εργασιών που καλούνται να κρίνουν εθελοντικά, καταφεύγουν και οι ίδιοι σε εργαλεία ΤΝ για να συνοψίσουν ή και να αξιολογήσουν τα άρθρα των συναδέλφων τους. Το αποτέλεσμα είναι ένας εφιαλτικός βρόχος ανάδρασης: περιεχόμενο παραγόμενο από ΤΝ αξιολογείται από ΤΝ, με τον άνθρωπο-επιστήμονα να παραμένει στο περιθώριο, απλώς επικυρώνοντας μια αυτοματοποιημένη διαδικασία.
- Οι «μύλοι παραγωγής άρθρων» (paper mills) χρησιμοποιούν πλέον LLMs για να παράγουν χιλιάδες μελέτες χαμηλής ποιότητας.
- Η χειραγώγηση των δεικτών απήχησης (h-index) γίνεται ευκολότερη μέσω αυτοματοποιημένων δικτύων αναφορών.
- Η εμπιστοσύνη του κοινού στην επιστήμη κλονίζεται όταν ανακαλύπτονται ψευδή δεδομένα σε έγκριτα περιοδικά.
Στην Ελλάδα, όπου η ακαδημαϊκή ανέλιξη εξαρτάται άμεσα από τον αριθμό των δημοσιεύσεων και τις αναφορές, ο πειρασμός της «διευκόλυνσης» μέσω ΤΝ είναι υπαρκτός. Τα ελληνικά πανεπιστήμια, παλεύοντας με περιορισμένους πόρους, βρίσκονται μπροστά σε μια πρόκληση: πώς να διασφαλίσουν ότι η έρευνα που παράγεται είναι αυθεντική και όχι προϊόν ενός αλγορίθμου που απλώς αναδιατάσσει υπάρχουσες γνώσεις χωρίς κριτική σκέψη.
Η Ανάγκη για Δομική Μεταρρύθμιση
Η λύση δεν μπορεί να είναι μόνο τεχνική. Τα εργαλεία ανίχνευσης περιεχομένου ΤΝ συχνά αποτυγχάνουν ή δίνουν ψευδώς θετικά αποτελέσματα, στοχοποιώντας άδικα ερευνητές. Η πραγματική αλλαγή πρέπει να είναι πολιτισμική και θεσμική. Πρέπει να απομακρυνθούμε από τη λογική του «publish or perish» (δημοσίευσε ή χάσου), η οποία μετρά την επιστημονική αξία με ποσοτικά κριτήρια, και να επιστρέψουμε στην ποιοτική αξιολόγηση.
«Αν η επιστήμη γίνει μια βιομηχανία παραγωγής λέξεων αντί για μια αναζήτηση της αλήθειας, τότε έχουμε χάσει το νόημα της προόδου», σημειώνει χαρακτηριστικά ένας αναλυτής του χώρου.
Οι εκδοτικοί οίκοι, όπως ο Elsevier και ο Springer Nature, φέρουν επίσης μεγάλη ευθύνη. Ενώ αποκομίζουν τεράστια κέρδη από τη συνδρομητική πρόσβαση στην έρευνα, οι μηχανισμοί ελέγχου τους αποδεικνύονται ανεπαρκείς μπροστά στην καταιγίδα της ΤΝ. Η επιστημονική κοινότητα οφείλει να επαναπροσδιορίσει τι συνιστά «συνεισφορά στη γνώση» στην εποχή της τεχνητής νοημοσύνης, πριν η βιβλιογραφία κατακλυστεί από έναν θόρυβο που θα κάνει τις πραγματικές ανακαλύψεις αδύνατο να εντοπιστούν.
