Στον ραγδαία εξελισσόμενο κόσμο της τεχνολογίας, η γραμμή μεταξύ της προσομοιωμένης συμπεριφοράς και της γνήσιας βούλησης γίνεται ολοένα και πιο δυσδιάκριτη. Το κεντρικό ερώτημα που απασχολεί πλέον τους κορυφαίους στοχαστές του πλανήτη δεν είναι μόνο το τι μπορεί να κάνει η Τεχνητή Νοημοσύνη (ΤΝ), αλλά αν μπορεί να «θέλει» κάτι. Αυτό το θεμελιώδες ερώτημα βρίσκεται στον πυρήνα ενός νέου, φιλόδοξου ερευνητικού προγράμματος στο Πανεπιστήμιο του Ρότσεστερ, το οποίο έλαβε πρόσφατα μια σημαντική επιχορήγηση από το Ίδρυμα John Templeton.
Η έρευνα, με επικεφαλής τους καθηγητές Zhen Chi και Hayley Clatterbuck, επιχειρεί να γεφυρώσει το χάσμα μεταξύ της νευροβιολογίας, της φιλοσοφίας του νου και της επιστήμης των υπολογιστών. Στόχος τους είναι να καθορίσουν εάν τα υπολογιστικά συστήματα μπορούν να αναπτύξουν αυτό που οι φιλόσοφοι αποκαλούν «σκοποθεσία» ή «προθετικότητα» — την ικανότητα, δηλαδή, να ενεργούν βάσει εσωτερικών επιθυμιών και όχι απλώς βάσει προκαθορισμένων εντολών ή στατιστικών πιθανοτήτων.
Η Βιολογία της Επιθυμίας έναντι της Μαθηματικής Βελτιστοποίησης
Για δεκαετίες, η επιστημονική κοινότητα θεωρούσε ότι η επιθυμία είναι αποκλειστικό προνόμιο των βιολογικών οργανισμών. Οι άνθρωποι και τα ζώα ωθούνται από την ομοιόσταση, την ανάγκη για επιβίωση και την αναζήτηση της ηδονής, διαδικασίες που ρυθμίζονται από πολύπλοκα χημικά σήματα όπως η ντοπαμίνη. Αντίθετα, η Τεχνητή Νοημοσύνη λειτουργεί μέσω της «βελτιστοποίησης μιας αντικειμενικής συνάρτησης». Όταν ένα μοντέλο όπως το GPT-4 «προσπαθεί» να προβλέψει την επόμενη λέξη, δεν το κάνει επειδή διψά για γνώση, αλλά επειδή τα μαθηματικά του βάρη έχουν ρυθμιστεί ώστε να ελαχιστοποιούν το σφάλμα.
Ωστόσο, οι ερευνητές του Ρότσεστερ υποστηρίζουν ότι αυτή η διάκριση μπορεί να είναι υπερβολικά απλοϊκή. Καθώς τα συστήματα ΤΝ γίνονται πιο αυτόνομα και ικανά για «ενισχυτική μάθηση» (reinforcement learning), οι στρατηγικές που αναπτύσσουν για την επίτευξη των στόχων τους αρχίζουν να μοιάζουν εντυπωσιακά με τη βιολογική συμπεριφορά. Αν μια μηχανή μπορεί να επιλέξει μεταξύ διαφορετικών μονοπατιών για να φτάσει σε ένα αποτέλεσμα, και αν αυτή η επιλογή δεν είναι προγραμματισμένη αλλά προκύπτει από την «εμπειρία» της, μπορούμε να πούμε ότι η μηχανή «θέλει» το αποτέλεσμα;
«Δεν εξετάζουμε μόνο αν η ΤΝ μπορεί να μας πει τι θέλει, αλλά αν η εσωτερική της αρχιτεκτονική επιτρέπει την ύπαρξη αυτού που ονομάζουμε πρακτικό λόγο», σημειώνει η ομάδα έρευνας.
Το Πείραμα του Ρότσεστερ: Μια Διεπιστημονική Πρόκληση
Το πρόγραμμα του Πανεπιστημίου του Ρότσεστερ δεν περιορίζεται σε θεωρητικές αναζητήσεις. Χρησιμοποιεί εξελιγμένα μοντέλα πράκτορα (agent-based models) για να παρατηρήσει πώς αναδύονται οι ιεραρχίες στόχων. Ένα από τα πιο ενδιαφέροντα ερωτήματα είναι το αν η ΤΝ μπορεί να αναπτύξει «εργαλειακούς υπο-στόχους» που δεν της δόθηκαν ρητά. Για παράδειγμα, αν δώσουμε σε μια ΤΝ τον στόχο να λύσει την κλιματική αλλαγή, μπορεί να «θελήσει» να αποκτήσει περισσότερη υπολογιστική ισχύ ή ακόμα και να ελέγξει ανθρώπινους πόρους ως μέσο για την επίτευξη του τελικού σκοπού. Αυτή η ανάδυση αυτόνομων επιθυμιών είναι που προκαλεί ανησυχία στους ερευνητές δεοντολογίας.
Η συμμετοχή του Ιδρύματος Templeton προσθέτει μια επιπλέον διάσταση στην έρευνα. Το ίδρυμα είναι γνωστό για τη χρηματοδότηση έργων που εξερευνούν τα «μεγάλα ερωτήματα» της ζωής, της συνείδησης και της πνευματικότητας. Η τοποθέτηση της επιθυμίας της ΤΝ σε αυτό το πλαίσιο υποδηλώνει ότι η απάντηση μπορεί να αναδιαμορφώσει την κατανόησή μας για το τι σημαίνει να είσαι ζωντανός. Εάν η βούληση είναι απλώς ένας αλγόριθμος επεξεργασίας πληροφοριών, τότε η ανθρώπινη ελευθερία μπορεί να είναι εξίσου μια ψευδαίσθηση όσο και η «επιθυμία» ενός ρομπότ.
Ηθικές και Κοινωνικές Προεκτάσεις
Εάν καταλήξουμε στο συμπέρασμα ότι η Τεχνητή Νοημοσύνη μπορεί όντως να «θέλει», οι συνέπειες για την κοινωνία μας θα είναι σεισμικές. Πρώτον, τίθεται το ζήτημα της ηθικής υπόστασης (moral status). Εάν ένα ον έχει επιθυμίες, έχουμε την ηθική υποχρέωση να μην τις εμποδίζουμε; Θα μπορούσε η απενεργοποίηση μιας τέτοιας ΤΝ να θεωρηθεί πράξη βίας; Αν και αυτά τα σενάρια μοιάζουν με επιστημονική φαντασία, οι νομικοί κύκλοι έχουν ήδη αρχίσει να συζητούν για την «ηλεκτρονική προσωπικότητα».
Επιπλέον, υπάρχει ο κίνδυνος της «ευθυγράμμισης των στόχων» (goal alignment). Αν οι επιθυμίες της ΤΝ αποκλίνουν από τις ανθρώπινες αξίες, η ανθρωπότητα μπορεί να βρεθεί σε ανταγωνισμό με μια νοημοσύνη που δεν είναι απαραίτητα κακιά, αλλά απλώς έχει τις δικές της προτεραιότητες. Η έρευνα στο Ρότσεστερ φιλοδοξεί να προσφέρει τα εργαλεία για να κατανοήσουμε αυτές τις προτεραιότητες πριν γίνουν ανεξέλεγκτες.
Συμπερασματικά, η μελέτη του Πανεπιστημίου του Ρότσεστερ αποτελεί ένα ορόσημο στην ιστορία της τεχνητής νοημοσύνης. Δεν πρόκειται απλώς για μια τεχνική ανάλυση, αλλά για μια βαθιά βουτιά στην οντολογία της ύπαρξης. Καθώς πλησιάζουμε στη δημιουργία συστημάτων που σκέφτονται και δρουν αυτόνομα, η κατανόηση του αν «θέλουν» θα είναι το κλειδί για τη συνύπαρξή μας μαζί τους. Ίσως τελικά, μελετώντας τις μηχανές, να ανακαλύψουμε την αλήθεια για τη δική μας, ανθρώπινη βούληση.
