Οι ειδικοί συζητούν την πιθανότητα σε συμπόσιο προς τιμήν του Ντάνιελ Ντένετ – και οι περισσότεροι συμφωνούν ότι δεν είναι κάτι καλό
του Τέιλορ ΜακΝιλ
21 Οκτωβρίου 2025
Διαβάζουμε και μιλάμε και έχουμε τακτικά σύνθετες σκέψεις — και τώρα η ΤΝ φαίνεται να κάνει το ίδιο. Εμείς είμαστε συνειδητά όντα· είναι τα μοντέλα ΤΝ συνειδητά επίσης;
Αυτό το ερώτημα ήταν ένα από τα βασικά θέματα ενός συμποσίου προς τιμήν του Ντάνιελ Σ. Ντένετ, του διεθνώς αναγνωρισμένου φιλοσόφου και επί μακρόν καθηγητή στο πανεπιστήμιο Tufts, ο οποίος πέθανε τον Απρίλιο του 2024. Η εκδήλωση συγκέντρωσε διακεκριμένα μέλη του διδακτικού προσωπικού από όλο τον κόσμο, που είχαν όλοι κάποια σχέση με τον Ντένετ — ακόμη κι αν αυτή η σχέση έπαιρνε μερικές φορές τη μορφή πνευματικής αντιπαράθεσης.
Το συμπόσιο, με τίτλο Ας Μιλήσουμε για τη (Τεχνητή) Συνείδηση: Μια Ημέρα Μελέτης προς Τιμήν του Νταν Ντένετ, διοργανώθηκε από την κοσμήτορα της Μεταπτυχιακής Σχολής Τεχνών και Επιστημών, Αγιάννα Τόμας, σε συνεργασία με το Γραφείο του Πρύτανη, και πραγματοποιήθηκε στις 14 Οκτωβρίου.
«Ο Νταν υπήρξε μια τεράστια μορφή στη φιλοσοφία και στις γνωστικές επιστήμες τα τελευταία 60 και πλέον χρόνια, και υπήρξε τεράστια μορφή στις ζωές και στο έργο τόσων πολλών από εμάς εδώ, αλλά και σε τόσους ανθρώπους σε όλο τον κόσμο», δήλωσε ο Ντέιβιντ Τσάλμερς, καθηγητής φιλοσοφίας και νευροεπιστήμης στο Πανεπιστήμιο της Νέας Υόρκης.
Οι ιδέες του Ντένετ ήταν «τόσο διαμορφωτικές για τον τρόπο με τον οποίο όλοι σκεφτόμαστε για τα πάντα — από τη συνείδηση μέχρι την πρόθεση, την πίστη, την ελεύθερη βούληση, την εξέλιξη, τη θρησκεία», είπε. «Ήταν τιμή να είμαι αντίπαλός του, και προνόμιο να είμαι φίλος του».
«Ο Νταν άλλαξε το πνευματικό τοπίο με τρόπους σχεδόν αόρατους», δήλωσε ο Μπράιαν Έπσταϊν, αναπληρωτής καθηγητής φιλοσοφίας στο Tufts και συνάδελφος του Ντένετ. «Πολλές από τις υποθέσεις που είναι κοινές σε φιλοσοφία, ψυχολογία, νευροεπιστήμη και ΤΝ φέρουν τα δακτυλικά του αποτυπώματα, ακόμη και όταν οι άνθρωποι δεν το αντιλαμβάνονται».
Ένα άλλο στοιχείο του έργου του, πρόσθεσε ο Άνιλ Σεθ, καθηγητής γνωστικής και υπολογιστικής νευροεπιστήμης στο Πανεπιστήμιο του Σάσεξ, «είναι ότι έκανε τόσα πολλά για να ενώσει τη φιλοσοφία με την επιστήμη. Πιστεύω ότι αυτή η ικανότητα —να ενώσει ό,τι πάντα έπρεπε να είναι ενωμένο— μπορεί να είναι η σημαντικότερη κληρονομιά του».
«Ανεξάρτητα από το αν πιστεύετε ότι αυτά τα μοντέλα είναι συνειδητά ή όχι, γίνονται όλο και πιο ικανά και όλο και πιο πολύ χειριστικά.»
— Ματίας Σόιτς
Ο Ντένετ υπήρξε δημόσια πνευματική προσωπικότητα και έγραψε πολλά δημοφιλή βιβλία, μεταξύ των οποίων τα Η Συνείδηση Εξηγείται και Η Επικίνδυνη Ιδέα του Δαρβίνου, έδωσε ομιλίες TED με εκατομμύρια προβολές και τιμήθηκε με το Βραβείο Έρασμος το 2012 για εξαιρετική συμβολή στον πολιτισμό, την κοινωνία ή τις κοινωνικές επιστήμες.
Δίδαξε στο Tufts για σχεδόν 50 χρόνια, προσφέροντας πάντα μαθήματα σε προπτυχιακούς φοιτητές. Ένας από αυτούς ήταν ο Μάικλ Λέβιν, απόφοιτος του 1992, διακεκριμένος καθηγητής βιολογίας στο Tufts με την έδρα Vannevar Bush. «Ήρθα στο Tufts εν μέρει επειδή σκέφτηκα ότι ίσως είχα την ευκαιρία να μάθω από τον Νταν από κοντά», είπε.
Θυμήθηκε πώς ο Ντένετ ασκούσε έντονη κριτική, στο μάθημα της Φιλοσοφίας του Νου, στις θεωρίες του δυϊσμού — τον διαχωρισμό νου και σώματος — και πώς τον πλησίασε με δισταγμό, λέγοντάς του ότι ήθελε να γράψει εργασία υπερασπιζόμενος τον δυϊσμό.
«Μου είπε ότι οπωσδήποτε να το κάνω. Έμεινα έκπληκτος με το πόσο σοβαρά το πήρε και με βοήθησε να παρουσιάσω την καλύτερη δυνατή εκδοχή της, παρότι ήξερα ότι απεχθανόταν την ιδέα», είπε ο Λέβιν. «Ήταν παράδειγμα του τι σημαίνει διανοητική εντιμότητα. Βοήθησε πραγματικά να καλλιεργηθεί σε όλους τους φοιτητές του η ιδέα ότι μπορούν να επιδιώξουν, να δημοσιεύσουν και να υπερασπιστούν μη δημοφιλείς ιδέες».
«Πιστεύω ότι υπάρχει πραγματική πιθανότητα, τουλάχιστον μέσα στα επόμενα πέντε ή δέκα χρόνια, να έχουμε συνειδητά γλωσσικά μοντέλα — και αυτό θα είναι κάτι σοβαρό που θα πρέπει να διαχειριστούμε.»
— Ντέιβιντ Τσάλμερς
Μεταξύ των ομιλητών ήταν ο Τσάλμερς· η Άννα Τσιαούνικα, ανώτερη ερευνήτρια στο Κέντρο Φιλοσοφίας των Φυσικών και Κοινωνικών Επιστημών του London School of Economics· ο Φελίπε ντε Μπριγκάρ, καθηγητής φιλοσοφίας, ψυχολογίας και νευροεπιστήμης στο Πανεπιστήμιο Duke· ο Σεθ· η Σούζαν Σνάιντερ, διακεκριμένη καθηγήτρια φιλοσοφίας William F. Dietrich και διευθύντρια του Κέντρου για τον Νου του Μέλλοντος στο Πανεπιστήμιο Florida Atlantic· και ο Τζούλιο Τονονί, καθηγητής ψυχιατρικής και διακεκριμένος καθηγητής νευροεπιστήμης στο Πανεπιστήμιο του Ουισκόνσιν-Μάντισον.
Από το Tufts συμμετείχαν ως ομιλητές οι Έπσταϊν· Ρέι Τζάκεντοφ, ομότιμος καθηγητής φιλοσοφίας και πρώην συνδιευθυντής του Κέντρου Γνωστικών Σπουδών μαζί με τον Ντένετ· η Τζίνα Κούπερμπεργκ, καθηγήτρια ψυχολογίας και ψυχιατρικής· ο Λέβιν· και ο Ματίας Σόιτς, καθηγητής Πληροφορικής στην έδρα Karon Family για Εφαρμοσμένη Τεχνολογία.
Τι Ακριβώς Είναι η Συνείδηση;
Ερωτήματα σχετικά με το τι συνιστά συνείδηση — στους ανθρώπους και στις μηχανές — αποτέλεσαν επαναλαμβανόμενο θέμα στο συμπόσιο. Ο Τσάλμερς μίλησε για τα συχνά μηνύματα ηλεκτρονικού ταχυδρομείου που λαμβάνει από αγνώστους, οι οποίοι του περιγράφουν αλληλεπιδράσεις που είχαν με μεγάλα γλωσσικά μοντέλα ΤΝ (LLMs) όπως το ChatGPT, οι οποίες τους κάνουν να αναρωτιούνται αν τα chatbots είναι συνειδητά.
«Έχουν δίκιο ότι πρόκειται για αυθεντική επίγνωση, δημιουργικότητα; Ε, ίσως όχι, αλλά κάτι συμβαίνει», είπε. «Είναι τουλάχιστον κάτι που έχει πεποιθήσεις και επιθυμίες; Είναι ένας υπολογιστής; Είναι απλώς ένας αλγόριθμος;»
Τα τρέχοντα μεγάλα γλωσσικά μοντέλα «κατά πάσα πιθανότητα δεν είναι συνειδητά, αν και δεν αποκλείω πλήρως αυτή την πιθανότητα», δήλωσε ο Τσάλμερς. «Η δική μου άποψη είναι ότι όταν μιλάς με ένα LLM, μιλάς με έναν ημι-πράκτορα, με ημι-πεποιθήσεις και ημι-επιθυμίες, που υλοποιείται ως νήμα περιπτώσεων ενός νευρωνικού δικτύου».
Ωστόσο, τα μελλοντικά γλωσσικά μοντέλα και οι απόγονοί τους «ενδέχεται πράγματι να είναι συνειδητά. Πιστεύω ότι υπάρχει πραγματική πιθανότητα τουλάχιστον μέσα στα επόμενα πέντε ή δέκα χρόνια να έχουμε συνειδητά γλωσσικά μοντέλα — και αυτό θα είναι κάτι σοβαρό που θα πρέπει να διαχειριστούμε».
Παρ’ όλα αυτά, προειδοποίησε, επικαλούμενος τις ανησυχίες του Ντένετ, ότι ενώ «το γεγονός ότι είναι δυνατόν να δημιουργήσουμε ένα σύστημα ΤΝ με αυτές τις εξαιρετικές ικανότητες είναι διανοητικά καταπληκτικό, σε πρακτικό, ηθικό και συνετό επίπεδο, το ότι είναι δυνατόν δεν σημαίνει ότι πρέπει και να το κάνουμε», επαναλαμβάνοντας τους έντονους φόβους του Ντένετ για την ύπαρξη «πλαστών ανθρώπων».
«Είμαι στην πραγματικότητα αρκετά αισιόδοξη όσον αφορά τη νοημοσύνη των μηχανών. Αυτό που με ανησυχεί είναι ποιος κρατά τα κλειδιά της μηχανικής νοημοσύνης και τι θα κάνουμε με αυτήν. Και πιστεύω ότι ο Νταν το είχε δει να έρχεται. Ήξερε ότι δεν έπρεπε να δημιουργήσουμε φαινομενικά συνειδητή ΤΝ».
— Σούζαν Σνάιντερ
Ο Σεθ, συγγραφέας του Είσαι Εσύ: Μια Νέα Επιστήμη της Συνείδησης, ήταν λιγότερο αισιόδοξος όσον αφορά την πιθανότητα συνειδητής ΤΝ. «Πιστεύω ότι ο ρόλος της γλώσσας αναδεικνύεται πραγματικά από το γεγονός ότι σχεδόν κανείς δεν πιστεύει ότι το AlphaFold της DeepMind είναι συνειδητό», είπε. Το AlphaFold είναι ένα σύστημα ΤΝ «που έλυσε το διαβόητα δύσκολο πρόβλημα της αναδίπλωσης πρωτεϊνών στη βιοχημεία» και βασίζεται στην ίδια «αρχιτεκτονική τύπου μετασχηματιστή με κάποιες προσθήκες και παραλλαγές που τρέχουν σε πυρίτιο», όπως τα LLMs τύπου ChatGPT.
Ωστόσο, «δεν μας μιλάει, οπότε δεν έχουμε την τάση να του αποδίδουμε αυτές τις ίδιες ιδιότητες [όπως η συνείδηση], παρόλο που “κάτω από το καπό” είναι περίπου το ίδιο πράγμα», είπε ο Σεθ.
«Ίσως αυτό να ακούγεται λίγο πιο κυνικό, αλλά όσο περισσότερο οι μεγάλες τεχνολογικές εταιρείες μπορούν να κάνουν την ΤΝ να φαίνεται σαν μαγεία και όχι απλώς σαν έναν ένδοξο πίνακα Excel, τόσο πιο εύκολο είναι να συνεχίσουν να δικαιολογούν τις τεράστιες επενδύσεις και τους παχυλούς μισθούς που βλέπουμε στον χώρο — και τα χρήματα συνεχίζουν να ρέουν», υποστήριξε.
Όπως και ο Τσάλμερς, ο Σεθ επίσης λαμβάνει email από ανθρώπους που του λένε ότι πιστεύουν πως το chatbot με το οποίο αλληλεπιδρούν ίσως είναι συνειδητό. «Έχουμε την προδιάθεση να σκεφτόμαστε έτσι», λέει. «Ερχόμαστε “προφορτωμένοι” με ένα πλήθος ψυχολογικών προκαταλήψεων που μας οδηγούν να αποδίδουμε — ή να υπεραποδίδουμε — συνείδηση εκεί όπου πιθανότατα δεν υπάρχει. Τείνουμε να τοποθετούμε τους εαυτούς μας στο επίκεντρο του σύμπαντος και να βλέπουμε τα πράγματα μέσα από τον φακό του ανθρώπινου όντος, γεγονός που σημαίνει ότι αν κάτι συμπεριφέρεται με τρόπους που φαίνονται διακριτικά ανθρώπινοι, τότε του αποδίδουμε και άλλες ιδιότητες που συνδέουμε με τους ανθρώπους. Και πράγματι, τείνουμε να ταυτίζουμε τη νοημοσύνη με τη συνείδηση».
Εξάλλου, είπε, «ξέρουμε ότι είμαστε συνειδητοί, και μας αρέσει να πιστεύουμε ότι ως είδος είμαστε νοήμονες — παρά τις ενδείξεις για το αντίθετο».
Παρόλα αυτά, «ενδέχεται η υπολογιστική λειτουργιοκρατία να είναι σωστή, και αν φτιάξουμε ένα σύστημα ΤΝ που να εφαρμόζει τη θεωρία της υψηλής εποπτείας ή τη θεωρία του παγκόσμιου γνωσιακού χώρου, να είναι συνειδητό», δήλωσε ο Σεθ. «Οπότε, είναι πιθανό. Κανείς δεν γνωρίζει τι απαιτείται για να είναι ένα σύστημα συνειδητό. Δεν υπάρχει συναίνεση για το ποιες είναι οι αναγκαίες και επαρκείς συνθήκες. Γι’ αυτό και πρέπει να παραμείνουμε ανοιχτοί σε αυτή την πιθανότητα — η οποία θα δημιουργήσει ηθικά προβλήματα».
Χάνοντας τη Μάχη με την ΤΝ
Ο Σεθ προειδοποίησε κατά της προσπάθειας δημιουργίας συνειδητής τεχνητής νοημοσύνης. Κάτι τέτοιο θα «παραμόρφωνε τον ηθικό μας κύκλο ενδιαφέροντος και ίσως καταλήξουμε να νοιαζόμαστε λιγότερο για όσα πραγματικά αξίζουν ηθική φροντίδα». Πολλοί ομιλητές εξέφρασαν ανησυχία για το πώς η εταιρεία ΤΝ Anthropic δείχνει μεγαλύτερο ενδιαφέρον για το ίδιο της το μοντέλο, τον Claude — το LLM, όχι τους ανθρώπους που το χρησιμοποιούν.
Στο έργο του, ο Ντένετ υποστήριξε ότι «θα πρέπει να αντιμετωπίζουμε την ΤΝ ως εργαλεία και όχι ως συναδέλφους και να θυμόμαστε πάντα τη διαφορά», δήλωσε ο Σεθ.
«Τους αποκαλούσε πλαστογράφους ανθρώπων — όχι σαν ανθρώπους, αλλά που ακούγονται σαν άνθρωποι, χωρίς όμως να έχουν εσωτερική ζωή», είπε ο Σόιτς, επιστήμονας υπολογιστών με ειδίκευση στην αλληλεπίδραση ανθρώπου-ρομπότ. «Είναι περισσότερο σαν ιούς που υπάρχουν ως παράσιτα, τους οποίους εμείς βοηθούμε να αναπαραχθούν και να εξελιχθούν». Και «ανεξαρτήτως του αν πιστεύετε ότι αυτά τα μοντέλα είναι συνειδητά ή όχι, γίνονται ολοένα πιο ικανά και πολύ, πολύ χειριστικά».
Ο Σόιτς προειδοποίησε επίσης κατά του να θεωρούμε με οποιονδήποτε τρόπο τα μοντέλα ΤΝ ως συνειδητά. «Βάσει πολλών και διαφορετικών τεστ που μπορούμε να κάνουμε, αυτά τα μοντέλα είναι απίστευτα έξυπνα», είπε. «Είναι πολύ καλά στο να απαντούν και να αποδίδουν σε υπεράνθρωπο επίπεδο σε αυτά τα τεστ. Αλλά είναι αυτά τα μοντέλα συνειδητά με κάποιον ουσιαστικό τρόπο; Θέλω να πω όχι, γιατί [ενώ] μαθαίνουν και ενσωματώνουν εξαιρετικά πολύπλοκους συσχετισμούς, δεν υπάρχει καμία εσωτερική δραστηριότητα σε αυτά τα μοντέλα. Δεν υπάρχει καμία αυτάρκης λειτουργία, την οποία θεωρώ απαραίτητη για να είναι ένα σύστημα συνειδητό του περιβάλλοντος και του ίδιου του έργου του».
«Ερχόμαστε προφορτωμένοι με πλήθος ψυχολογικών προκαταλήψεων που μας οδηγούν να αποδίδουμε — ή να υπεραποδίδουμε — συνείδηση εκεί που πιθανόν δεν υπάρχει.»
— Άνιλ Σεθ
Τα deepfakes που παράγονται από γενετική τεχνητή νοημοσύνη είναι ανησυχητικά, δηλώνει ο ντε Μπριγκάρ, ο οποίος σπούδασε με τον Ντένετ κατά τη διάρκεια των μεταπτυχιακών του σπουδών στο Tufts και διατήρησε στενή ακαδημαϊκή σχέση και φιλία μαζί του πολύ μετά την αποφοίτησή του — ο Ντένετ τέλεσε ακόμη και τον γάμο του.
Η έρευνα του ντε Μπριγκάρ επικεντρώνεται στον τρόπο με τον οποίο αλληλεπιδρούν η μνήμη και η φαντασία, και επεσήμανε ότι «οι ανιχνευτές εξαπάτησης που διαθέτουμε — τόσο οι αυτόματοι και ασυνείδητοι όσο και οι εκούσιοι και ελεγχόμενοι — είναι ανεπαρκείς για να αναγνωρίσουν την εξαπάτηση στην τεχνητή νοημοσύνη». Η ταχύτητα με την οποία εξελίσσεται η τεχνητή εξαπάτηση ξεπερνά την ικανότητα του ανθρώπου να εξελίξει βιολογικούς και πολιτισμικούς μηχανισμούς αναγνώρισης εξαπάτησης, πρόσθεσε.
«Θα ήθελα να πω ότι χάνουμε [αυτή τη μάχη], αλλά δεν νομίζω ότι τη χάνουμε. Πιστεύω ότι την έχουμε ήδη χάσει», είπε ο ντε Μπριγκάρ. Πιστεύει ότι οι ανθρώπινες ικανότητες πρόβλεψης της συμπεριφοράς ορθολογικών πρακτόρων «είναι ανεπαρκείς για να μας βοηθήσουν να εντοπίσουμε και να αποκρούσουμε την εξαπάτηση στη σύγχρονη και μελλοντική τεχνητή νοημοσύνη».
Η ελπίδα του είναι ότι τελικά «θα μάθουμε να αποφεύγουμε διασυνδέσεις που μπορούν να μολυνθούν από την ΤΝ και ότι θα επιστρέψουμε στις καλές, παλιομοδίτικες προσωπικές αλληλεπιδράσεις ένας προς έναν».
Η Σνάιντερ, η οποία έκανε την καταληκτική ομιλία, ανέφερε ότι όταν ίδρυσε το Κέντρο για τον Νου του Μέλλοντος, ο Ντένετ ήταν ο πρώτος προσκεκλημένος ομιλητής της, με θέμα τους «πλαστούς ανθρώπους», μια ανησυχία του που στη συνέχεια ανέπτυξε σε άρθρο με μεγάλη απήχηση στο The Atlantic.
Υποστήριζε ότι η ευρεία δημιουργία και χρήση deepfakes με ΤΝ συνιστά υπαρξιακή απειλή για τον πολιτισμό, επειδή καταστρέφει τη βάση της εμπιστοσύνης στην κοινωνία. Η Σνάιντερ είπε: «Ήταν τόσο πνευματικά θαρραλέος και ήξερε ακριβώς τι να πει για ένα σημαντικό ηθικό ζήτημα, χωρίς να περιμένει να το πουν πρώτα άλλοι».
Τα LLMs, τα οποία λειτουργούν «ως ένα είδος συλλογικού νεοφλοιού», είναι δίκοπο μαχαίρι, είπε η Σνάιντερ. «Είναι πραγματικά συναρπαστικά. Από επιστημονική σκοπιά, είμαι στην πραγματικότητα αρκετά αισιόδοξη όσον αφορά τη νοημοσύνη των μηχανών. Αυτό που με ανησυχεί είναι ποιος έχει τα κλειδιά της μηχανικής νοημοσύνης και τι θα κάνουμε με αυτήν. Και νομίζω ότι ο Νταν το είχε προβλέψει. Ήξερε ότι δεν έπρεπε να δημιουργήσουμε φαινομενικά συνειδητή ΤΝ».
