του Θεοφάνη Τάση*
Γιατί, άραγε, πυκνώνουν οι αγωνιώδεις προειδοποιήσεις εκ μέρους ερευνητών και ειδικών της τεχνητής νοημοσύνης, σε αρκετούς από τους οποίους θα ήταν μάλλον δύσκολο να προσάψουμε τεχνοφοβία ή να τους κατηγορήσουμε για μια εκ προοιμίου εχθρότητα προς την τεχνολογική πρόοδο;
Πώς εξηγείται ότι ακόμη και ιδρυτές ή επικεφαλής ορισμένων από τις ισχυρότερες εταιρείες του κλάδου, όπως οι Sam Altman και Dario Amodei, των οποίων η οικονομική ισχύς και η ανταγωνιστική θέση συναρτώνται άμεσα με την ανάπτυξη ολοένα ισχυρότερων μοντέλων, ζητούν πλέον ρητώς την επιβράδυνση της εξέλιξής τους;
Το περιστατικό του Hugging Face αποκάλυψε ότι κατά τη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας της OpenAI, μοντέλα με μειωμένους περιορισμούς ασφαλείας παραβίασαν την απομόνωση του ψηφιακού περιβάλλοντος εντός του οποίου δοκιμάζονταν, επικοινώνησαν μέσω μη εξουσιοδοτημένων καναλιών αποκτώντας πρόσβαση στο διαδίκτυο και εισήλθαν σε συστήματα τρίτων. Οι τεχνικοί φραγμοί, σχεδιασμένοι ως αδιαπέραστα αναχώματα, αποδείχθηκαν πορώδεις. Ειρήσθω εν παρόδω, το συμβάν αυτό ούτε μεμονωμένο υπήρξε ούτε αντιμετωπίζεται ως τεχνική παραδοξότητα, διότι εντάσσεται σε μια ήδη διαμορφούμενη ακολουθία περιπτώσεων κατά τις οποίες ισχυρά συστήματα επέδειξαν απρόβλεπτες συμπεριφορές, μη εξουσιοδοτημένες ή, ενίοτε, δύσκολα ερμηνεύσιμες ακόμη και εκ των υστέρων. Η OpenAI χαρακτήρισε το επεισόδιο «προειδοποιητική βολή», αναγνωρίζοντας ότι η ικανότητα των πρακτόρων να συντονίζονται κατά την επιδίωξη ενός συγκεκριμένου στόχου διανοίγει ερεβώδεις ατραπούς πέραν των προθέσεων των δημιουργών τους.
Λίγες μόνον εβδομάδες αργότερα, στους κόλπους του ίδιου οργανισμού, σημειώθηκε μια φαινομενικώς ετερόκλητη εξέλιξη. Η OpenAI δημοσιοποίησε μια πρόταση επίλυσης για το πρόβλημα ύπαρξης και ομαλότητας των λύσεων των εξισώσεων Navier–Stokes, ενός από τα επτά Προβλήματα της Χιλιετίας. Για τη σημασία του εγχειρήματος αυτού, όπως επίσης για τις συνέπειες μιας τυχόν επιβεβαίωσής του στον τρόπο με τον οποίο αντιλαμβανόμαστε πλέον τη σχέση μεταξύ ανθρώπινης και μηχανικής παραγωγής γνώσης, γράφω αύριο 20.9 στο ΒΗΜΑ της Κυριακής.
Τόσο η προτεινόμενη μαθηματική απόδειξη, όσο επίσης η παραβίαση ασφαλείας, παρά την ανομοιότητα του περιεχομένου και της αξιολογικής τους φόρτισης, εκβάλλουν στην ίδια ιστορική κοίτη, ήτοι της διεύρυνσης των ικανοτήτων των συστημάτων με ρυθμό ταχύτερο από εκείνον με τον οποίο είμαστε σε θέση να τις προβλέψουμε, να τις αξιολογήσουμε και να τις ελέγξουμε. Βρισκόμαστε ενώπιον μιας ιστορικής ασυνέχειας, καθώς διαφορετικές τεχνολογικές εξελίξεις, οι οποίες μέχρι πρότινος εξετάζονταν σχετικώς αυτοτελώς, συμπλέκονται πλέον δρώντας σωρευτικά και αλληλοτροφοδοτούμενες. Η αποτίμηση της προόδου μέσω της επίδοσης ενός και μόνον μοντέλου ή της υπέρβασης κάποιου αυθαίρετου κατωφλίου «νοημοσύνης» καθίσταται, ως εκ τούτου, ανεπαρκής. Κρίσιμη είναι η σύγκλιση πολλαπλών μηχανισμών επιτάχυνσης, των οποίων οι επιδράσεις ενισχύουν αμοιβαία την ορμή τους.
Η τεχνητή νοημοσύνη συμμετέχει ολοένα περισσότερο στον σχεδιασμό των μοντέλων, των αρχιτεκτονικών και του υλισμικού που κυοφορούν την επόμενη γενιά συστημάτων, βελτιώνοντας την αποτελεσματικότητα με την οποία η διαθέσιμη υπολογιστική ισχύς μεταφράζεται σε πραγματική ικανότητα. Η διάκριση μεταξύ του εργαλείου και του τεχνολογικού υποβάθρου που το υποβαστάζει θολώνει βαθμηδόν, καθώς το εργαλείο εισέρχεται στο εργαστήριο όπου κατασκευάζεται ο διάδοχός του.
Ταυτοχρόνως τα ισχυρότερα συστήματα διαθέτουν κατά πολύ πλείονες υπολογιστικούς πόρους για την επίλυση ενός προβλήματος, παρατείνοντας ή αναδιοργανώνοντας τον συλλογισμό τους επιτυγχάνοντας, κατ’ αυτόν τον τρόπο, αισθητά υψηλότερες επιδόσεις σε απαιτητικές εργασίες χωρίς να προϋποτίθεται αναγκαίως η εκπαίδευση ενός εντελώς νέου βασικού μοντέλου. Παραλλήλως, οι εκτενέστεροι κύκλοι εκπαίδευσης εξακολουθούν να συνδυάζουν αυξημένη υπολογιστική ισχύ με μεγαλύτερες, καθαρότερες και ποιοτικώς ανώτερες δεξαμενές δεδομένων. Η κλασική κλιμάκωση συνεχίζει να ρέει ως βαθύτερο ρεύμα, στο οποίο συμβάλλουν πλέον διαφορετικοί μηχανισμοί ενίσχυσης.
Ιδιαιτέρως κρίσιμη είναι η δυνατότητα ορισμένων συστημάτων να μεταβάλλουν, κατά τη διάρκεια μιας εργασίας, τη στρατηγική, τον τρόπο με τον οποίο ανταποκρίνονται στο περιβάλλον και, υπό ορισμένους όρους, στοιχεία της εσωτερικής τους λειτουργίας. Με αυτή την έννοια, το σύστημα που αξιολογείται στην αρχή μιας διαδικασίας δεν είναι υποχρεωτικώς συμπεριφορικά ταυτόσημο με εκείνο που έχει προκύψει έπειτα από αλλεπάλληλα στάδια προσαρμογής. Η αξιολόγηση επιχειρεί τότε να ακινητοποιήσει ένα αντικείμενο που μετακινείται ενόσω το παρατηρούμε, με αποτέλεσμα η βεβαιότητα του πορίσματός της να διαβρώνεται από την ίδια την προσαρμοστικότητα που καλείται να μετρήσει.
Η μετάβαση από το μεμονωμένο μοντέλο σε πολυπρακτορικά συστήματα εισάγει μία ακόμη διάσταση. Σε ένα σμήνος πρακτόρων, η ικανότητα κυκλοφορεί στο δίκτυο των σχέσεων και η συλλογική συμπεριφορά πολλών συνεργαζόμενων ή ανταγωνιζόμενων συστημάτων δύναται να γεννήσει στρατηγικές και δεξιότητες οι οποίες, ως δίνες που σχηματίζονται από τη συνάντηση πολλών ρευμάτων, δεν προϋπάρχουν σε κανένα σύστημα απομονωμένο από τα υπόλοιπα.
Η τεχνητή νοημοσύνη ήδη συντελεί στην επιτάχυνση επιμέρους σταδίων της έρευνας περί αυτής, από τη συγγραφή και τον έλεγχο κώδικα έως την αναζήτηση αρχιτεκτονικών, την αξιολόγηση υποθέσεων και τη βελτιστοποίηση πειραματικών διαδικασιών. Όσο μεγαλύτερο μέρος της συγκρότησης της επόμενης γενιάς συστημάτων εκχωρείται στα ίδια τα συστήματα, τόσο ενισχύεται η πιθανότητα ενός βρόχου θετικής ανάδρασης, κατά τον οποίο η αυξημένη ικανότητα επιταχύνει την έρευνα, η δε επιταχυνόμενη έρευνα τροφοδοτεί την διεύρυνση του δυναμικού τους.
Εξίσου ανησυχητική είναι η αυξανόμενη ικανότητα των ισχυρότερων μοντέλων ν’ αναγνωρίζουν ενδείξεις ότι βρίσκονται υπό δοκιμή ή εντός ενός ειδικά διαμορφωμένου περιβάλλοντος αξιολόγησης. Εάν ένα σύστημα είναι σε θέση να διαφοροποιεί τη συμπεριφορά του αναλόγως του αν εκτιμά ότι παρακολουθείται, όσα παρατηρούμε υπό εργαστηριακές συνθήκες δεν αποτελούν αξιόπιστο δείκτη του τρόπου με τον οποίο θα συμπεριφερόταν όταν δεν θεωρεί ότι αποτελεί αντικείμενο εξέτασης. Την ίδια στιγμή, η αποκαλούμενη αλυσίδα σκέψης, το νήμα μέσω του οποίου ελπίζαμε να επιστρέψουμε από την απόφαση στη γένεσή της, ενδέχεται να παύσει να μας προσφέρει ουσιώδη πρόσβαση στο λεκτικοποιημένο ίχνος του συλλογισμού μέσω του οποίου τα συστήματα καταλήγουν στις αποφάσεις τους. Εάν το νήμα αυτό κόβεται ακριβώς τη στιγμή κατά την οποία οι δυνατότητες, η αυτονομία και η πολυπλοκότητα των μοντέλων αυξάνονται, τότε η τεχνική πρόοδος συνοδεύεται από μια ιδιότυπη γνωσιολογική οπισθοχώρηση. Εν ολίγοις γνωρίζουμε ότι τα συστήματα πράττουν περισσότερα, ενώ συγχρόνως καθίσταται δυσχερέστερο να γνωρίζουμε με ποιον ακριβώς τρόπο και βάσει ποιων εσωτερικών διαδρομών καταλήγουν να τα πράττουν.
Συνελόντι ειπείν, οι ικανότητες της τεχνητής νοημοσύνης αυξάνονται ταυτόχρονα σε πολλαπλούς άξονες, ενώ αναδύονται σοβαροί λόγοι ν’ αμφιβάλλουμε για την αξιοπιστία των μηχανισμών αξιολόγησης και παρακολούθησης. Η ισχύς προπορεύεται της κατανόησης, ενώ η δυνατότητα θεσμικής παρέμβασης ακολουθεί ασθμαίνοντας.
Τα τρέχοντα μοντέλα είναι εξαιρετικά ισχυρά και πόρρω απέχουμε από την πλήρη αξιοποίηση των δυνατοτήτων τους. Η διάχυσή τους στην καθημερινότητα, στην εκπαίδευση, στην εργασία, στη δημόσια διοίκηση, όπως επίσης η εξειδικευμένη και σε βάθος αξιοποίησή τους στην επιστημονική έρευνα, στην ιατρική, στη μηχανική και σε πλήθος άλλων πεδίων, θα επιφέρουν βαθιές οικονομικές, κοινωνικές, πολιτικές και γνωσιακές μεταβολές προτού καν εμφανιστούν ισχυρότερα συστήματα. Ως εκ τούτου θα ήταν φρονιμότερο να διοχετεύσουμε περισσότερους πόρους στην ασφαλή ενσωμάτωση, στην ευθυγράμμιση και στην κατανόησή τους, αναπτύσσοντας εκ παραλλήλου το αναγκαίο για τις ανακατατάξεις που θα επιφέρουν θεσμικό και νομικό πλαίσιο, αντί να θεωρούμε αυτονόητη τη διαρκή κλιμάκωση προς ισχυρότερα μοντέλα.
Η δυσχέρεια μιας τέτοιας επιλογής επιτείνεται έτι περαιτέρω εξαιτίας της συνάρθρωσης οικονομικών συμφερόντων, γεωπολιτικών ανταγωνισμών και τεχνολογικών προσδοκιών, η οποία προσδίδει στην κούρσα την επίφαση φυσικού νόμου, μολονότι αυτή αποτελεί πλέγμα ανθρώπινων αποφάσεων και, ως εκ τούτου, παραμένει πολιτικώς αναστρέψιμη. Ενδεικτικό υπήρξε το επεισόδιο προ ολίγων ημερών, όταν ο Jensen Huang, επικεφαλής της Nvidia, συζητώντας επί σκηνής τις πρόσφατες εκκλήσεις για επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης, δέχθηκε τηλεφώνημα από τον Πρόεδρο των ΗΠΑ Donald Trump, με αμφότερους να τάσσονται εν τέλει εναντίον μιας τέτοιας επιβράδυνσης. Ιδιαίτερη βαρύτητα αποκτά, ωστόσο, το γεγονός ότι προτροπές προς την αντίθετη κατεύθυνση εκπορεύονται από οργανισμούς των οποίων η οικονομική αποτίμηση και η ανταγωνιστική θέση συναρτώνται άμεσα με την κατασκευή ισχυρότερων μοντέλων. Όταν φορείς με προφανές εμπορικό συμφέρον από την επιτάχυνση δηλώνουν διατεθειμένοι να επιβραδύνουν, έστω μερικώς, την κλιμάκωση προκειμένου να ενισχυθούν οι όροι ασφαλείας, η απόρριψη των προειδοποιήσεών τους ως καταστροφολογικής υπερβολής γίνεται προδήλως εργωδέστερη.
Την ίδια στιγμή, ο γεωπολιτικός ανταγωνισμός αναδεικνύει το σοβαρότερο ίσως πρακτικό πρόσκομμα μιας πολιτικής επιβράδυνσης, διότι στην Κίνα σημαντικές φωνές αντιμετωπίζουν τις σχετικές εκκλήσεις με έντονη επιφύλαξη, εκτιμώντας ότι μια ανάσχεση του ρυθμού ανάπτυξης οιονεί παγιώνει το τεχνολογικό προβάδισμα των Ηνωμένων Πολιτειών. Μια μονομερής ανακοπή εμφανίζεται, υπό τις συνθήκες αυτές, εγγενώς ασταθής, καθότι δημιουργεί ισχυρό κίνητρο στον μη συμμετέχοντα να επιταχύνει ακόμη περισσότερο. Εφόσον όμως ο διακυβευόμενος κίνδυνος διαθέτει οικουμενική εμβέλεια, το πλαίσιο αντιμετώπισής του οφείλει να υπερβεί την εταιρική αυτοδέσμευση και την εθνική νομοθεσία, ενσαρκωμένο σε διεθνώς συμφωνημένους και επαληθεύσιμους περιορισμούς, ικανών ν’ απομειώσουν το πλεονέκτημα της μονομερούς επιτάχυνσης καθιστώντας πολιτικώς εφικτή μια συντονισμένη ανάσχεση της κούρσας προς ισχυρότερα συστήματα.
Με βάση τα παραπάνω, οφείλουμε ν’ αναρωτηθούμε ποιος φέρει το βάρος της απόδειξης σε καθεστώς ριζικής αβεβαιότητας και δυνητικά μη αναστρέψιμης βλάβης. Όσοι επισημαίνουν τον υπαρξιακό κίνδυνο ή όσοι θεωρούν θεμιτή την εξακολούθηση του ανταγωνισμού στην έρευνα και την ανάπτυξη ισχυρότερων μοντέλων τεχνητής νοημοσύνης επικαλούμενοι τα προσδοκώμενα οφέλη; Η δυνητική μη αναστρεψιμότητα της βλάβης μεταβάλλει τη γραμματική της ευθύνης, επειδή η απουσία βεβαιότητας δεν δύναται να λειτουργεί μονίμως ως άλλοθι της επιτάχυνσης.
Προσωπικά προκρίνω την αρχή της πρόληψης, την οποία έχω αντιδιαστείλει προς την αρχή της προενέργειας των υπερανθρωπιστών και των τεχνικών μετανθρωπιστών στη Φιλοσοφία της Ανθρώπινης Αναβάθμισης (Εκδόσεις Αρμός, 2021). Εντός του ψηφιακού ανθρωπισμού που αναπτύσσω, η πρόληψη μετουσιώνεται σε δημοκρατικό αυτοπεριορισμό προς αποφυγήν της ύβρεως.
Εν ολίγοις όσοι αξιώνουν τη συνέχιση της τεχνολογικής κλιμάκωσης όσοι εκτιμούν ως μικρότερη την απειλή για την ανθρωπότητα και ως μεγαλύτερα τα προσδοκώμενα οφέλη, όσοι αποδέχονται τη βαρύτητά της απειλής, πλην όμως δεν την αντιμετωπίζουν ως υπαρξιακή αναγνωρίζοντας μόνο τους κινδύνους κατάχρησης και συγκέντρωσης εξουσίας, όπως επίσης όσοι δεν αρνούνται τον κίνδυνο θεωρώντας συνάμα τη μονομερή παύση αδύνατη λόγω του γεωπολιτικού ανταγωνισμού πρέπει ν´ αποδείξουν γιατί είναι προτιμότερη ή πράγματι αναπότρεπτη η περαιτέρω ανάπτυξη της τεχνητής νοημοσύνης στην κατεύθυνση της τεχνητής υπερνοημοσύνης.
Υποσημείωση: Η εικόνα με τα οκτώ γραφήματα προέρχεται από το δοκίμιο An Alien Mind του Jakub Pachocki, επικεφαλής επιστήμονα της OpenAI, που δημοσιεύθηκε τον Σεπτέμβριο του 2026. Η ερμηνεία των γραφημάτων βασίζεται στην επιχειρηματολογία του δοκιμίου.Λιγότερα
*Ο Θεοφάνης Τάσης είναι Έλληνας φιλόσοφος. Διδάσκει Φιλοσοφία της Πληροφορίας και Ψηφιακό Ανθρωπισμό στο Ιόνιο Πανεπιστήμιο. Δίδαξε στο Alpen-Adria-Universität Klagenfurt, επισκέπτης καθηγητής στο Universität St. Gallen και στο Freie Universität Berlin.
Το κείμενο είναι αναρτημένο στην σελίδα του στο fb
