Thomas Germain
Serenity Strull / BBC / Getty Images
Πολλά χέρια κρατούν παράθυρα υπολογιστή με προειδοποιητικά σύμβολα «Χ» και θαυμαστικά πάνω από μια οθόνη υπολογιστή που γράφει «AI».
Πηγή: Serenity Strull / BBC / Getty Images
Την κατασκεύασαν. Τη φοβούνται. Την πουλούν ούτως ή άλλως.
Σταματήστε με αν το έχετε ξανακούσει: μια εταιρεία τεχνολογίας λέει ότι κατασκεύασε μια νέα Τεχνητή Νοημοσύνη τόσο ισχυρή, που προκαλεί φόβο. Υποτίθεται ότι είναι υπερβολικά επικίνδυνη για να κυκλοφορήσει στον κόσμο — οι συνέπειες θα ήταν καταστροφικές. Ευτυχώς για εμάς, την κρατούν προς το παρόν κλειδωμένη. Απλώς ήθελαν να το γνωρίζετε.
Αυτό ακριβώς μας λέει η εταιρεία Τεχνητής Νοημοσύνης Anthropic για το τελευταίο της μοντέλο, το Claude Mythos. Η εταιρεία υποστηρίζει ότι η ικανότητα του Mythos να εντοπίζει κενά κυβερνοασφάλειας ξεπερνά κατά πολύ τους ανθρώπους ειδικούς και ότι θα μπορούσε να έχει συνέπειες ικανές να αλλάξουν τον κόσμο, αν παρόμοια τεχνολογία πέσει σε λάθος χέρια.
«Οι επιπτώσεις —για τις οικονομίες, τη δημόσια ασφάλεια και την εθνική ασφάλεια— θα μπορούσαν να είναι σοβαρές», ανέφερε η Anthropic σε ανάρτηση στο blog της στις αρχές Απριλίου. Ορισμένοι υπερβολικά ανήσυχοι παρατηρητές προειδοποίησαν ότι το Mythos σύντομα θα σας αναγκάσει να αντικαταστήσετε κάθε τεχνολογική συσκευή στη ζωή σας, ακόμη και τον φούρνο μικροκυμάτων με WiFi, για να προστατευτείτε από την ψηφιακή παράνοια.
Ορισμένοι ειδικοί στην ασφάλεια αμφισβητούν αυτούς τους ισχυρισμούς, αλλά ας το αφήσουμε αυτό στην άκρη. Δεν είναι κάτι καινούργιο. Στελέχη κορυφαίων εταιρειών Τεχνητής Νοημοσύνης εκδίδουν τακτικά προειδοποιήσεις ότι τα προϊόντα της βιομηχανίας τους μπορεί να καταστρέψουν την ανθρωπότητα. Γιατί, λοιπόν, οι εταιρείες Τεχνητής Νοημοσύνης θέλουν να τις φοβόμαστε;
Είναι ένας παράξενος τρόπος για οποιαδήποτε εταιρεία να μιλά για τη δουλειά της. Δεν ακούς τη McDonald’s να ανακοινώνει ότι δημιούργησε ένα μπέργκερ τόσο τρομακτικά νόστιμο, ώστε θα ήταν ανήθικο να το ψήσει για το κοινό.
Ιδού μια θεωρία. Σύμφωνα με τους επικριτές, συμφέρει τις εταιρείες Τεχνητής Νοημοσύνης να σας κρατούν προσηλωμένους στην αποκάλυψη, επειδή αυτό αποσπά την προσοχή από την πολύ πραγματική ζημιά που ήδη προκαλούν στον κόσμο. Οι ηγέτες της τεχνολογίας λένε ότι απλώς μας προειδοποιούν για ένα αναπόφευκτο μέλλον και ότι η ασφάλεια αποτελεί ύψιστη προτεραιότητα, είτε τώρα είτε αργότερα.
Άλλοι, όμως, υποστηρίζουν ότι αυτό που βλέπουμε στην πραγματικότητα είναι κινδυνολογία, η οποία υπερβάλλει ως προς τις δυνατότητες της τεχνολογίας και συμβάλλει στην αύξηση των τιμών των μετοχών. Ενθαρρύνει επίσης ένα αφήγημα σύμφωνα με το οποίο οι ρυθμιστικές αρχές πρέπει να κάνουν στην άκρη, επειδή αυτές οι εταιρείες Τεχνητής Νοημοσύνης είναι οι μόνες που μπορούν να σταματήσουν τους κακούς και να αναπτύξουν την τεχνολογία υπεύθυνα.
«Αν παρουσιάζεις αυτές τις τεχνολογίες ως κάτι σχεδόν υπερφυσικά επικίνδυνο, μας κάνεις να νιώθουμε ανίσχυροι, σαν να είμαστε κατώτεροι των περιστάσεων», λέει η Shannon Vallor, καθηγήτρια ηθικής των δεδομένων και της Τεχνητής Νοημοσύνης στο Πανεπιστήμιο του Εδιμβούργου, στο Ηνωμένο Βασίλειο.
«Σαν οι μόνοι άνθρωποι στους οποίους θα μπορούσαμε ενδεχομένως να στραφούμε να είναι οι ίδιες οι εταιρείες».
Κάποιος να με σταματήσει
Εκπρόσωπος της Anthropic μου είπε ότι η εταιρεία έχει μιλήσει ξεκάθαρα για αυτά τα ζητήματα. Μοιράστηκαν αναρτήσεις από blog άλλων οργανισμών που στηρίζουν τις κυβερνοδυνατότητες του Mythos, αλλά δεν είπαν τίποτε που να απαντά στα σημεία αυτού του άρθρου, πέρα από ένα σχόλιο που θα συμπεριλάβω παρακάτω.
Δεν είναι η πρώτη φορά που ο επικεφαλής της Anthropic, Dario Amodei, εργάζεται πάνω σε ένα εργαλείο που η εταιρεία στην οποία εργαζόταν χαρακτήρισε υπερβολικά επικίνδυνο για το κοινό. Το 2019, όταν ο Amodei ήταν στέλεχος της OpenAI, η εταιρεία ανακοίνωσε το GPT-2. Εκείνος και άλλα στελέχη της εταιρείας δήλωσαν ότι απλώς δεν μπορούσαν να κυκλοφορήσουν το GPT-2, λόγω «ανησυχιών για κακόβουλες εφαρμογές της τεχνολογίας».
Ήταν ένα εργαλείο πολύ λιγότερο εξελιγμένο από το ChatGPT. Και λίγους μήνες αργότερα, το κυκλοφόρησαν ούτως ή άλλως. Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, δημοσίευσε ανάρτηση στην οποία λέει ότι η εταιρεία αποδέχεται την αβεβαιότητα, αναγνωρίζοντας ότι οι φόβοι για το GPT-2 ήταν «λανθασμένοι».
Ο Άλτμαν επέκρινε το «μάρκετινγκ που βασίζεται στον φόβο» της Anthropic σε πρόσφατη συνέντευξή του σε podcast. Όμως το δικό του εγχειρίδιο τύπου «δημιούργησα ένα τέρας» πηγαίνει χρόνια πίσω.
«Η Τεχνητή Νοημοσύνη πιθανότατα, κατά πάσα πιθανότητα, θα οδηγήσει στο τέλος του κόσμου, αλλά στο μεταξύ θα υπάρξουν σπουδαίες εταιρείες», είπε ο Άλτμαν το 2015. Χρόνια αργότερα, ο Άλτμαν ισχυρίστηκε ότι χάνει τον ύπνο του αναρωτώμενος αν «έκανε κάτι πραγματικά κακό λανσάροντας το ChatGPT». Μακάρι να τον είχε προειδοποιήσει κάποιος.
Εκατοντάδες ηγέτες της τεχνολογίας, μεταξύ των οποίων ο Άλτμαν, ο Αμοντέι, ο Μπιλ Γκέιτς και ο Ντέμις Χασάμπης, διευθύνων σύμβουλος της Google DeepMind, συνυπέγραψαν το 2023 μια σύντομη δήλωση που έλεγε: «Ο μετριασμός του κινδύνου εξαφάνισης από την Τεχνητή Νοημοσύνη πρέπει να αποτελεί παγκόσμια προτεραιότητα, μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος».
Την ίδια χρονιά, μεγιστάνες, μεταξύ των οποίων και ο Έλον Μασκ, υπέγραψαν επιστολή ζητώντας εξάμηνη παύση στην ανάπτυξη προηγμένης Τεχνητής Νοημοσύνης. Ο Μασκ ανακοίνωσε τη νέα του εταιρεία Τεχνητής Νοημοσύνης, την xAI, λιγότερο από έξι μήνες αργότερα.
«Είναι απλώς μέρος αυτού του μοτίβου ατεκμηρίωτων ισχυρισμών περί ισχύος», λέει η Emily M. Bender, καθηγήτρια υπολογιστικής γλωσσολογίας και επεξεργασίας φυσικής γλώσσας στο Πανεπιστήμιο της Ουάσιγκτον και συν-συγγραφέας του βιβλίου The AI Con. Αυτό δεν περιορίζεται στην OpenAI και την Anthropic, λέει· είναι η καθιερωμένη στάση ολόκληρης της βιομηχανίας Τεχνητής Νοημοσύνης.
«Λένε “κοιτάξτε εδώ”, αγνοήστε την περιβαλλοντική καταστροφή, την εκμετάλλευση της εργασίας και όλα αυτά τα συστήματα που καταστρέφουμε στην κοινωνία. Πρέπει απλώς να ανησυχούμε μήπως αυτό το πράγμα μετατραπεί στο κακό πράγμα που θα καταστρέψει την ανθρωπότητα».
Ρώτησα την OpenAI για όλα αυτά. Ένας εκπρόσωπος μοιράστηκε μια πρόσφατη ανάρτηση του Άλτμαν στο blog, όπου έγραφε ότι η OpenAI θα «αντισταθεί στη δυνατότητα αυτής της τεχνολογίας να συγκεντρώσει την εξουσία στα χέρια των λίγων», προσθέτοντας ότι «οι βασικές αποφάσεις για την Τεχνητή Νοημοσύνη λαμβάνονται μέσω δημοκρατικών διαδικασιών και με εξισωτικές αρχές, και όχι μόνο από τα εργαστήρια Τεχνητής Νοημοσύνης».
Είναι πράγματι τόσο επικίνδυνο το Mythos;
Η Anthropic λέει ότι το νέο της μοντέλο έχει ήδη εντοπίσει χιλιάδες ευπάθειες «υψηλής σοβαρότητας» σε όλο το τεχνολογικό πεδίο, σε επίπεδο που ξεπερνά τους ανθρώπους ειδικούς. Ανακοίνωσε επίσης μια νέα συνεργασία με περισσότερες από 40 εταιρείες και οργανισμούς, σε μια «επείγουσα προσπάθεια» να διορθωθούν τα κενά ασφαλείας πριν προλάβουν να τα εκμεταλλευθούν οι χάκερ. Εκπρόσωπος της εταιρείας μού είπε ότι η Anthropic κινήθηκε σκόπιμα προς συνεργασίες με οργανισμούς, ώστε να διορθωθούν τα θεμελιώδη υπολογιστικά συστήματα που αντιπροσωπεύουν τη «μερίδα του λέοντος» του προβλήματος.
Ωστόσο, υπάρχουν σοβαρές αμφιβολίες για αυτούς τους ισχυρισμούς, και η Heidy Khlaaf, επικεφαλής επιστήμονας Τεχνητής Νοημοσύνης στο AI Now Institute, δεν εντυπωσιάστηκε. Έχει αφιερώσει την καριέρα της στην ανάπτυξη και τον έλεγχο ακριβώς αυτού του είδους εργαλείων ανάλυσης κώδικα, τα οποία η Anthropic υποστηρίζει ότι έχει ξεπεράσει. Έχει επίσης εργαστεί σε ζητήματα ψηφιακής ασφάλειας σε πυρηνικές εγκαταστάσεις.
Η Khlaaf λέει ότι το μεγαλύτερο προειδοποιητικό σημάδι ήταν η απουσία στοιχείων για τα ποσοστά ψευδώς θετικών ευρημάτων —ένα καθιερωμένο μέτρο στον κλάδο που δείχνει πόσο συχνά ένα εργαλείο ασφαλείας επισημαίνει κάτι ως πρόβλημα ενώ στην πραγματικότητα δεν είναι. «Δεν πρόκειται για κάποιο άγνωστο μέτρο», λέει η Khlaaf. «Είναι ίσως ο σημαντικότερος δείκτης του πόσο χρήσιμο είναι το εργαλείο σου». Η Anthropic δεν το ανέφερε και απέφυγε να απαντήσει όταν ζήτησα σχόλιο. Ούτε συνέκρινε το Mythos με υπάρχοντα εργαλεία στα οποία βασίζονται εδώ και δεκαετίες οι μηχανικοί ασφαλείας.
Υπήρξαν επίσης ισχυρισμοί ότι η Anthropic ίσως δεν προχώρησε σε ευρεία διάθεση του Mythos επειδή δεν μπορούσε να αντέξει το κόστος της απαραίτητης υπολογιστικής ισχύος. Η Anthropic δεν απάντησε ούτε όταν τη ρώτησα γι’ αυτό.
Τίποτε από αυτά δεν σημαίνει ότι η απειλή είναι φανταστική. «Το Mythos μπορεί πράγματι να είναι ικανό», λέει η Khlaaf. Τα εργαλεία Τεχνητής Νοημοσύνης είναι όντως πολύ κατάλληλα για τη σάρωση τεράστιων βάσεων κώδικα, και ο αυτόματος εντοπισμός ευπαθειών ασφαλείας είναι ένας πραγματικός και επείγων κίνδυνος. Ωστόσο, η Khlaaf παραμένει επιφυλακτική απέναντι στους ισχυρισμούς της Anthropic, εφόσον δεν μπορούν να τεκμηριωθούν. «Νομίζω ότι υπάρχουν πολλά ρήγματα σε αυτό το αφήγημα ότι το Mythos είναι παντοδύναμο και δεν μπορούμε να το κυκλοφορήσουμε».
Γιατί τόση σοβαρότητα;
Η αποτροπή του τέλους του κόσμου είναι ο λόγος για τον οποίο η OpenAI και η Anthropic λένε ότι υπάρχουν εξαρχής. Η OpenAI ιδρύθηκε ως μη κερδοσκοπικός οργανισμός, υποσχόμενη να αναπτύξει Τεχνητή Νοημοσύνη με ασφαλή τρόπο, πριν προλάβουν να το κάνουν πρώτοι υποτίθεται λιγότερο υπεύθυνοι τεχνολογικοί γίγαντες όπως η Google και η Meta. Αργότερα, μια αποσπασμένη ομάδα έφυγε από την OpenAI για να ιδρύσει την Anthropic, επειδή, όπως είπαν, ο παλιός τους εργοδότης δεν ήταν αρκετά αφοσιωμένος στην ασφάλεια. Τώρα, και οι δύο οργανισμοί εργάζονται για να γίνουν εισηγμένες εταιρείες και να πουλήσουν μετοχές στο χρηματιστήριο.
«Αν θέλεις να καταλάβεις πώς θα συμπεριφερθεί ένας οργανισμός, ιδίως μια εταιρεία, κοίτα ποια είναι τα κίνητρά του», λέει η Vallor.
Η Google εγκατέλειψε τις κόκκινες γραμμές της γύρω από την ανάπτυξη όπλων Τεχνητής Νοημοσύνης. Η OpenAI έδωσε νομική μάχη για να απαλλαγεί από το μη κερδοσκοπικό της καθεστώς. Η Anthropic εγκατέλειψε την εμβληματική της πολιτική να μην εκπαιδεύει ποτέ ένα μοντέλο Τεχνητής Νοημοσύνης αν η εταιρεία δεν μπορούσε να εγγυηθεί επαρκή μέτρα ασφαλείας.
«Δεν θα υπολόγιζα ότι οποιαδήποτε από αυτές τις εταιρείες θα εγκατέλειπε την ευκαιρία να κυριαρχήσει στην αγορά προκειμένου να παραμείνει ο καλός της υπόθεσης», λέει η Vallor.
Στο μεταξύ, υπάρχει πίεση για χρήση της Τεχνητής Νοημοσύνης στην υγειονομική περίθαλψη, παρά τις σοβαρές ανησυχίες για λανθασμένες διαγνώσεις. Κέντρα δεδομένων που λειτουργούν με φυσικό αέριο θα μπορούσαν να εκπέμπουν περισσότερα αέρια του θερμοκηπίου από ολόκληρες χώρες. Η Τεχνητή Νοημοσύνη φέρεται να οδηγεί πλήθη ευάλωτων ανθρώπων στα όρια της ψύχωσης, ακόμη και της αυτοκτονίας. Ένα αυξανόμενο σώμα ερευνών υποδηλώνει πιθανή σύνδεση ανάμεσα στην Τεχνητή Νοημοσύνη και τη γνωστική έκπτωση. Τα deepfakes έχουν περάσει το σημείο χωρίς επιστροφή — δεν κατάφερα να πείσω ούτε τη θεία μου ότι δεν είμαι ρομπότ.
Οι εταιρείες Τεχνητής Νοημοσύνης λένε ότι παίρνουν αυτά τα ζητήματα στα σοβαρά. Η OpenAI μού έστειλε συνδέσμους για τη θέση της σχετικά με την ψυχική υγεία, την ακρίβεια της Τεχνητής Νοημοσύνης, την απάτη και τις κομπίνες, ενώ ο Άλτμαν λέει ότι η εταιρεία έχει δεσμευθεί να αντιμετωπίζει τα προβλήματα σε κάθε στάδιο ανάπτυξης της Τεχνητής Νοημοσύνης.
Όμως υπάρχει λόγος που αυτές οι εταιρείες χτυπούν συναγερμό μόνο για την αποκάλυψη, λέει η Vallor. Αν η Τεχνητή Νοημοσύνη μπορεί να καταστρέψει την κοινωνία, τότε όλα τα άλλα προβλήματα φαίνονται πολύ λιγότερο σημαντικά.
«Η στρατηγική έχει πετύχει», λέει. «Το να μιλούν για τα προϊόντα τους σαν να μπορούσαν να φέρουν το τέλος του κόσμου δεν έβλαψε αυτές τις εταιρείες. Δεν περιόρισε την ισχύ τους. Αν μη τι άλλο, κάνει τους ανθρώπους να αισθάνονται ότι οι μόνοι στους οποίους θα μπορούσαν ενδεχομένως να στραφούν για προστασία είναι οι ίδιες οι εταιρείες».
Δαίμονες ή μεσσίες
Σχεδόν με την ίδια ανάσα, ορισμένοι από εκείνους που προειδοποιούν για την καταστροφή υπόσχονται και τη σωτηρία. Σε ένα δοκίμιο του 2024, ο Άλτμαν προβλέπει ότι «εκπληκτικοί θρίαμβοι —η επίλυση της κλιματικής κρίσης, η δημιουργία διαστημικής αποικίας και η ανακάλυψη ολόκληρης της φυσικής— θα γίνουν τελικά κάτι συνηθισμένο». Ο Αμοντέι υποσχέθηκε «μια χώρα ιδιοφυϊών μέσα σε ένα κέντρο δεδομένων».
Η ουτοπία και η αποκάλυψη είναι απλώς οι δύο όψεις του ίδιου νομίσματος, σύμφωνα με τη Vallor. «Και στις δύο περιπτώσεις, η κλίμακα είναι υπερβολικά μεγάλη και μυθική για να φαίνεται ότι πράγματα όπως η ρύθμιση, η διακυβέρνηση ή το δίκαιο των δικαστηρίων μπορούν να την αγγίξουν», λέει.
«Οδηγεί τους ανθρώπους να πιστεύουν ότι το μόνο που μπορούν να κάνουν είναι να καθίσουν πίσω και να περιμένουν να δουν αν αυτές οι τεχνολογίες θα αποδειχθούν δαίμονες που τελειώνουν τον πολιτισμό ή μεσσίες που χαρίζουν την ουτοπία».
Ακόμη και το όνομα «Mythos» μοιάζει σχεδιασμένο για να εμπνέει θρησκευτικό δέος.
