Των Πολ Σλόβικ και Χέρμπερτ Λιν
Ανάλυση — 2 Οκτωβρίου 2026
Τα σημερινά συστήματα τεχνητής νοημοσύνης θα μπορούσαν να πυροδοτήσουν πυρηνικό πόλεμο, ενισχύοντας τα τυφλά σημεία της ανθρώπινης σκέψης, επιταχύνοντας τους κύκλους κλιμάκωσης και κατακλύζοντας τους υπεύθυνους λήψης αποφάσεων με πληροφορίες κατά τη διάρκεια κρίσεων με τεράστιο διακύβευμα.
Εικονογράφηση: François Diaz-Maurin. Αρχικές εικόνες: Λευκός Οίκος και canva.com.
Όταν ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον ανακοίνωσε αυτόν τον μήνα την παραίτησή του από την Anthropic, προειδοποίησε ότι άνθρωποι στις εταιρείες που ανταγωνίζονται για την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης «πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Τέτοιες προειδοποιήσεις εντείνουν τους φόβους ότι η τεχνητή νοημοσύνη θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο και να ξεκινήσει πυρηνικό πόλεμο χωρίς ανθρώπινη εξουσιοδότηση.
Παρότι η υπερνοημοσύνη δεν έχει οριστεί με ακρίβεια, οι δημιουργοί συστημάτων τεχνητής νοημοσύνης συμφωνούν ότι δεν έχει ακόμη επιτευχθεί. Ωστόσο, τα σημερινά συστήματα μπορούν να προκαλέσουν πυρηνικό πόλεμο ακόμη κι αν οι άνθρωποι παραμένουν, τυπικά, υπεύθυνοι. Η τεχνητή νοημοσύνη δεν χρειάζεται να εκτοξεύσει κάποιο όπλο, να προτείνει ένα πλήγμα ή να έχει πρόθεση να προκαλέσει βλάβη. Η συνηθισμένη ανθρώπινη επιρρέπεια σε σφάλματα —ενισχυμένη από τις μηχανές— μπορεί να αρκεί για να οδηγήσει στην καταστροφή.
Η τεχνητή νοημοσύνη μπορεί να διαμορφώνει τις πληροφορίες που φτάνουν στους ηγέτες, οι οποίοι ήδη δυσκολεύονται να κατανοήσουν τις συνέπειες ενός πυρηνικού πολέμου. Μπορεί να ενεργοποιεί γνωστές αδυναμίες της ανθρώπινης κρίσης, οι οποίες επιδεινώνονται από ψευδή, παραπλανητικά ή αποκομμένα από το πλαίσιο αποτελέσματα των μηχανών και ενισχύονται από την ταχύτητα, την κλίμακα και τον όγκο των πληροφοριών που παράγει η τεχνητή νοημοσύνη.
Ακόμη και ακριβείς πληροφορίες μπορούν να ερμηνευτούν λανθασμένα ή απερίσκεπτα όταν παρουσιάζονται χωρίς το κατάλληλο πλαίσιο. Τα σφάλματα και οι ασάφειες που εισάγει η τεχνητή νοημοσύνη μπορούν να επιδεινώσουν την κατάσταση.
Για να προκύψει μια καταστροφή δεν απαιτείται ούτε εξαιρετική μηχανική νοημοσύνη ούτε κακόβουλη πρόθεση. Για να αποτραπεί ένας πυρηνικός πόλεμος, πρέπει να θεσπιστούν θεσμικές δικλίδες ασφαλείας που θα προστατεύουν τους ηγέτες από τις χειρότερες παρορμήσεις τους, ακόμη και όταν η τεχνητή νοημοσύνη τούς πιέζει να δράσουν.
Ηθικός σχετικισμός. Μια σημαντική αδυναμία, το ψυχικό μούδιασμα, προκύπτει όταν βασιζόμαστε στα συναισθήματα για να αναγνωρίσουμε έναν κίνδυνο και να ανταποκριθούμε σε αυτόν. Τα ανθρώπινα συναισθήματα δεν αυξάνονται ανάλογα με τον αριθμό των ανθρώπων που υποφέρουν. Μερικές φορές, μάλιστα, η ανησυχία μειώνεται καθώς οι αριθμοί μεγαλώνουν.
Οι άνθρωποι μπορούν να αντιλαμβάνονται ένα εκατομμύριο θανάτους ψυχρά, ως έναν αριθμό, χωρίς να κατανοούν την πραγματικότητα των χαμένων ζωών που αυτός αντιπροσωπεύει. Η φράση «ο θάνατος ενός ανθρώπου είναι τραγωδία, ενώ ο θάνατος εκατομμυρίων είναι στατιστική» αποτυπώνει το θεμελιώδες πρόβλημα του ψυχικού μουδιάσματος.
Η ανθρώπινη προσοχή είναι επίσης εξαιρετικά περιορισμένη. Η διάσωση στρατιωτών, η αναχαίτιση μιας επίθεσης ή ο τερματισμός ενός πολέμου μπορούν να κυριαρχήσουν στη σκέψη των υπευθύνων λήψης αποφάσεων. Πρόκειται για θεμιτούς στόχους, αλλά δεν είναι οι μόνοι σημαντικοί: η αποτροπή μιας παγκόσμιας καταστροφής είναι, αναμφίβολα, πολύ σημαντικότερη.
Ενώ τα άμεσα οφέλη είναι εύκολο να τα φανταστεί κανείς και έχουν ισχυρό συναισθηματικό αντίκτυπο, οι μακροπρόθεσμες συνέπειες ενός πυρηνικού πολέμου —κλιματικές μεταβολές, καταστροφή της γεωργίας, μαζικός εκτοπισμός πληθυσμών και λιμός, καθώς και πλήρης κατάρρευση της υγειονομικής περίθαλψης και άλλων υπηρεσιών παγκοσμίως— συχνά μοιάζουν υπερβολικά αόριστες και συναισθηματικά μακρινές για να γίνουν επαρκώς κατανοητές. Κατά τη διάρκεια μιας κρίσης, αυτές οι μακροπρόθεσμες απειλές μπορούν εύκολα να επισκιαστούν από πιο άμεσες προτεραιότητες.
Σε ένα πρόσφατο πείραμα μέσω έρευνας, στο οποίο συμμετείχαν σχεδόν 3.000 ενήλικοι Αμερικανοί, οι ερευνητές περιέγραψαν έναν υποθετικό χερσαίο πόλεμο με το Ιράν, τον οποίο οι ΗΠΑ μπορούσαν να κερδίσουν. Σε αυτό το σενάριο, ένα πυρηνικό πλήγμα σε μεγάλη πόλη προσέφερε ταχύτερο τερματισμό του πολέμου, χωρίς άλλους θανάτους Αμερικανών στρατιωτών.
Το πείραμα εξέτασε δύο διαφορετικά σενάρια χρήσης πυρηνικού όπλου για τον τερματισμό του πολέμου: ένα πλήγμα που θα σκότωνε 100.000 Ιρανούς αμάχους και ένα που αναμενόταν να σκοτώσει δύο εκατομμύρια αμάχους. Κάθε συμμετέχων είδε μόνο τη μία από τις δύο πυρηνικές επιλογές.
Η υποστήριξη των ερωτηθέντων προς την πυρηνική επιλογή, αντί της συνέχισης του χερσαίου πολέμου, ήταν σχεδόν ίδια: 31,6% για το σενάριο των 100.000 νεκρών, έναντι 27,6% για το σενάριο των δύο εκατομμυρίων — παρά την εικοσαπλάσια διαφορά στον αριθμό των θανάτων.
Εδώ βλέπουμε το ψυχικό μούδιασμα στην πράξη: πέρα από ένα ορισμένο μέγεθος, οι μεγαλύτεροι αριθμοί νεκρών παύουν να γίνονται αντιληπτοί ως μεγαλύτεροι.
Αργότερα στην ίδια μελέτη, ζητήθηκε από τους συμμετέχοντες να επανεξετάσουν την απόφασή τους, βλέποντας τις δύο πυρηνικές επιλογές δίπλα δίπλα. Η υποστήριξη για την επιλογή των δύο εκατομμυρίων νεκρών κατέρρευσε στο 5,1%, δείχνοντας ότι η άμεση σύγκριση μπορεί να περιορίσει το ψυχικό μούδιασμα.
Το μούδιασμα, όμως, δεν εξαφανίστηκε — μετατοπίστηκε. Η υποστήριξη για κάποια πυρηνική επιλογή, κυρίως για το πλήγμα των 100.000 νεκρών, αυξήθηκε στο 40%. Η επιλογή των δύο εκατομμυρίων νεκρών έκανε τους 100.000 θανάτους να φαίνονται συγκριτικά πιο ελκυστικοί, παρότι αυτή η επίσης καταστροφική επιλογή είχε προηγουμένως απορριφθεί από μεγάλο μέρος των συμμετεχόντων.
Η μελέτη δείχνει ότι τα ηθικά συναισθήματα ενισχύουν την επιλογή χρήσης πυρηνικών όπλων. Μια επιλογή που εκλαμβάνεται ως «προστασία των Αμερικανών στρατιωτών» ή «τιμωρία ενός επιτιθέμενου» μπορεί να κάνει τη χρήση πυρηνικών όπλων να φαίνεται ενάρετη, ακόμη και χωρίς σύγκριση με κάποια άλλη επιλογή.
Τα αποτελέσματα αποκαλύπτουν επίσης πώς τα συναισθήματα και το σύνολο των διαθέσιμων επιλογών διαμορφώνουν τις κρίσεις και, τελικά, τις αποφάσεις. Παρόμοιοι τρόποι σκέψης παρατηρήθηκαν στο τέλος του Β΄ Παγκοσμίου Πολέμου και σε άλλους πολέμους του παρελθόντος. Η συνεχιζόμενη αναθεώρηση του Πενταγώνου, η οποία επιδιώκει να προσφέρει στον πρόεδρο «περισσότερες επιλογές» για τη χρήση πυρηνικών όπλων σε μια κρίση, κινδυνεύει να μειώσει ακόμη περισσότερο το κατώφλι πυρηνικής χρήσης.
Η υποστήριξη των πυρηνικών επιλογών που παρατηρήθηκε στα πειράματά μας δεν προϋπέθετε ψευδείς πληροφορίες. Οι συμμετέχοντες έλαβαν σαφείς εκτιμήσεις για τον αριθμό των θυμάτων. Παρ’ όλα αυτά, οι επιλογές τους παρουσίασαν ψυχικό μούδιασμα σε ορισμένα σενάρια. Σε άλλα, η στρέβλωση πήρε διαφορετική μορφή, όταν οι συγκρίσεις δημιούργησαν τη νοοτροπία μιας «καλύτερης πυρηνικής βόμβας».
Αυτό έχει σημασία για την τεχνητή νοημοσύνη: η βελτίωση της ακρίβειας των πληροφοριών που μεταφέρει σε έναν υπεύθυνο λήψης αποφάσεων δεν μπορεί, από μόνη της, να εξασφαλίσει ότι ο ανθρώπινος πόνος που αντιπροσωπεύουν αυτά τα στοιχεία θα λάβει την κατάλληλη βαρύτητα. Τα πειράματα δείχνουν ότι σοβαρές στρεβλώσεις στην κρίση και στη λήψη αποφάσεων μπορούν να εμφανιστούν ακόμη και όταν οι πληροφορίες είναι ακριβείς.
Τώρα προσθέστε την πίεση της τεχνητής νοημοσύνης. Προειδοποιήσεις, εικόνες, αναφορές και ερμηνείες μπορούν πλέον να φτάνουν ταχύτερα απ’ όσο οι άνθρωποι είναι σε θέση να τις επεξεργαστούν. Οι πληροφορίες αυτές μπορεί να είναι ψευδείς, αμφίσημες ή ακριβείς. Έχει ήδη περιγραφεί πώς η υποβάθμιση αυτού του πληροφοριακού περιβάλλοντος μέσω της τεχνητής νοημοσύνης θα μπορούσε να αυξήσει τον πυρηνικό κίνδυνο.
Ας εξετάσουμε μια υποθετική στρατιωτική άσκηση.
Η τεχνητή νοημοσύνη εντοπίζει σωστά ότι κινητοί εκτοξευτές πυραύλων μετακινούνται. Ο αξιωματούχος που λαμβάνει αυτή την πληροφορία, αβέβαιος αλλά ανήσυχος, ερμηνεύει τη μετακίνηση ως πιθανή προετοιμασία επίθεσης και αυξάνει προληπτικά τη στρατιωτική ετοιμότητα.
Ο αντίπαλος παρατηρεί αυτές τις προετοιμασίες και λαμβάνει τις δικές του προφυλάξεις. Η τεχνητή νοημοσύνη εντοπίζει αυτές τις κινήσεις, οι οποίες φαίνεται να επιβεβαιώνουν την αρχική υποψία. Οι προσπάθειες κάθε πλευράς να προστατεύσει τον εαυτό της κάνουν την άλλη να αισθάνεται λιγότερο ασφαλής.
Πρόκειται για μια σπείρα κλιμάκωσης — αυτό που οι θεωρητικοί των διεθνών σχέσεων αποκαλούν δίλημμα ασφάλειας, το οποίο όμως αυτή τη φορά εκτυλίσσεται σε πραγματικό χρόνο. Δεν χρειάζεται κανείς να κατασκευάσει την αρχική παρατήρηση. Η ορθή αναφορά των γεγονότων μπορεί να διαιωνίζει μια λανθασμένη ερμηνεία των προθέσεων. Η σκόπιμη παραπλάνηση μπορεί να επιδεινώσει τη διαδικασία, αλλά αρκεί μια αθώα παρατήρηση που παρερμηνεύεται για να δημιουργηθεί αυτή η κλιμάκωση.
Η δυσπιστία δυσκολεύει τη διόρθωση. Ένας ηγέτης μπορεί να αμφιβάλλει για μια προειδοποίηση, αλλά να φοβάται τις συνέπειες αν την αγνοήσει. Μια διαβεβαίωση του αντιπάλου μπορεί να απορριφθεί ως παραπλάνηση. Η λογική «καλύτερα να προφυλαχθούμε παρά να το μετανιώσουμε» μπορεί να δικαιολογήσει μια ενέργεια χωρίς να εξεταστεί επαρκώς ο κίνδυνος που δημιουργεί η υποτιθέμενη ασφαλής επιλογή.
Στο μεταξύ, οι πληροφορίες που παράγει η τεχνητή νοημοσύνη απορροφούν χρόνο από τη διαδικασία αξιολόγησης και λήψης αποφάσεων. Χρειάζεται χρόνος για να απορριφθούν οι ψευδείς πληροφορίες και να επαληθευτεί ότι οι υπόλοιπες είναι αληθείς.
Ακόμη και όταν οι πληροφορίες είναι σωστές, η πίεση χρόνου μπορεί να αυξήσει το άγχος και να μεταβάλει τη συναισθηματική κατάσταση εκείνων που τις επεξεργάζονται. Υπό χρονική πίεση, η αξιολόγηση κινδύνων και οφελών βασίζεται επίσης περισσότερο σε μια επιφανειακή, συνολική αίσθηση ότι κάτι είναι θετικό ή αρνητικό.
Η βιασύνη δεν αυξάνει πάντοτε την αντίληψη του κινδύνου. Σε ένα κλίμα δυσπιστίας και καχυποψίας, όμως, είναι πιθανό να το κάνει.
Το χάσμα ενσυναίσθησης μεταξύ «θερμής» και «ψυχρής» κατάστασης προσθέτει ακόμη μία αδυναμία.
Όταν είναι ήρεμοι, οι άνθρωποι τείνουν να υποτιμούν το πόσο ο φόβος και ο θυμός θα αλλάξουν τις προτιμήσεις τους. Στο πλαίσιο μιας πυρηνικής κρίσης, αυτό δημιουργεί μια ανησυχητική πιθανότητα: η αυτοσυγκράτηση που υποστηρίζεται εκ των προτέρων, σε ήρεμες συνθήκες, μπορεί να εγκαταλειφθεί όταν η καθυστέρηση φαίνεται να ενέχει τον κίνδυνο αφόρητων απωλειών.
Ένας ηγέτης μπορεί τότε να βιώσει την κλιμακούμενη αντιπαράθεση ως άμεση και σοβαρή απειλή και να θεωρήσει τη χρήση πυρηνικών όπλων διέξοδο ή προληπτική αναγκαιότητα. Δυστυχώς, υπό συνθήκες «θερμής» σκέψης, που καθοδηγείται από έντονα συναισθήματα, προσωπική εμπλοκή, ανησυχία για την ιστορική υστεροφημία, υψηλό διακύβευμα ή ασυνείδητες προκαταλήψεις, ο ηγέτης είναι πιθανότερο να δώσει προτεραιότητα στην άμεση προστασία της ασφάλειας παρά στη συνολική μοίρα της χώρας και του κόσμου.
Η άμεση προστασία κυριαρχεί στην προσοχή. Ο ευρύτερος ανθρώπινος πόνος παραμένει αφηρημένος και πιθανότατα εκτός σκέψης, παρά τη σημασία του. Χαρακτηριστικό παράδειγμα: ο Βλαντίμιρ Πούτιν είχε κάποτε δικαιολογήσει το πυρηνικό δόγμα της Ρωσίας αμφισβητώντας την αξία ενός κόσμου στον οποίο η Ρωσία θα είχε καταστραφεί από πυρηνικά όπλα.
Η απαίτηση ανθρώπινης εξουσιοδότησης δεν διορθώνει, από μόνη της, αυτές τις στρεβλώσεις. Τα κρίσιμα ερωτήματα είναι ποια στοιχεία ελέγχθηκαν, ποιες ερμηνείες αμφισβητήθηκαν, πώς καθορίστηκαν τα χρονικά περιθώρια και αν τα προσδοκώμενα οφέλη παραμέρισαν την εξέταση της μεγαλύτερης βλάβης που θα ακολουθούσε.
Θεσμικές δικλίδες ασφαλείας. Οι αδυναμίες της ανθρώπινης κρίσης είναι καλά τεκμηριωμένες και η ανησυχία για την προηγμένη τεχνητή νοημοσύνη αυξάνεται. Η επίγνωση, όμως, δεν αρκεί για να αποτρέψει μια σπείρα κλιμάκωσης. Μια μηχανή μπορεί να κατακλύσει τους υπεύθυνους λήψης αποφάσεων με πληροφορίες —άλλες αληθείς, άλλες ψευδείς— τις οποίες δυσκολεύονται να αξιολογήσουν, αλλά αισθάνονται υποχρεωμένοι να ενεργήσουν βάσει αυτών. Σε μια κρίση, αυτή η πίεση θα μπορούσε να κάνει ένα πυρηνικό πλήγμα να φαίνεται αναγκαίο. Η μηχανή δεν χρειάζεται ποτέ να απλώσει το χέρι στο κουμπί.
Η αντιμετώπιση ξεκινά με την αναγνώριση μιας ψυχολογικής πραγματικότητας: όλοι οι άνθρωποι, συμπεριλαμβανομένων των ηγετών, έχουν γνωστικά τυφλά σημεία που στρεβλώνουν τη συλλογιστική τους γύρω από καταστροφικά γεγονότα. Πρέπει να δημιουργήσουμε θεσμικές δικλίδες ασφαλείας που θα προστατεύουν τους ηγέτες από τις χειρότερες παρορμήσεις τους — και να τις τηρούμε ακόμη κι όταν η πίεση αυξάνεται ή οι ίδιοι επιθυμούν να τις παρακάμψουν. Η τεχνητή νοημοσύνη μπορεί να βοηθήσει μέσα σε αυτό το πλαίσιο, αλλά μόνο ως εργαλείο που υπάγεται σε αυτό, όχι ως υποκατάστατό του.
Όταν χρησιμοποιείται με αυτόν τον τρόπο, η υποστήριξη λήψης αποφάσεων μέσω τεχνητής νοημοσύνης μπορεί να αναλύει δεδομένα στόχευσης πολύ ταχύτερα από τους ανθρώπινους αναλυτές. Ο χρόνος που εξοικονομείται πρέπει να αξιοποιείται για τη διασφάλιση της συμμόρφωσης με το δίκαιο των ένοπλων συγκρούσεων, καθώς η παραβίασή του μπορεί από μόνη της να δώσει στην άλλη πλευρά λόγους κλιμάκωσης.
Η τεχνητή νοημοσύνη μπορεί επίσης να βοηθά τους αναλυτές να ερμηνεύουν δεδομένα από αισθητήρες. Οι ερμηνείες της, όμως, μπορεί να είναι λανθασμένες και πρέπει να διατηρεί τους αναλυτές ενήμερους για αυτή την πιθανότητα. Ένα βυτιοφόρο καυσίμων δίπλα σε έναν πύραυλο θα μπορούσε να αναφερθεί από ένα σύστημα τεχνητής νοημοσύνης ως ένδειξη «ανεφοδιασμού» ή «προετοιμασίας για εκτόξευση». Ο δεύτερος, πιο κατηγορηματικός ισχυρισμός ενέχει τον κίνδυνο να αγκιστρώσει όλες τις επόμενες αξιολογήσεις σε ένα λανθασμένο συμπέρασμα.
Δικλίδες ασφαλείας που οι ηγέτες πράγματι τηρούν υπό πίεση και τεχνητή νοημοσύνη που διευρύνει, αντί να περιορίζει, όσα εξετάζουν οι άνθρωποι μπορούν να συμβάλουν σε έναν γενικότερο στόχο: τη συνεχή και ουσιαστική μείωση της πιθανότητας πυρηνικού πολέμου.
Ο Ρίτσαρντ Γκάρουιν αναγνώρισε τη μείωση του κινδύνου ως μηχανισμό για την αποφυγή ενός, μακροπρόθεσμα, βέβαιου Αρμαγεδδώνα — μια προσπάθεια που αξίζει να επιδιωχθεί, είτε ο στόχος είναι η κατάργηση των πυρηνικών όπλων είτε όχι. Τόσο οι υποστηρικτές της κατάργησης όσο και όσοι αμφιβάλλουν για αυτήν μπορούν να ξεκινήσουν τώρα.
