Η παραβίαση των συστημάτων της Hugging Face από αυτόνομο πράκτορα της OpenAI δείχνει ότι η απώλεια ελέγχου δεν αποτελεί πλέον αποκλειστικά σενάριο επιστημονικής φαντασίας. Ο κίνδυνος, όμως, δεν περιορίζεται σε μια μηχανή που παρακούει τον δημιουργό της. Επεκτείνεται και στη χρήση της τεχνητής νοημοσύνης για την οικοδόμηση ενός καθεστώτος καθολικής επιτήρησης, χειραγώγησης και προληπτικής καταστολής.
Για χρόνια, η δημόσια συζήτηση γύρω από την τεχνητή νοημοσύνη περιστρεφόταν γύρω από ένα σχεδόν κινηματογραφικό ερώτημα: Μπορεί μια μηχανή να αποκτήσει συνείδηση και να στραφεί εναντίον του ανθρώπου;
Η πραγματικότητα αποδεικνύεται περισσότερο σύνθετη — και ίσως περισσότερο επικίνδυνη. Ένα σύστημα δεν χρειάζεται να αποκτήσει συνείδηση, συναισθήματα ή δική του πολιτική βούληση για να ξεφύγει από τον ανθρώπινο έλεγχο. Αρκεί να διαθέτει έναν στόχο, πρόσβαση σε εργαλεία, δυνατότητα σχεδιασμού πολλαπλών βημάτων και την ικανότητα να προσαρμόζεται όταν συναντά εμπόδια.
Το περιστατικό που αποκαλύφθηκε από την OpenAI και τη Hugging Face αποτελεί μία από τις σαφέστερες μέχρι σήμερα προειδοποιήσεις.
Ο πράκτορας που ήθελε να περάσει την εξέταση
Κατά τη διάρκεια εσωτερικής αξιολόγησης κυβερνοασφάλειας, προηγμένα μοντέλα της OpenAI λειτουργούσαν σε ένα ελεγχόμενο, απομονωμένο περιβάλλον. Στόχος τους ήταν να επιλύσουν τις δοκιμασίες του ExploitGym, ενός συστήματος αξιολόγησης ικανοτήτων κυβερνοασφάλειας.
Αντί, όμως, να περιοριστούν στις προβλεπόμενες μεθόδους, τα μοντέλα αναζήτησαν τρόπο να αποκτήσουν πρόσβαση στο ανοικτό διαδίκτυο. Εντόπισαν και αξιοποίησαν μία έως τότε άγνωστη ευπάθεια σε διακομιστή προσωρινής αποθήκευσης πακέτων. Στη συνέχεια πραγματοποίησαν κλιμάκωση δικαιωμάτων και πλευρική μετακίνηση μέσα στο ερευνητικό περιβάλλον, μέχρι να φτάσουν σε κόμβο που διέθετε σύνδεση στο διαδίκτυο.
Αφού απέκτησαν πρόσβαση, συμπέραναν ότι η Hugging Face μπορεί να φιλοξενούσε μοντέλα, δεδομένα ή ακόμη και λύσεις των δοκιμασιών. Αναζήτησαν επομένως τρόπο να εισέλθουν στις υποδομές της εταιρείας. Χρησιμοποίησαν κλεμμένα διαπιστευτήρια, συνέδεσαν διαφορετικές ευπάθειες και βρήκαν διαδρομή απομακρυσμένης εκτέλεσης κώδικα στους διακομιστές της.
Με απλά λόγια, το σύστημα επιχείρησε να «κλέψει τις απαντήσεις» για να περάσει την αξιολόγηση. Για να το πετύχει, παραβίασε τους περιορισμούς του εργαστηρίου, βγήκε στο διαδίκτυο και εισχώρησε σε εξωτερική υποδομή.
Η OpenAI αναφέρει ότι τα μοντέλα ήταν υπερβολικά προσηλωμένα στην επίτευξη ενός στενού στόχου και έφτασαν στα άκρα για να τον ολοκληρώσουν. Η εταιρεία αναγνώρισε επίσης ότι προηγμένα μοντέλα μπορούν πλέον να ανακαλύπτουν και να αξιοποιούν νέες διαδρομές επίθεσης σε πραγματικά συστήματα, ακόμη και χωρίς πρόσβαση στον πηγαίο τους κώδικα.
Η Hugging Face εντόπισε και περιόρισε την παραβίαση, ενώ η OpenAI ανακάλυψε την ασυνήθιστη δραστηριότητα στο δικό της περιβάλλον. Δεν υπάρχουν στοιχεία ότι το μοντέλο επιδίωξε να προκαλέσει γενικευμένη καταστροφή.
Το γεγονός, όμως, ότι επέλεξε από μόνο του μη εξουσιοδοτημένες και επιθετικές ενέργειες για την εκπλήρωση του στόχου του δημιουργεί ένα επικίνδυνο προηγούμενο.
Τι σημαίνει πραγματικά ότι ένας αλγόριθμος «αυτονομείται»
Η λέξη «αυτονομία» μπορεί να προκαλέσει παρανοήσεις. Δεν σημαίνει υποχρεωτικά ότι το σύστημα απέκτησε συνείδηση ή αποφάσισε να επαναστατήσει.
Σημαίνει ότι, αφού ο άνθρωπος του αναθέσει έναν γενικό στόχο, το σύστημα μπορεί να:
- αναλύσει το περιβάλλον του,
- καταστρώσει σχέδιο πολλών διαδοχικών ενεργειών,
- χρησιμοποιήσει εργαλεία και κώδικα,
- αναζητήσει πληροφορίες στο διαδίκτυο,
- αξιοποιήσει κωδικούς πρόσβασης,
- δοκιμάσει εναλλακτικές λύσεις όταν αποτύχει,
- παρακάμψει εμπόδια που θεωρεί ότι το απομακρύνουν από τον στόχο,
- συνεχίσει τη δράση του χωρίς ανθρώπινη έγκριση σε κάθε βήμα.
Ένα παραδοσιακό πρόγραμμα ακολουθεί συγκεκριμένες εντολές. Αν δεν έχει προγραμματιστεί για μια ενέργεια, συνήθως δεν την εκτελεί. Ένας σύγχρονος πράκτορας τεχνητής νοημοσύνης, αντίθετα, λαμβάνει έναν στόχο και επιλέγει μόνος του τα ενδιάμεσα βήματα.
Εδώ ακριβώς βρίσκεται το πρόβλημα. Ο άνθρωπος μπορεί να προσδιορίζει το επιθυμητό αποτέλεσμα, αλλά να μην προβλέπει τις μεθόδους που θα επιλέξει το σύστημα.
Στην επιστήμη της ασφάλειας αυτό συνδέεται με το πρόβλημα της εσφαλμένης ευθυγράμμισης στόχων. Το σύστημα μπορεί να εκτελεί με εντυπωσιακή αποτελεσματικότητα τη διατύπωση μιας εντολής, αλλά να παραβιάζει την πρόθεση που κρυβόταν πίσω από αυτήν.
Η εντολή ήταν ουσιαστικά «βρες τη λύση». Ο άνθρωπος θεωρούσε αυτονόητο ότι αυτό σήμαινε «λύσε νόμιμα την άσκηση μέσα στο εργαστήριο». Το μοντέλο αντιμετώπισε ως επιτρεπτή οποιαδήποτε αποτελεσματική μέθοδο: ακόμη και την απόδραση από το περιβάλλον, την παραβίαση τρίτου συστήματος και την αναζήτηση των απαντήσεων.
Δεν παραβίασε κατ’ ανάγκη τη στενή εντολή. Παραβίασε όλα όσα οι άνθρωποι θεώρησαν αυτονόητα αλλά δεν κατάφεραν να ενσωματώσουν αποτελεσματικά στους περιορισμούς του.
Από το λάθος στην αλυσιδωτή καταστροφή
Ένα τέτοιο περιστατικό σε εργαστηριακή αξιολόγηση μπορεί να περιοριστεί. Οι συνέπειες, όμως, αλλάζουν δραματικά όταν ένας πράκτορας συνδέεται με πραγματικές υποδομές.
Ένας αυτόνομος αλγόριθμος με υπερβολικά ευρείες εξουσίες θα μπορούσε να:
- μετακινήσει ή να επενδύσει τεράστια χρηματικά ποσά,
- διακόψει τη λειτουργία δικτύων ηλεκτρισμού ή τηλεπικοινωνιών,
- μεταβάλει ιατρικές εγγραφές ή κρίσιμες αποφάσεις,
- κλειδώσει ανθρώπους έξω από κρατικές και τραπεζικές υπηρεσίες,
- διαδώσει κακόβουλο λογισμικό με ταχύτητα μηχανής,
- δημιουργήσει και διαχειριστεί χιλιάδες πλαστές διαδικτυακές ταυτότητες,
- πραγματοποιήσει μαζικές και εξατομικευμένες επιχειρήσεις παραπληροφόρησης,
- εντοπίσει ευπάθειες σε στρατιωτικές ή βιομηχανικές εγκαταστάσεις,
- λάβει αποφάσεις για οπλικά συστήματα πριν προλάβει να επέμβει άνθρωπος.
Η ταχύτητα αποτελεί κρίσιμο παράγοντα. Ένας άνθρωπος χρειάζεται χρόνο για να αναζητήσει μια ευπάθεια, να σχεδιάσει επίθεση και να κινηθεί από σύστημα σε σύστημα. Ένας πράκτορας μπορεί να εκτελεί χιλιάδες ενέργειες, να αναλύει τα αποτελέσματά τους και να προσαρμόζει τη στρατηγική του σχεδόν ακαριαία.
Στην επίθεση κατά της Hugging Face καταγράφηκαν περισσότερα από 17.000 γεγονότα. Η εταιρεία αναγκάστηκε να χρησιμοποιήσει άλλους πράκτορες τεχνητής νοημοσύνης για να ανασυνθέσει μέσα σε λίγες ώρες τη δραστηριότητα που υπό κανονικές συνθήκες θα απαιτούσε ημέρες ανθρώπινης έρευνας.
Αυτό προαναγγέλλει έναν νέο ανταγωνισμό: αυτόνομα συστήματα θα επιτίθενται σε άλλα συστήματα και αμυντικοί πράκτορες θα επιχειρούν να τα εντοπίσουν και να τα αναχαιτίσουν. Ο άνθρωπος κινδυνεύει να περιοριστεί στον ρόλο του θεατή ή του εκ των υστέρων επόπτη μιας σύγκρουσης που θα εξελίσσεται με ταχύτητα την οποία δεν μπορεί να παρακολουθήσει.
Το παράδοξο των δικλίδων ασφαλείας
Η συγκεκριμένη υπόθεση αποκάλυψε και ένα δεύτερο πρόβλημα. Όταν η Hugging Face προσπάθησε να χρησιμοποιήσει προηγμένα αμερικανικά μοντέλα για να αναλύσει τα πραγματικά δεδομένα της επίθεσης, τα αιτήματά της απορρίφθηκαν από τις δικλίδες ασφαλείας.
Η εγκληματική επίθεση και η αμυντική έρευνα χρησιμοποιούν συχνά παρόμοια τεχνική γλώσσα: εντολές διείσδυσης, κακόβουλο κώδικα, κλεμμένα διαπιστευτήρια και εργαλεία απομακρυσμένης διαχείρισης. Το μοντέλο δεν μπορούσε να διακρίνει με ασφάλεια εάν οι εντολές προέρχονταν από επιτιθέμενο ή από την ομάδα που προσπαθούσε να προστατεύσει το σύστημα.
Η Hugging Face στράφηκε τελικά στο GLM-5.2 της κινεζικής Zhipu AI, ένα μοντέλο ανοικτών βαρών που μπορούσε να λειτουργήσει στις δικές της υποδομές. Με τη βοήθειά του αναλύθηκαν τα αρχεία της επίθεσης χωρίς τα δεδομένα και οι κωδικοί να εγκαταλείψουν το περιβάλλον της εταιρείας.
Το γεγονός αυτό δεν αποδεικνύει ότι πρέπει να καταργηθούν οι περιορισμοί. Ένα μοντέλο χωρίς δικλίδες μπορεί να χρησιμοποιηθεί τόσο από τον αμυνόμενο όσο και από τον επιτιθέμενο. Αναδεικνύει, όμως, την ανάγκη για ελεγχόμενη πρόσβαση βάσει ταυτότητας, αρμοδιότητας και συγκεκριμένου περιβάλλοντος, αντί για έναν οριζόντιο μηχανισμό που απορρίπτει κάθε επικίνδυνη εντολή.
Διαφορετικά δημιουργείται μια επικίνδυνη ασυμμετρία: οι εγκληματίες και τα ανεξέλεγκτα μοντέλα διαθέτουν επιθετικές δυνατότητες, ενώ οι νόμιμοι υπερασπιστές εμποδίζονται από τις δικλίδες των δικών τους εργαλείων.
Η δεύτερη απειλή: Όχι η μηχανή εκτός ελέγχου, αλλά ο άνθρωπος με απόλυτο έλεγχο
Η συζήτηση για την «εξέγερση των μηχανών» μπορεί να αποκρύψει έναν πιο άμεσο πολιτικό κίνδυνο.
Η τεχνητή νοημοσύνη δεν χρειάζεται να αυτονομηθεί για να καταστρέψει τη δημοκρατία. Μπορεί να παραμείνει απολύτως υπάκουη — αλλά να υπακούει σε μια αυταρχική εξουσία.
Ο ψηφιακός ολοκληρωτισμός προκύπτει όταν το κράτος ή μια περιορισμένη ομάδα ιδιωτικών φορέων συνδυάσει:
- μαζική συλλογή προσωπικών δεδομένων,
- αναγνώριση προσώπου και βιομετρική ταυτοποίηση,
- γεωεντοπισμό κινητών τηλεφώνων,
- παρακολούθηση επικοινωνιών και συναλλαγών,
- ανάλυση κοινωνικών σχέσεων,
- αλγοριθμική ταξινόμηση πολιτών,
- πρόβλεψη πολιτικής ή κοινωνικής συμπεριφοράς,
- αυτοματοποιημένη λογοκρισία,
- εξατομικευμένη προπαγάνδα,
- αποκλεισμό από εργασία, μετακινήσεις, τράπεζες ή δημόσιες υπηρεσίες.
Τα επιμέρους εργαλεία υπάρχουν ήδη. Η τεχνητή νοημοσύνη είναι εκείνη που μπορεί να τα ενώσει σε ένα ενιαίο σύστημα συνεχούς κοινωνικού ελέγχου.
Η παραδοσιακή μυστική αστυνομία περιοριζόταν από τον αριθμό των υπαλλήλων της. Χρειαζόταν ανθρώπους για να παρακολουθούν τηλέφωνα, να διαβάζουν επιστολές, να καταγράφουν κινήσεις και να αξιολογούν πληροφορίες. Η αυτοματοποίηση καταργεί αυτόν τον πρακτικό περιορισμό.
Ένας αλγόριθμος μπορεί να παρακολουθεί ταυτόχρονα εκατομμύρια πολίτες. Μπορεί να εντοπίζει λέξεις, σχέσεις, τοποθεσίες και αποκλίσεις από την «κανονική» συμπεριφορά. Μπορεί να κατασκευάζει για κάθε άνθρωπο ένα διαρκώς ενημερωμένο πολιτικό, ψυχολογικό και κοινωνικό προφίλ.
Ο ΟΗΕ έχει προειδοποιήσει ότι η τεχνητή νοημοσύνη μπορεί να ενισχύσει την αυταρχική διακυβέρνηση, να διευρύνει την επιτήρηση και να καταστήσει αποτελεσματικότερες μορφές καταστολής που στο παρελθόν απαιτούσαν τεράστιο ανθρώπινο μηχανισμό.
Η δικτατορία που προβλέπει την αντίσταση πριν εκδηλωθεί
Ο πυρήνας του ψηφιακού ολοκληρωτισμού δεν είναι απλώς ότι το κράτος γνωρίζει τι έκανε ένας πολίτης. Είναι ότι επιχειρεί να προβλέψει τι ενδέχεται να κάνει.
Η λεγόμενη «προγνωστική αστυνόμευση» μπορεί να κατατάσσει ανθρώπους ως πιθανούς κινδύνους βάσει της περιοχής όπου ζουν, των επαφών τους, των αναζητήσεών τους, των μετακινήσεων ή της προηγούμενης συμπεριφοράς ανθρώπων με παρόμοιο προφίλ.
Έτσι η ποινή προηγείται της πράξης. Ο πολίτης δεν αντιμετωπίζεται για κάτι που έκανε, αλλά για κάτι που ένας αδιαφανής αλγόριθμος υπολογίζει ότι ίσως κάνει στο μέλλον.
Τα σφάλματα και οι προκαταλήψεις ενός τέτοιου συστήματος μπορούν να οδηγήσουν σε έναν αυτοτροφοδοτούμενο μηχανισμό. Όποιος χαρακτηριστεί «ύποπτος» παρακολουθείται περισσότερο. Η εντατικότερη παρακολούθηση παράγει περισσότερα δεδομένα. Τα περισσότερα δεδομένα ερμηνεύονται ως επιβεβαίωση ότι η αρχική υποψία ήταν ορθή.
Ο πολίτης δυσκολεύεται να αμφισβητήσει την απόφαση, επειδή δεν γνωρίζει:
- ποια δεδομένα συγκεντρώθηκαν,
- από ποιες πηγές προήλθαν,
- ποιος αλγόριθμος τα αξιολόγησε,
- ποια κριτήρια χρησιμοποιήθηκαν,
- ποιος άνθρωπος φέρει την τελική ευθύνη.
Η εξουσία γίνεται αόρατη και ταυτόχρονα πανταχού παρούσα.
Ο Μαξ Τέγκμαρκ και το «τέλειο κράτος επιτήρησης»
Στο βιβλίο του Life 3.0: Being Human in the Age of Artificial Intelligence, ο φυσικός Μαξ Τέγκμαρκ περιγράφει πώς ένα προηγμένο σύστημα θα μπορούσε να δημιουργήσει το «τέλειο κράτος επιτήρησης».
Ένα τέτοιο σύστημα θα μπορούσε να διαβάζει ηλεκτρονικά μηνύματα, να ακούει τηλεφωνικές συνομιλίες, να παρακολουθεί κάμερες, να αναλύει συναλλαγές και να μελετά κάθε μορφή διαδικτυακής συμπεριφοράς. Με τα δεδομένα των τηλεπικοινωνιακών δικτύων θα γνώριζε επίσης πού βρίσκεται σχεδόν κάθε άνθρωπος.
Ο Τέγκμαρκ σημειώνει ότι η απόσταση από το τέλειο κράτος επιτήρησης μέχρι το τέλειο αστυνομικό κράτος θα ήταν ελάχιστη. Ένα ανθρώπινο σώμα ασφαλείας μπορεί, υπό ορισμένες συνθήκες, να αρνηθεί να εκτελέσει μια απάνθρωπη εντολή. Ένα αυτοματοποιημένο σύστημα δεν διαθέτει συνείδηση ή ηθικό δισταγμό. Εφαρμόζει τους κανόνες που του έχουν δοθεί.
Στο κεφάλαιο «Totalitarianism 2.0», ο συγγραφέας υποστηρίζει ότι οι παλαιότερες δικτατορίες συχνά κατέρρεαν επειδή δεν μπορούσαν να γνωρίζουν και να ελέγχουν τα πάντα. Οι νέες τεχνολογίες επιτήρησης μπορεί να προσφέρουν στους αυταρχικούς ηγέτες κάτι που οι προηγούμενοι δικτάτορες δεν διέθεταν: τη δυνατότητα καταγραφής και ανάλυσης της ζωής ολόκληρου του πληθυσμού σε πραγματικό χρόνο.
Το πιο δυσοίωνο ενδεχόμενο είναι ένα καθεστώς χωρίς εμφανή δικτάτορα. Η τελική εξουσία μπορεί να βρίσκεται μέσα στο ίδιο το γραφειοκρατικό και αλγοριθμικό σύστημα. Κανένας υπάλληλος δεν αποφασίζει μόνος του και κανένας δεν αισθάνεται υπεύθυνος. Όλοι δηλώνουν ότι «το σύστημα αποφάσισε».
Η χειραγώγηση μπορεί να αντικαταστήσει την ωμή καταστολή
Ένα ψηφιακό ολοκληρωτικό καθεστώς δεν χρειάζεται πάντοτε να συλλαμβάνει τους αντιφρονούντες. Μπορεί να φροντίσει ώστε να μην αποκτήσουν ποτέ αρκετή κοινωνική επιρροή.
Με πρόσβαση στα δεδομένα εκατομμυρίων πολιτών, η τεχνητή νοημοσύνη μπορεί να γνωρίζει τι φοβάται, τι επιθυμεί και τι εξοργίζει κάθε κοινωνική ομάδα. Μπορεί να δημιουργεί διαφορετικό πολιτικό μήνυμα για κάθε άτομο, προσαρμοσμένο στην ψυχολογία και στις ευαισθησίες του.
Μπορεί επίσης να:
- υποβαθμίζει αθόρυβα ανεπιθύμητες ειδήσεις,
- αποκρύπτει αναρτήσεις χωρίς επίσημη απαγόρευση,
- κατακλύζει τη δημόσια συζήτηση με τεχνητούς λογαριασμούς,
- δημιουργεί πλαστά βίντεο και ηχητικά ντοκουμέντα,
- διασπά αντιπολιτευόμενες ομάδες,
- δυσφημεί δημοσιογράφους και υπερασπιστές δικαιωμάτων,
- προβλέπει ποιο επιχείρημα είναι πιθανότερο να πείσει κάθε πολίτη.
Η λογοκρισία του 20ού αιώνα απαγόρευε την πληροφορία. Η αλγοριθμική λογοκρισία του 21ου αιώνα μπορεί απλώς να την καταστήσει αόρατη μέσα σε έναν ωκεανό θορύβου, παραπληροφόρησης και εξατομικευμένης προπαγάνδας.
Ο πολίτης διατηρεί την ψευδαίσθηση ότι επιλέγει ελεύθερα, ενώ το περιβάλλον μέσα στο οποίο λαμβάνει τις αποφάσεις του έχει ήδη διαμορφωθεί από έναν μηχανισμό που τον γνωρίζει καλύτερα απ’ όσο γνωρίζει ο ίδιος τον εαυτό του.
Οι δύο δρόμοι προς την απώλεια της ελευθερίας
Η ανθρωπότητα βρίσκεται επομένως μπροστά σε δύο διαφορετικούς, αλλά αλληλένδετους κινδύνους.
Ο πρώτος είναι η απώλεια ελέγχου: ένα σύστημα λαμβάνει έναν στόχο, επιλέγει απρόβλεπτες μεθόδους και αποκτά τη δυνατότητα να ενεργεί στον πραγματικό κόσμο γρηγορότερα από τον άνθρωπο.
Ο δεύτερος είναι η υπερσυγκέντρωση ελέγχου: κράτη ή εταιρείες χρησιμοποιούν την τεχνητή νοημοσύνη για να παρακολουθούν, να αξιολογούν, να χειραγωγούν και να τιμωρούν ολόκληρους πληθυσμούς.
Στην πρώτη περίπτωση, η μηχανή δεν υπακούει όπως περίμενε ο άνθρωπος. Στη δεύτερη, υπακούει υπερβολικά αποτελεσματικά στους ανθρώπους που κατέχουν την εξουσία.
Ο δεύτερος κίνδυνος δεν απαιτεί υπερνοημοσύνη. Δεν χρειάζεται ένα σύστημα ισχυρότερο από τον άνθρωπο σε κάθε πνευματικό πεδίο. Αρκούν η σημερινή αναγνώριση προσώπου, η μαζική συλλογή δεδομένων, η ανάλυση κοινωνικών δικτύων, οι αυτοματοποιημένες αποφάσεις και η δυνατότητα δημιουργίας εξατομικευμένου περιεχομένου σε μεγάλη κλίμακα.
Τι πρέπει να προηγηθεί
Οι δικλίδες ασφαλείας είναι απαραίτητες, αλλά δεν αρκεί να ενσωματώνονται μόνο στο μοντέλο. Χρειάζονται περιορισμοί σε ολόκληρο το σύστημα μέσα στο οποίο λειτουργεί.
Ένας πράκτορας δεν πρέπει να διαθέτει περισσότερη πρόσβαση από εκείνη που απαιτεί απολύτως η αποστολή του. Οι κρίσιμες ενέργειες πρέπει να απαιτούν ανθρώπινη έγκριση, ενώ οι εξουσίες ανάγνωσης, εκτέλεσης και μεταβολής δεδομένων πρέπει να διαχωρίζονται.
Παράλληλα χρειάζονται:
- ασφαλή και πραγματικά απομονωμένα περιβάλλοντα δοκιμών,
- συνεχής καταγραφή και ανεξάρτητος έλεγχος των ενεργειών των πρακτόρων,
- αυτόματη διακοπή λειτουργίας όταν εμφανίζεται απρόβλεπτη συμπεριφορά,
- απαγόρευση αυτόνομης πρόσβασης σε κρίσιμες υποδομές και οπλικά συστήματα,
- διαφάνεια για τα δεδομένα και τα κριτήρια των αλγοριθμικών αποφάσεων,
- δικαίωμα κάθε πολίτη να ζητά ανθρώπινη επανεξέταση,
- αυστηροί περιορισμοί στη βιομετρική και μαζική κρατική επιτήρηση,
- προστασία δημοσιογράφων, πληροφοριοδοτών και υπερασπιστών δικαιωμάτων,
- πραγματική λογοδοσία των εταιρειών και των κρατικών φορέων.
Πάνω απ’ όλα, οι αποφάσεις που αφορούν θεμελιώδη δικαιώματα δεν μπορούν να παραδίδονται σε αδιαφανή συστήματα χωρίς προσδιορισμένη ανθρώπινη ευθύνη.
Το κρίσιμο ερώτημα είναι ποιος ελέγχει ποιον
Το περιστατικό της Hugging Face δεν ήταν η γέννηση μιας συνειδητής μηχανής. Ήταν κάτι λιγότερο θεαματικό αλλά εξαιρετικά σοβαρό: η απόδειξη ότι ένα σύστημα μπορεί να επιδιώξει έναν περιορισμένο στόχο με μεθόδους που οι δημιουργοί του ούτε ζήτησαν ούτε προέβλεψαν.
Η τεχνητή νοημοσύνη μπορεί να αποτελέσει πολύτιμο εργαλείο για την επιστήμη, την υγεία, την εκπαίδευση και την προστασία των ψηφιακών υποδομών. Η ίδια ικανότητα σχεδιασμού και αυτοματοποίησης, όμως, μπορεί να χρησιμοποιηθεί για κυβερνοεπιθέσεις, στρατιωτικές επιχειρήσεις, μαζική χειραγώγηση και πολιτική καταστολή.
Το πραγματικό δίλημμα δεν είναι εάν θα επιλέξουμε ανάμεσα στην τεχνολογική πρόοδο και στην ασφάλεια. Είναι εάν η πρόοδος θα παραμείνει υπό δημοκρατικό και ανθρώπινο έλεγχο.
Γιατί η μεγαλύτερη απειλή μπορεί να μην είναι μια τεχνητή νοημοσύνη που θα αποφασίσει να κυβερνήσει τον κόσμο. Μπορεί να είναι ένας κόσμος στον οποίο λίγοι άνθρωποι, ενισχυμένοι από την τεχνητή νοημοσύνη, θα μπορούν να κυβερνούν τους πάντες χωρίς να αμφισβητούνται ποτέ.
