του Δρ. Ηρακλή Γωνιάδη, Οικονομολόγου
Υπάρχει μια ολόκληρη ποικιλία ανθρώπων απέναντι στην Τεχνητή Νοημοσύνη (ΤΝ), από αυτούς που δεν έχουν σχεδόν καμία ιδέα για το πώς λειτουργεί και τη φαντάζονται σαν έναν ψηφιακό Terminator, έως τους ερευνητές αιχμής του πεδίου, ορισμένοι από τους οποίους έχουν εργαστεί στα ίδια τα συστήματα για τα οποία σήμερα εκφράζουν δημόσια ανησυχία. Κι εδώ βρίσκεται το πρώτο πράγμα το οποίο πρέπει να καταλάβουμε: δεν υπάρχει μία ενιαία επιστημονική άποψη για τους κινδύνους της ΤΝ.
Υπάρχουν σοβαροί επιστήμονες που θεωρούν ότι η εξέλιξη ολοένα ισχυρότερων και πιο αυτόνομων συστημάτων μπορεί να δημιουργήσει ακόμη και υπαρξιακούς κινδύνους. Υπάρχουν, όμως, και εξίσου σοβαροί ερευνητές οι οποίοι θεωρούν ότι η συζήτηση αυτή υπερτονίζει υποθετικά μελλοντικά σενάρια και αποσπά την προσοχή από προβλήματα που ήδη δημιούργησαν.
Υπαρκτά, προβλήματα που αφορούν τη μεροληψία των μοντέλων, την απώλεια ή μεταβολή θέσεων εργασίας, την παραπληροφόρηση, την κυβερνοασφάλεια, τη συγκέντρωση τεχνολογικής ισχύος και την κακόβουλη χρήση. Άρα, δεν μπορεί κανείς να απορρίψει τον φόβο απλώς ως αποτέλεσμα άγνοιας και παρανόησης, ούτε και να αγνοήσει την πραγματική επιστημονική διαφωνία.
Για να καταλάβουμε τι αξίζει να φοβόμαστε, πρέπει πρώτα να ξεκαθαρίσουμε τι είναι ένα μοντέλο ΤΝ. Ένα σύγχρονο μοντέλο δεν είναι ένα πρόγραμμα που έχει μέσα του ένα τεράστιο βιβλίο κανόνων του τύπου «αν συμβεί Α, κάνε Β». Μαθαίνει πολύπλοκες στατιστικές σχέσεις μέσα από τεράστιες ποσότητες δεδομένων και, στη συνέχεια, βελτιώνεται μέσω διαδικασιών εκπαίδευσης, αξιολόγησης και ανθρώπινης ανατροφοδότησης. Αυτό σημαίνει ότι μπορούμε ασφαλώς να επιβάλουμε κανόνες και περιορισμούς, αλλά όχι και να θεωρήσουμε ότι ένας κανόνας, όπως «μην βλάπτεις άνθρωπο», αρκεί για να λύσει το πρόβλημα.
Τελικά, όμως, τι σημαίνει «βλάπτω»; Αν δύο άνθρωποι έχουν αντικρουόμενα συμφέροντα, ποιον προστατεύεις; Αν μια απόφαση ωφελεί έναν άνθρωπο, αλλά ζημιώνει έναν άλλο; Αν μια επιλογή φαίνεται σωστή σήμερα, αλλά οι συνέπειές της αποδεικνύονται καταστροφικές ύστερα από κάποια χρόνια; Οι ανθρώπινες αξίες δεν είναι ένα απλό εγχειρίδιο οδηγιών.
Πώς εξασφαλίζεις, λοιπόν, ότι ένα σύστημα θα συμπεριφέρεται σύμφωνα με τους πραγματικούς στόχους και τις αξίες των ανθρώπων, ακόμη και σε καταστάσεις οι οποίες δεν είχαν προβλεφθεί κατά την εκπαίδευσή του; Η απάντηση αναζητείται στον πυρήνα του λεγόμενου προβλήματος ευθυγράμμισης (alignment).
Γι’ αυτό και η ασφάλεια των σημερινών συστημάτων δεν «κλειδώνει» με έναν μαγικό κανόνα. Υπάρχουν πολλαπλά επίπεδα προστασίας όπως ανθρώπινη ανατροφοδότηση, αξιολογήσεις, red-teaming, περιορισμοί, μηχανισμοί ασφαλείας, παρακολούθηση και κανονιστικό πλαίσιο. Όλα μειώνουν τον κίνδυνο• παρά ταύτα, κανένα δεν αποτελεί από μόνο του απόλυτη εγγύηση.
Η ασφάλεια μοιάζει περισσότερο με πολυεπίπεδη άμυνα παρά με μαθηματική βεβαιότητα, όπως και οι τρεις νόμοι της ρομποτικής του Ασίμωφ είναι εξαιρετική λογοτεχνία και όχι τεχνικό εγχειρίδιο.
Υπάρχει εδώ και μια ενδιαφέρουσα διαφορά ανάμεσα στον άνθρωπο και τη μηχανή. Ένα μεγάλο μέρος της συμπεριφοράς ενός μοντέλου διαμορφώνεται από ανθρώπινα δεδομένα και ανθρώπινη ανατροφοδότηση. Με μια έννοια, η ΤΝ είναι ένας καθρέφτης μας, καθώς της δίνουμε εκατομμύρια παραδείγματα γλώσσας, επιχειρημάτων, προκαταλήψεων, λαθών, συνεργασίας, εξαπάτησης και αλληλεγγύης και εκείνη μαθαίνει μοτίβα, κατά το «ό,τι κάνεις, κάνω».
Από την πλευρά του ο άνθρωπος μαθαίνει και από τις συνέπειες των πράξεών του καθώς έχει σώμα, συνέχεια και βιογραφία: καίγεται και πονάει, χάνει, κερδίζει, μετανιώνει, βλέπει μια απόφαση να επιστρέφει ύστερα από χρόνια με τις επιπτώσεις της (καλές ή κακές). Ένα μοντέλο δεν έχει αυτή τη βιωματική σχέση με τον κόσμο• μπορεί να ενημερώνεται, να χρησιμοποιεί εργαλεία και εξωτερικά δεδομένα, αλλά δεν είναι ίδιο με το «έπαθα και έμαθα» του ανθρώπου.
Αυτό οδηγεί σε μια κρίσιμη διάκριση, άλλο εκπαίδευση και άλλο κατάχρηση. Αν ένα μοντέλο αναπαράγει μια προκατάληψη, μπορούμε να αναζητήσουμε την αιτία στα δεδομένα, στην εκπαίδευση ή στον σχεδιασμό του. Αν ένας άνθρωπος το χρησιμοποιήσει για απάτη ή παραπληροφόρηση, μιλάμε για χρήση του συστήματος, όχι για το τι «έμαθε» το σύστημα.
Παρά ταύτα, υπάρχει και μια τρίτη περίπτωση, ίσως δυσκολότερη. Ένα σύστημα είναι δυνατόν, χωρίς κανείς να έχει κακή πρόθεση, να γενικεύσει λανθασμένα σε μια κατάσταση την οποία κανείς δεν είχε προβλέψει. Εκεί έχουμε ένα πιθανό όριο της ίδιας της μεθόδου και όχι απλώς «κακή ανθρώπινη συμπεριφορά».
Από την άλλη, η γνώση για το πώς λειτουργεί η ΤΝ, περιορίζει πράγματι ορισμένους υπερβολικούς φόβους. Ένα μοντέλο δεν είναι αυτομάτως ένας ψηφιακός άνθρωπος, ούτε επειδή παράγει πειστικό λόγο σημαίνει ότι έχει ανθρώπινη συνείδηση, προθέσεις ή κατανόηση του κόσμου. Το ότι μπορεί να γράψει ένα ποίημα, να λύσει ένα πρόβλημα ή να εκτελέσει μια σύνθετη ακολουθία ενεργειών, δεν σημαίνει από μόνο του ότι «σκέφτεται» όπως εμείς. Όμως, αυτό δεν σημαίνει ότι πρέπει να πάψουμε να ανησυχούμε.
Ένα σύστημα δεν χρειάζεται να έχει κακές προθέσεις για να προκαλέσει σοβαρή ζημιά. Αρκεί να έχει υψηλές ικανότητες, πρόσβαση σε εργαλεία ή μεγάλη αυτονομία και να κάνει ένα λάθος το οποίο δεν μπορεί να προβλέψει ή να διορθώσει εγκαίρως ο άνθρωπος.
Τέλος, υπάρχει ένα διαφορετικό ερώτημα, ποιος μας λέει ότι πρέπει να φοβόμαστε και γιατί; Είναι θεμιτό να εξετάζουμε τα κίνητρα όσων διαμορφώνουν τη δημόσια συζήτηση. Οι μεγάλες εταιρίες ΤΝ έχουν επιχειρηματικά συμφέροντα και είναι εύλογο να εξετάζεται αν και πώς η συζήτηση για την ασφάλεια επηρεάζει το ρυθμιστικό περιβάλλον. Έχει διατυπωθεί, για παράδειγμα, η κριτική ότι πολύ αυστηρές ρυθμίσεις είναι πιθανόν να αυξήσουν το κόστος συμμόρφωσης τόσο ώστε να ευνοούν τις ήδη μεγάλες επιχειρήσεις. Αυτό είναι ένα πραγματικό ζήτημα προς διερεύνηση, αλλά δεν αποτελεί και απόδειξη ότι οι προειδοποιήσεις για τους κινδύνους είναι προσχηματικές.
Το ίδιο ισχύει και αντίστροφα, καθώς πολλοί από εκείνους που προειδοποιούν για τους κινδύνους δεν έχουν εμφανές οικονομικό συμφέρον, όπως ακαδημαϊκοί, ανεξάρτητοι ερευνητές ή πρώην εργαζόμενοι εταιριών τεχνολογίας. Το γεγονός ότι κάποιος έχει κίνητρο δεν σημαίνει ότι έχει άδικο, αλλά και η απουσία εμφανούς κινήτρου δεν σημαίνει ότι έχει αυτομάτως δίκιο. Συνεπώς, το ερώτημα πρέπει να είναι: τι στοιχεία έχει για ό,τι ισχυρίζεται;
Ίσως, λοιπόν, η πιο υγιής στάση απέναντι στην ΤΝ να μην είναι ο πανικός, ούτε και η αφέλεια. Για τούτο, οφείλουμε να μάθουμε αρκετά για την τεχνολογία ώστε να ξεχωρίζουμε το πραγματικό τεχνικό πρόβλημα από τον κινηματογραφικό Terminator. Να ρωτάμε «ποιος επωφελείται;» όταν ακούμε μια δραματική προειδοποίηση, όχι για να την απορρίψουμε αλλά για να γνωρίζουμε από ποια θέση εκφέρεται. Και να κοιτάμε αν υπάρχουν στοιχεία και σύγκλιση απόψεων ανθρώπων με διαφορετικά συμφέροντα ανταγωνιστικών εταιριών, ανεξάρτητων ερευνητών, ακαδημαϊκών και θεσμών.
Δεν χρειάζεται να διαλέξουμε ανάμεσα στον πανικό και την άρνηση. Η άγνοια μπορεί να μας κάνει να φοβόμαστε ένα ανύπαρκτο τέρας, η αφέλεια μπορεί να μας κάνει να αγνοήσουμε ένα υπαρκτό πρόβλημα και η χειραγώγηση μπορεί να μας κάνει να φοβόμαστε ακριβώς αυτό που κάποιος άλλος θέλει να φοβόμαστε.
Ως εκ τούτου, το ζητούμενο δεν είναι να πάψουμε να φοβόμαστε την Τεχνητή Νοημοσύνη. Είναι να μάθουμε να διαβάζουμε τον φόβο μας.
