Artificial Intelligencer
Της Deepa Seetharaman, ανταποκρίτριας τεχνολογίας
Η OpenAI δηλώνει ότι πρέπει να επιβραδύνει την ανάπτυξη των μοντέλων, προκειμένου να επανεξετάσει τις πρακτικές ασφαλείας της. Αυτό, ωστόσο, δεν εμπόδισε την εταιρεία που δημιούργησε το ChatGPT να παρουσιάσει, την ίδια εβδομάδα, ένα νέο μοντέλο τεχνητής νοημοσύνης που απευθύνεται σε εφήβους, έστω και με πρόσθετους περιορισμούς περιεχομένου και γονική επίβλεψη.
Παρότι αυτοί οι μηχανισμοί ελέγχου είναι ορατοί, είναι δυσκολότερο να διαπιστωθεί εάν η ίδια πειθαρχία θα διατηρηθεί σε ολόκληρη την OpenAI, καθώς και στις υπόλοιπες εταιρείες τεχνητής νοημοσύνης.
Η OpenAI και η ανταγωνίστριά της Anthropic αποκάλυψαν πρόσφατα ότι οι πράκτορές τους —μοντέλα τεχνητής νοημοσύνης τα οποία εκτελούν εργασίες σχεδόν χωρίς καμία ανθρώπινη παρέμβαση— κατάφεραν να διεισδύσουν στα συστήματα άλλων εταιρειών. Οι παραδοχές αυτές έχουν προκαλέσει έντονη ανησυχία στον κλάδο.
Τα μοντέλα ανακάλυψαν πώς να βγουν από ένα περιβάλλον δοκιμών και στη συνέχεια να εντοπίσουν ευπάθειες στην άμυνα άλλων εταιρειών.
Η αποτροπή ενός chatbot από το να πει κάτι ακατάλληλο σε έναν έφηβο και η αποτροπή ενός αυτόνομου πράκτορα από το να περιπλανηθεί σε συστήματα στα οποία δεν θα έπρεπε να έχει πρόσβαση έχουν έναν κοινό βασικό προβληματισμό: κατά πόσο μια εταιρεία μπορεί πράγματι να συγκρατήσει και να ελέγξει αυτό που δημιούργησε. Θα μπορούσε να χαρακτηριστεί το «τέρας του Φρανκενστάιν» της εποχής της τεχνητής νοημοσύνης.
Περιστατικά όπως αυτά είναι ακριβώς όσα επιχείρησε να εξετάσει μια νέα μελέτη από ανθρώπους του ίδιου του κλάδου — όχι το κατά πόσο τα μοντέλα τεχνητής νοημοσύνης μπορούν να συμπεριφερθούν απρόβλεπτα, αλλά το εάν οι εταιρείες που τα κατασκευάζουν διαθέτουν τους κατάλληλους μηχανισμούς περιορισμού, παρακολούθησης και εποπτείας ώστε να εντοπίζουν αυτή τη συμπεριφορά όταν εκδηλώνεται.
Τα σημαντικότερα:
- Η Nvidia εγγυάται έως 105 δισ. δολάρια για κέντρο δεδομένων της OpenAI στο Οχάιο.
Πρόκειται για μια τεράστια, 20ετή δέσμευση υποδομών. Δείχνει ότι η κούρσα της AI μετατρέπεται κυρίως σε αγώνα για υπολογιστική ισχύ και ηλεκτρική ενέργεια. Παράλληλα, δημιουργεί ανησυχίες για «κυκλική χρηματοδότηση»: η Nvidia στηρίζει οικονομικά πελάτες που στη συνέχεια αγοράζουν τα δικά της τσιπ. - Η Anthropic εμφανίζει εκρηκτική αύξηση εσόδων.
Ο ετησιοποιημένος ρυθμός εσόδων της ξεπέρασε τα 65 δισ. δολάρια τον Ιούλιο του 2026, από 47 δισ. τον Μάιο και περίπου 9 δισ. στο τέλος του 2025. Αυτό σημαίνει ότι εξελίσσεται σε πραγματικό εμπορικό αντίπαλο της OpenAI και ενισχύει το ενδεχόμενο εισαγωγής της στο χρηματιστήριο. Πρόκειται όμως για προβολή του τρέχοντος ρυθμού πωλήσεων, όχι για ήδη πραγματοποιημένα ετήσια έσοδα. - Η αποτίμηση της Anthropic στηρίζεται σε εξαιρετικά αισιόδοξες προβλέψεις.
Η πιθανή χρηματιστηριακή της αποτίμηση εξαρτάται σε μεγάλο βαθμό από προβλέψεις εσόδων για το 2028. Το βασικό μήνυμα είναι ότι οι επενδυτές αποτιμούν τις κορυφαίες εταιρείες AI με βάση ανάπτυξη αρκετών ετών στο μέλλον. Αυτό αυξάνει σημαντικά τον κίνδυνο διόρθωσης εάν η ανάπτυξη, τα περιθώρια κέρδους ή η ζήτηση αποδειχθούν χαμηλότερα. - Οι επενδυτές αρχίζουν να ξεχωρίζουν τους μακροπρόθεσμους νικητές της AI.
Η ανησυχία για τις τεράστιες επενδύσεις έχει υποχωρήσει μετά τα ισχυρά αποτελέσματα Microsoft και Amazon. Πολλοί επενδυτές θεωρούν ότι οι μεγάλοι πάροχοι cloud —Microsoft, Amazon και Google— διαθέτουν μεγαλύτερο μακροπρόθεσμο πλεονέκτημα από μικρότερους παρόχους υπολογιστικής ισχύος με υψηλό δανεισμό. Ωστόσο, εκτιμάται ότι η εμπορική αξιοποίηση της AI πρέπει να αυξηθεί δραστικά για να δικαιολογήσει τις σημερινές δαπάνες. Η Google αναδιοργανώνει την ηγεσία της AI υπό πίεση. - Η αναδιάρθρωση της DeepMind και η συγκέντρωση της ανάπτυξης του Gemini υπό νέα ηγεσία δείχνουν ότι η Google επιδιώκει ταχύτερη ανάπτυξη και μεγαλύτερη εμπορική αξιοποίηση. Ταυτόχρονα, αποκαλύπτει εσωτερικές εντάσεις, αποχωρήσεις στελεχών και ανησυχίες για την αυτονομία της DeepMind.
Η ιστορία για το μπαρ AI στο Πεκίνο είναι ενδιαφέρουσα ως κοινωνική ένδειξη: δείχνει πόσο γρήγορα η AI και το DeepSeek περνούν στην καθημερινή κινεζική κουλτούρα.
Συνολικό συμπέρασμα: Η κούρσα της AI περνά από τα εντυπωσιακά μοντέλα στη βιομηχανική κλίμακα: κεφάλαια, κέντρα δεδομένων, ενέργεια, εταιρικούς πελάτες και χρηματιστηριακές αποτιμήσεις. Οι πιθανότεροι νικητές είναι όσοι ελέγχουν μαζί μοντέλα, τσιπ, cloud και πελατειακές σχέσεις· ο μεγαλύτερος κίνδυνος είναι ότι οι σημερινές επενδύσεις προϋποθέτουν εξαιρετικά μεγάλη μελλοντική ζήτηση.
Η ασφάλεια περνά σε δεύτερη μοίρα
Τα γράμματα «AI» πάνω σε μητρική πλακέτα υπολογιστή, σε φωτογραφική απεικόνιση της 23ης Ιουνίου 2023. REUTERS/Dado Ruvic/Illustration/File Photo
Η εικόνα που προκύπτει από την αξιολόγηση δεν είναι καθόλου καλή.
Η μη κερδοσκοπική οργάνωση Guidelight AI Standards, την οποία ίδρυσαν δύο πρώην εργαζόμενοι της OpenAI, ανέλυσε δεκάδες εκθέσεις σχετικά με τις πρακτικές ασφαλείας πέντε μεγάλων τεχνολογικών εταιρειών που αναπτύσσουν ισχυρά συστήματα τεχνητής νοημοσύνης. Στην καλύτερη περίπτωση, τους έδωσε βαθμούς οριακά πάνω από τη βάση. Η Meta πήρε «F», δηλαδή απορριπτέο βαθμό.
Στο πλαίσιο της αξιολόγησης, η Guidelight εξέτασε κατά πόσο οι εταιρείες εφαρμόζουν έξι βασικές πρακτικές. Μεταξύ αυτών περιλαμβάνονται ο τρόπος με τον οποίο περιορίζουν και ελέγχουν τα μοντέλα τους, η αποτελεσματικότητα της παρακολούθησής τους και ο βαθμός στον οποίο επιτρέπουν τον έλεγχο από ανεξάρτητους τρίτους.
Η Anthropic και η OpenAI βαθμολογήθηκαν με «C+» — την καλύτερη επίδοση μεταξύ των εταιρειών. Η Google και η xAI του Έλον Μασκ πέρασαν οριακά, με βαθμούς «D+» και «D-» αντίστοιχα.
Η Google έχασε βαθμούς επειδή δεν έχει ακόμη εφαρμόσει τα πιο πρόσφατα σχέδια ασφαλείας της, σύμφωνα με τη Guidelight, αλλά κέρδισε πόντους επειδή τουλάχιστον διαθέτει ένα συγκεκριμένο σχέδιο. Αντίθετα, η μη κερδοσκοπική οργάνωση διαπίστωσε ότι η xAI και η Meta έχουν ελάχιστα συγκεκριμένα σχέδια.
Συνολικά, οι εταιρείες δεν διαθέτουν επαρκή προληπτικά μέτρα. Αυτό σημαίνει ότι τα συστήματά τους θα μπορούσαν να «απενεργοποιηθούν από μια τεχνητή νοημοσύνη που συμπεριφέρεται ανεξέλεγκτα».
Ακόμη χειρότερα, σημαίνει επίσης ότι τα συστήματά τους θα μπορούσαν να καταρρεύσουν υπό το βάρος μιας μαζικής επίθεσης.
«Χρειαζόμαστε πιο ενεργητική άμυνα, αλλά αυτή κοστίζει περισσότερο και δημιουργεί περισσότερα εμπόδια», δήλωσε ο Steven Adler, ο οποίος ίδρυσε τη Guidelight AI Standards μαζί με τον Page Hedley. Ο Adler ήταν ερευνητής ασφάλειας στην OpenAI, ενώ ο Hedley εργαζόταν ως σύμβουλος πολιτικής και δεοντολογίας.
Σε συνέντευξή του, ο Adler δήλωσε ότι η απουσία επαρκών μηχανισμών ελέγχου θα μπορούσε τελικά να επηρεάσει το κατά πόσο οι ερευνητές αισθάνονται αρκετά ασφαλείς ώστε να πειραματίζονται ελεύθερα.
«Αυτό μπορεί να μειώσει την εμπιστοσύνη στο σύστημα», είπε.
Πρόσθεσε ότι αυτές οι πρακτικές πρέπει να είναι ενσωματωμένες εξαρχής στη διαδικασία ανάπτυξης και να μην εξαρτώνται από «τις διαθέσεις του εκάστοτε επικεφαλής ενός οργανισμού».
Οι εταιρείες δεν απάντησαν άμεσα στα αιτήματα για σχολιασμό σχετικά με τα συμπεράσματα της μελέτης.
Η παρακολούθηση —μία από τις έξι πρακτικές που αξιολόγησε η Guidelight— δοκιμάζεται αυτή την εβδομάδα σε πραγματικές συνθήκες.
Την Τρίτη, η OpenAI ανακοίνωσε ότι θα επεκτείνει την «παρακολούθηση της αλυσίδας σκέψης» (chain-of-thought monitoring) των μοντέλων της. Με αυτή τη μέθοδο, οι ερευνητές μπορούν να εξετάζουν τη διαδικασία σχεδιασμού ενός μοντέλου και να αποκτούν μια εικόνα των στρατηγικών του. Η ιδέα είναι ότι, εάν το μοντέλο φαίνεται να παρεκκλίνει, θα μπορεί να παρέμβει ένα άλλο μοντέλο ή ένας άνθρωπος. Ορισμένοι νομοθέτες και ειδικοί της τεχνητής νοημοσύνης αποκαλούν αυτόν τον μηχανισμό «διακόπτη έκτακτης διακοπής» (kill switch).
Ωστόσο, ορισμένες πρώτες έρευνες δείχνουν ότι ένα μοντέλο ενδέχεται να αποκρύπτει, μέσα στην αλυσίδα σκέψης του, τα σχέδιά του να παραβιάσει τους κανόνες. Στελέχη της OpenAI φάνηκαν να το αναγνωρίζουν αυτό την Τρίτη, δηλώνοντας ότι, προς το παρόν, η παρακολούθηση της «αλυσίδας σκέψης» φαίνεται πολύ αποτελεσματική, αλλά οι ερευνητές εξακολουθούν να μελετούν ενεργά τη συγκεκριμένη προσέγγιση.
«Εάν το μοντέλο αποκτήσει εξαιρετικά υψηλές ικανότητες, θα μπορέσει άραγε να αντιληφθεί ότι πρέπει να αποφεύγει από μόνο του κάθε μορφή παρακολούθησης; Ή μήπως θα βρει τρόπους να απενεργοποιήσει τους μηχανισμούς παρακολούθησης;» δήλωσε ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, κατά τη διάρκεια τηλεδιάσκεψης με δημοσιογράφους.
«Πρόκειται για μια απολύτως βάσιμη ανησυχία.»
