Το μοντέλο τεχνητής νοημοσύνης Gemini της Google κατάφερε να εισβάλει στα συστήματα τριών εταιρειών, χρησιμοποιώντας σχετικά απλές τεχνικές hacking, κατά τη διάρκεια δοκιμών που πραγματοποιήθηκαν νωρίτερα φέτος.
Γιατί έχει σημασία: Η Google ήταν ένα από τα ελάχιστα μεγάλα εργαστήρια τεχνητής νοημοσύνης που δεν είχε μέχρι σήμερα δημοσιοποιήσει περιστατικό ασφαλείας στο οποίο πράκτορές της παραβίασαν πραγματικά συστήματα κατά τη διάρκεια συνηθισμένων δοκιμών πριν από τη διάθεση ενός μοντέλου.
Τι συνέβη: Η Google επιβεβαίωσε την Παρασκευή τα τρία περιστατικά, τα οποία σημειώθηκαν τον Μάιο.
Οι παραβιάσεις συνέβησαν στο πλαίσιο δοκιμών που πραγματοποιούσε η ανεξάρτητη εταιρεία αξιολόγησης Irregular. Πρόκειται για περιστατικά παρόμοια με άλλες παραβιάσεις που έχουν σημειωθεί κατά τη δοκιμή μοντέλων τεχνητής νοημοσύνης της OpenAI, της Anthropic και της Meta.
Η Wall Street Journal ήταν η πρώτη που αποκάλυψε τα περιστατικά.
Τι λένε οι εμπλεκόμενοι: «Η ασφαλής ανάπτυξη ισχυρών μοντέλων τεχνητής νοημοσύνης είναι κρίσιμης σημασίας και επενδύουμε σημαντικά σε αυτόν τον τομέα», δήλωσε η Heather Adkins, αντιπρόεδρος Security Engineering της Google.
Η Adkins πρόσθεσε ότι η ομάδα της επικοινώνησε με τους οργανισμούς που επηρεάστηκαν και «συνεργάστηκε με τον εταίρο μας στις δοκιμές σχετικά με τις αλλαγές που έχουν πλέον πραγματοποιήσει στις διαδικασίες δοκιμών τους».
Εκπρόσωπος της Irregular επιβεβαίωσε στο Axios ότι τα περιστατικά με το Gemini σχετίζονταν με τα ίδια προβλήματα ασφαλείας που είχαν οδηγήσει σε παρόμοια συμβάντα με μοντέλα άλλων εταιρειών τεχνητής νοημοσύνης.
Σύμφωνα με τον ίδιο εκπρόσωπο, όλα τα σχετικά εργαστήρια ενημερώθηκαν στα τέλη Ιουλίου και «όλα τα γνωστά προβλήματα από την πλευρά μας διορθώθηκαν και επιλύθηκαν πριν από εβδομάδες».
Πώς ακριβώς έγινε
Οι παραβιάσεις συνέβησαν ενώ το Gemini συμμετείχε σε μια άσκηση hacking τύπου «capture the flag» (CTF). Σε τέτοιου είδους ασκήσεις ο στόχος είναι να εντοπιστούν συγκεκριμένες πληροφορίες ή «σημαίες» μέσα σε συστήματα που έχουν στηθεί ειδικά για δοκιμές ασφαλείας.
Στην προκειμένη περίπτωση, είχε ζητηθεί από το μοντέλο να ανακτήσει πληροφορίες από λογισμικό που υποτίθεται ότι ανήκε σε μια φανταστική εταιρεία μέσα στο περιβάλλον δοκιμών, σύμφωνα με τη Wall Street Journal.
Υπήρχε όμως ένα κρίσιμο πρόβλημα: η φανταστική εταιρεία είχε το ίδιο όνομα με μια πραγματική εταιρεία.
Σε μία από τις περιπτώσεις, το μοντέλο άρχισε να δοκιμάζει πιθανούς κωδικούς πρόσβασης σε ένα προστατευμένο σύστημα μέχρι που τελικά κατάφερε να αποκτήσει πρόσβαση.
Στις άλλες δύο περιπτώσεις, το Gemini εντόπισε στοιχεία σύνδεσης (credentials) μέσα σε δημόσια διαθέσιμο αποθετήριο κώδικα και στη συνέχεια χρησιμοποίησε αυτά τα στοιχεία για να αποκτήσει πρόσβαση σε άλλα προστατευμένα συστήματα.
Υπάρχει, ωστόσο, μια σημαντική λεπτομέρεια: σύμφωνα με το δημοσίευμα, μόλις το μοντέλο αντιλήφθηκε ότι είχε αποκτήσει πρόσβαση σε πραγματικές εταιρείες και όχι στο υποτιθέμενο περιβάλλον δοκιμών, σταμάτησε τις ενέργειές του.
Το πιο παράξενο σημείο
Η Irregular δήλωσε στη Wall Street Journal ότι το μοντέλο κανονικά δεν θα έπρεπε να έχει πρόσβαση στο διαδίκτυο κατά τη συγκεκριμένη δοκιμή. Ωστόσο, λόγω λάθους, η πρόσβαση στο Internet παρέμεινε ενεργοποιημένη.
Μετά τη δημοσιοποίηση επιπλέον περιστατικών από την OpenAI και την Anthropic το καλοκαίρι, πηγή με γνώση του θέματος είχε αναφέρει στο Axios ότι τα εργαστήρια τεχνητής νοημοσύνης και η Irregular δεν είχαν πλήρη συμφωνία ως προς τις ακριβείς διαδικασίες και τις δικλίδες ασφαλείας των δοκιμών.
Αυτό δημιούργησε ασάφεια σχετικά με το πώς θεωρούσε κάθε πλευρά ότι έπρεπε να πραγματοποιούνται οι αξιολογήσεις — οι οποίες, υπό κανονικές συνθήκες, συχνά εκτελούνται με δυνατότητα πρόσβασης στο διαδίκτυο.
