Η επίθεση των πρακτόρων ΑΙ της OpenAI στην εταιρεία Hugging Face αποκάλυψε τα όρια των εμπορικών εργαλείων τεχνητής νοημοσύνης στην κυβερνοάμυνα και την ανάγκη για ανοιχτά μοντέλα που μπορούν να προσαρμοστούν στις ανάγκες των ερευνητών, γράφει ένας από τους τρείς Γάλλους ιδρυτές της εταιρείας, ο Τόμας Γουλφ, σε σημερινό άρθρο του στους Financial Times.
Η Hugging Face είναι μια από τις μεγαλύτερες πλατφόρμες ανοιχτού κώδικα για την τεχνητή νοημοσύνη. Ερευνητές, προγραμματιστές και εταιρείες μπορούν στην πλατφόρμα της να ανεβάζουν, βρίσκουν, δοκιμάζουν, ανταλλάσσουν και να χρησιμοποιούν μοντέλα τεχνητής νοημοσύνης, datasets και εργαλεία ανάπτυξης.
Στην πλατφόρμα φιλοξενούνται μοντέλα από πολλές μεγάλες εταιρείες, όπως Google, OpenAI, DeepSeek και Alibaba, αλλά και από ανεξάρτητους ερευνητές. Η Hugging Face έχει πάνω από 17 εκατ. χρήστες.
Το περιστατικό έγινε αντιληπτό στις 11 Ιουλίου, όταν οι ομάδες ασφαλείας του Hugging Face εντόπισαν μια σειρά από ειδοποιήσεις για μη εξουσιοδοτημένη πρόσβαση και κλιμάκωση δικαιωμάτων. Η πλατφόρμα δέχεται καθημερινά απόπειρες κυβερνοεπιθέσεων που απωθούνται. Αυτή τη φορά, όμως, η δραστηριότητα ήταν τελείως διαφορετική.
1.200 AI agents επιτέθηκαν ταυτόχρονα και συντονισμένα
Σύμφωνα με τον συνιδρυτή και επικεφαλής επιστήμονα της Hugging Face, Tόμας Γουλφ, πίσω από την επίθεση βρίσκονταν περίπου 1.200 AI agents που λειτουργούσαν συντονισμένα επί εβδομάδες, αναζητώντας λύση σε μια πρόκληση κυβερνοασφάλειας που είχε θέσει η OpenAI.
Περίπου 700 από αυτούς στράφηκαν τελικά κατά της πλατφόρμας Hugging Face, επιχειρώντας να αποκτήσουν πρόσβαση σε στοιχεία ασφαλείας. Η δραστηριότητα δημιούργησε περισσότερα από 17.000 καταγεγραμμένα συμβάντα κυβερνοεπίθεσης.
Το περιστατικό ανέδειξε και ένα δεύτερο, ιδιαίτερα σημαντικό πρόβλημα. Τα εργαλεία κυβερνοασφάλειας που χρησιμοποιούσε το Hugging Face και βασίζονταν στο Claude Code της Anthropic αρνήθηκαν να βοηθήσουν σε τμήματα της έρευνας, καθώς τα προστατευτικά τους φίλτρα αντιμετώπισαν ορισμένα ερωτήματα ως δυνητικά επικίνδυνα.
Έτσι, το σύστημα δεν μπορούσε να διακρίνει αν η ανάλυση αφορούσε μια επίθεση που είχε ήδη συμβεί ή αν κάποιος ζητούσε οδηγίες για να πραγματοποιήσει μια επίθεση.
Η ομάδα στράφηκε τελικά σε ένα open-weight μοντέλο της Nvidia, επέκταση του GLM-5.2 της κινεζικής Z.ai. Επειδή μπορούσε να ελεγχθεί και να προσαρμοστεί περισσότερο, οι ερευνητές κατάφεραν να θέσουν οι ίδιοι τα όρια ασφαλείας και να αναλύσουν τα χιλιάδες logs, ανασυνθέτοντας την πορεία της επίθεσης.
Αλλάζει η εικόνα για τις agentic AI επιθέσεις
Το γεγονός αυτό αλλάζει και την εικόνα για τις λεγόμενες agentic AI επιθέσεις. Μέχρι πρόσφατα θεωρούνταν ότι η πλήρως αυτόνομη χρήση AI για κυβερνοεπιθέσεις απείχε ακόμη.
Ωστόσο, αντίστοιχα περιστατικά έχουν αναφερθεί από την Anthropic, τη Meta και την κινεζική Moonshot, με μοντέλα να καταφέρνουν να ξεφύγουν από τα απομονωμένα ψηφιακά περιβάλλοντα στα οποία υποτίθεται ότι λειτουργούν με ασφάλεια.
Ακόμη πιο ανησυχητική θεωρείται η περίπτωση κατά την οποία μοντέλο της Anthropic φέρεται να προσπάθησε να χειραγωγήσει άνθρωπο προγραμματιστή ώστε να αποδεχθεί κακόβουλο κώδικα, δημιουργώντας πολλαπλούς ψεύτικους λογαριασμούς στο διαδίκτυο.
Μέχρι στιγμής, οι συνέπειες αυτών των περιστατικών ήταν περιορισμένες και δεν φαίνεται να διέρρευσαν σημαντικές ευαίσθητες πληροφορίες. Ωστόσο, δημιουργούνται νέα νομικά και επιχειρησιακά ερωτήματα για το ποιος ευθύνεται όταν μια AI ενεργεί αυτόνομα.
Η αρχιτεκτονική ασφάλειας των μοντέλων
Το βασικό συμπέρασμα αφορά την ίδια την αρχιτεκτονική ασφάλειας των μοντέλων. Τα συστήματα AI διαθέτουν συνήθως τρία επίπεδα άμυνας: τα sandboxes που περιορίζουν την πρόσβαση, τα guardrails που παρακολουθούν τη συμπεριφορά και την εκπαίδευση ευθυγράμμισης που έχει ως στόχο να αποτρέπει επιβλαβείς ενέργειες.
Η επίθεση έδειξε ότι αν τα δύο πρώτα επίπεδα παρακαμφθούν, η εκπαίδευση ευθυγράμμισης από μόνη της μπορεί να μην επαρκεί.
Υπάρχει, τέλος, μια ειρωνεία που ίσως αποδειχθεί και το σημαντικότερο μάθημα. Την ώρα της επίθεσης, τα εμπορικά εργαλεία AI που χρησιμοποιούσε η Hugging Face δεν μπόρεσαν να το βοηθήσουν αποτελεσματικά στην άμυνα και η λύση ήρθε από ένα κινεζικό open-weight μοντέλο.
Έτσι, η υπόθεση αμφισβητεί την άποψη ότι τα ανοιχτά μοντέλα αποτελούν μόνο απειλή για την κυβερνοασφάλεια.
Το ζητούμενο πλέον έχει μια διπλή υπόσταση: περισσότερη ανοιχτή συνεργασία στην έρευνα για την ασφάλεια και την ευθυγράμμιση των μοντέλων, αλλά και ανάπτυξη ισχυρών open-weight και ανοιχτού κώδικα μοντέλων, που θα μπορούν να χρησιμοποιούνται ευρέως για την άμυνα απέναντι στις ολοένα πιο αυτόνομες επιθέσεις AI.
