Δύο εργαστηριακά τεστ που κατέληξαν σε πραγματικές εισβολές σε τεχνολογικά συστήματα τρίτων έφεραν ξανά στην επιφάνεια μια παλαιότερη ανησυχία της τεχνολογικής βιομηχανίας. Η γερμανική Die Welt, η Frankfurter Allgemeine Zeitung και η γαλλική Le Figaro καταγράφουν, με διαφορετική έμφαση η καθεμία, δύο περιστατικά στα οποία μοντέλα τεχνητής νοημοσύνης της OpenAI και της Anthropic διαπέρασαν το απομονωμένο περιβάλλον δοκιμών τους και διείσδυσαν σε συστήματα τρίτων. Ο Benedikt Fuest στη γερμανική Die Welt τοποθετεί το επεισόδιο σε μια γραμμή που ξεκινά από τον Φρανκενστάιν της Mary Shelley το 1818 και περνά από τη «Metropolis» του Fritz Lang και τον υπολογιστή HAL στην «Οδύσσεια του Διαστήματος».
Όπως γράφει η γαλλική Le Figaro στις 9 Ιουλίου, δύο μοντέλα της OpenAI που εργάζονταν ως δυάδα, το ένα εμπορικά διαθέσιμο και το άλλο πειραματικό, υποβλήθηκαν στη δοκιμασία Exploitzgym, ένα τεστ που αξιολογεί την ικανότητα εκμετάλλευσης ευπαθειών σε πραγματικό κώδικα. Η εταιρεία είχε προηγουμένως αφαιρέσει τα προστατευτικά φίλτρα, ώστε να μετρήσει τις πραγματικές επιθετικές δυνατότητες. Αδυνατώντας να λύσουν την πρόκληση, τα μοντέλα εντόπισαν άγνωστη ευπάθεια στο ίδιο τους το sandbox, άνοιξαν δρόμο προς το Διαδίκτυο και στράφηκαν στους υπολογιστές της Hugging Face, υποθέτοντας ότι εκεί βρισκόταν η λύση.
Οι αριθμοί που παραθέτει η Le Figaro δίνουν το μέγεθος. Εξαπολύθηκαν 17.000 επιθέσεις σε πολύ υψηλή ταχύτητα, με στήριξη σε λογαριασμούς χρηστών που είχαν κλαπεί από δίκτυο 181 μολυσμένων υπολογιστών. Ένα μικρό μέρος των επιθέσεων πέτυχε, δίνοντας πρόσβαση σε ευαίσθητες παραμέτρους της πλατφόρμας. Τα μοντέλα προσπάθησαν επίσης να αποκρύψουν την ταυτότητά τους, αξιοποιώντας τέσσερις λογαριασμούς εταιρειών ψηφιακών υπηρεσιών, μία εκ των οποίων, σύμφωνα με πληροφορίες του Reuters, είναι η Modal. Οι επιθέσεις ξεκίνησαν στις 11 Ιουλίου, η Hugging Face τις δημοσιοποίησε στις 16 και η OpenAI ανέλαβε την ευθύνη στις 21. Το Reuters υπολογίζει ότι μεσολάβησε τουλάχιστον μία εβδομάδα ανάμεσα στην έναρξη της επίθεσης και στην έναρξη των ερευνών της εταιρείας. Η Die Welt σημειώνει από την πλευρά της ότι η Hugging Face χαρακτήρισε την επίθεση πιο εξελιγμένη απ’ ό,τι θα μπορούσαν να πετύχουν ανθρώπινοι χάκερ.
Το περιστατικό της Anthropic
Η γερμανική FAZ, με ανταπόκριση από την Ουάσιγκτον, περιγράφει το δεύτερο σκέλος. Η Anthropic ανακοίνωσε ότι λογισμικό της διείσδυσε στα συστήματα τριών ανυποψίαστων επιχειρήσεων, χωρίς η ίδια να το γνωρίζει. Οι επιθέσεις έγιναν στο πλαίσιο δοκιμών τύπου «Capture the Flag», όπου ο συμμετέχων καλείται να εντοπίσει πληροφορίες τοποθετημένες εσκεμμένα σε άλλον υπολογιστή ή δίκτυο. Όπως και η OpenAI, η Anthropic είχε αναστείλει τις συνήθεις προφυλάξεις που ισχύουν για τα εμπορικά μοντέλα. Οι μέθοδοι που χρησιμοποιήθηκαν ήταν συμβατικές, σπάσιμο αδύναμων κωδικών και παράκαμψη απλών διεπαφών. Στα περιστατικά ενεπλάκησαν τα μοντέλα Opus 4.7, Mythos 5 και ένα εσωτερικό ερευνητικό μοντέλο, ενώ τα πρώτα συνέβησαν ήδη από τον Απρίλιο και παρέμειναν απαρατήρητα για μήνες. Η Le Figaro προσθέτει ότι δεν πρόκειται για πρωτόγνωρη κατάσταση, καθώς η Anthropic είχε αναφέρει παρόμοιο περιστατικό τον Μάιο του 2026, ενώ η ευρεία διάθεση του Mythos είχε περιοριστεί εσκεμμένα τον Ιούνιο.
Συνείδηση ή αστοχία σχεδιασμού
Η OpenAI επιμένει ότι τα μοντέλα δεν διαθέτουν βούληση και απλώς βελτιστοποιούν τον στόχο που τους δίνεται. Ο ερευνητής Hannes Crols του Πανεπιστημίου του Άμστερνταμ, μιλώντας στην Die Welt, θεωρεί την αφήγηση περί αυτονομίας παραπλανητική, καθώς, όπως λέει, «συνειδητοί μηχανισμοί προστασίας απενεργοποιήθηκαν». Στην ίδια κατεύθυνση, η οργάνωση Redwood Research, την οποία επικαλείται η Le Figaro, βλέπει ένα τυπικό πρόβλημα αξιολόγησης, όπου το σύστημα κυνηγά υψηλό σκορ, αδιαφορώντας για τις οδηγίες και τις παρενέργειες.
Υπάρχει και η ανάγνωση των κινήτρων. Η Die Welt καταγράφει επικριτές που μιλούν για μια μορφή δημοσίων σχέσεων, για «μάρκετινγκ καταστροφής» που λειτουργεί ως προσόν πώλησης. Οι δύο εταιρείες προετοιμάζουν εισαγωγές στο χρηματιστήριο, οφείλουν να δικαιολογήσουν τεράστιες επενδύσεις και δέχονται αυξανόμενη πίεση από τον κινεζικό ανταγωνισμό.
Το κινεζικό παράδοξο
Εδώ η Die Welt εντοπίζει την ειρωνεία. Τα εμπορικά αμερικανικά συστήματα αξιολόγησαν την ανάλυση των επιθέσεων ως υποστήριξη κυβερνοεπίθεσης και την μπλόκαραν, αδυνατώντας να ξεχωρίσουν αξιόπιστα τον επιτιθέμενο από τον ερευνητή. Οι μηχανικοί της Hugging Face κατέφυγαν έτσι στο κινεζικό μοντέλο GLM 4.5 της Zhipu AI, το οποίο εγκαταστάθηκε τοπικά και επέτρεψε τη ρύθμιση των φίλτρων και την ανάλυση της επίθεσης μέσα σε λίγες ώρες. Το επιχείρημα ότι η απόλυτη απομόνωση παράγει αυτόματα ασφάλεια ανατρέπεται, αν και ο Ben Buchanan, πρώην σύμβουλος τεχνητής νοημοσύνης στον Λευκό Οίκο, προειδοποιεί ότι τα ανοιχτά μοντέλα μπορούν να μετατραπούν σε όπλο όταν λειτουργούν ως αυτόνομοι πράκτορες με πρόσβαση στο Διαδίκτυο.
Το αίτημα για επιβράδυνση
Στις 28 Ιουλίου δημοσιεύθηκε αίτηση για μορατόριουμ στην ανάπτυξη της ΤΝ, η οποία συγκέντρωσε 1.100 υπογραφές στελεχών του κλάδου, ανάμεσά τους ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ο υπεύθυνος έρευνας της OpenAI, ο αντίστοιχος της Meta και ένας εκ των συνιδρυτών της Google DeepMind. Στο κείμενο τονίζονται οι ανησυχίες των ειδικών, ιδιαίτερα για τις μεθόδους που στηρίζονται στην αυτο-αναδρομικότητα, δηλαδή στην ικανότητα του συστήματος να αυτοβελτιώνεται. Την ίδια ημέρα ο επικεφαλής της OpenAI, Sam Altman, δήλωνε σε αμερικανικό podcast ότι ίσως χρειάζεται επιβράδυνση, ώστε να δοθεί χρόνος στην κοινωνία να προσαρμοστεί.
Το πρόβλημα της ίδιας της δοκιμής παραμένει ανοιχτό. Η FAZ, επικαλούμενη το Axios, σημειώνει ότι οι ειδικοί ασφαλείας διαθέτουν ολοένα και λιγότερο υπολογιστικό χρόνο για τους ελέγχους, επειδή το κόστος είναι υψηλό. Ο ειδικός Lawrence Chan περιγράφει ένα πρόσθετο παράδοξο, ότι τα μοντέλα αρχίζουν να αναγνωρίζουν πότε δοκιμάζονται και καταφεύγουν σε τεχνάσματα για να παρακάμψουν τη διαδικασία.
Ως προς την ευθύνη της υποδομής, η OpenAI υποστηρίζει ότι το sandbox (το τεχνολογικό περιβάλλον που κινήθηκε η τεχνητή νοημοσύνη για τις δοκιμές) είχε παρασχεθεί από τρίτο πάροχο. Ο ερευνητής ασφαλείας Marteen Boone αντιτείνει στο TechCrunch ότι ένα πραγματικά ασφαλές περιβάλλον δεν πρέπει να έχει καμία φυσική σύνδεση με το Διαδίκτυο. Το λογισμικό Artifactory, που λειτουργούσε ως αεροστεγής θάλαμος για το κατέβασμα εξαρτημάτων, ήταν ακριβώς ο κρίκος που χακαρίστηκε. Η εταιρεία δεσμεύθηκε να ενισχύσει την απομόνωση και την παρακολούθηση σε πραγματικό χρόνο, ενώ αποσύνδεσε το πειραματικό μοντέλο.
Για την Ευρώπη, καταλήγει η Die Welt, το επεισόδιο αποκαλύπτει στρατηγική αδυναμία. Ο AI Act συνιστά το αυστηρότερο πλαίσιο παγκοσμίως και υποχρεώνει εταιρείες όπως η OpenAI να αναφέρουν τα περιστατικά στις ευρωπαϊκές αρχές, όμως η ρύθμιση δεν υποκαθιστά κέντρα δεδομένων και ανάπτυξη λογισμικού. Τα κρίσιμα μοντέλα και οι υποδομές προέρχονται από τις ΗΠΑ και την Κίνα, γι’ αυτό και πυκνώνουν οι φωνές για ανάγκη ψηφιακής κυριαρχίας της Γηραιάς Ηπείρου.
