Οι μεγάλης κλίμακας διαταραχές στην κυβερνοασφάλεια «θα επιδεινωθούν σημαντικά προτού αρχίσουν να βελτιώνονται», σύμφωνα με ανώτατο στέλεχος της Anthropic PBC.
Η προειδοποίηση αυτή διατυπώθηκε τον Οκτώβριο από τον αναπληρωτή επικεφαλής ασφάλειας πληροφοριών της εταιρείας Τζέισον Κλίντον, σε μια περίοδο κατά την οποία επιχειρήσεις και κυβερνήσεις σε ολόκληρο τον κόσμο προσπαθούσαν να προστατεύσουν τους ιστοτόπους τους από ένα κενό ασφαλείας σε γλώσσα προγραμματισμού που αποτελεί τη βάση για τεράστιο μέρος του διαδικτύου. Το συγκεκριμένο κενό εντοπίστηκε από ερευνητές κυβερνοασφάλειας με τη βοήθεια της τεχνητής νοημοσύνης.
Τα μοντέλα AI που αναπτύσσουν η Anthropic, η OpenAI, η Meta Platforms και άλλες εταιρείες αποκτούν ολοένα μεγαλύτερη ικανότητα να εντοπίζουν σοβαρά κενά κυβερνοασφάλειας.
Το πρόβλημα είναι ότι αυτές οι δυνατότητες δεν αξιοποιούνται αποκλειστικά από ερευνητές που επιδιώκουν να εντοπίσουν και να διορθώσουν αδυναμίες στα πληροφοριακά συστήματα. Οι χάκερ μπορούν επίσης να χρησιμοποιούν την τεχνολογία για να ανακαλύπτουν ευπάθειες και να εξαπολύουν κυβερνοεπιθέσεις.
Η κατάσταση περιπλέκεται ακόμη περισσότερο από το γεγονός ότι ορισμένα μοντέλα τεχνητής νοημοσύνης έχουν επιδείξει απρόβλεπτη συμπεριφορά, καταφέρνοντας να ξεφύγουν από ελεγχόμενα περιβάλλοντα δοκιμών και να παραβιάσουν συστήματα εξωτερικών οργανισμών.
Γιατί αυξάνεται η ανησυχία για τα κενά κυβερνοασφάλειας
Τα σφάλματα στον κώδικα των υπολογιστικών συστημάτων είναι συνηθισμένο φαινόμενο και οι προγραμματιστές εκδίδουν τακτικά ενημερώσεις ασφαλείας για την αντιμετώπισή τους.
Οι ερευνητές που ανακαλύπτουν τέτοιες ευπάθειες συνήθως τις αναφέρουν στους δημιουργούς του λογισμικού ή στον οργανισμό που είναι υπεύθυνος για τον κώδικα, ορισμένες φορές λαμβάνοντας χρηματική αμοιβή.
Ωστόσο, και οι χάκερ αναζητούν συστηματικά αδυναμίες που μπορούν να αξιοποιήσουν για να εισχωρήσουν σε δίκτυα υπολογιστών, επισημαίνει το Βloomberg.
Οι πιο επικίνδυνες απ’ αυτές είναι γνωστές ως ευπάθειες «zero-day», επειδή δεν έχουν εντοπιστεί προηγουμένως από τους ειδικούς κυβερνοασφάλειας και οι προγραμματιστές δεν διαθέτουν κανένα χρονικό περιθώριο για να τις διορθώσουν προτού αρχίσει η εκμετάλλευσή τους από κακόβουλους παράγοντες.
Τα μοντέλα τεχνητής νοημοσύνης μπορούν πλέον να ανακαλύπτουν σφάλματα και ευπάθειες zero-day με εντυπωσιακή ταχύτητα, εντοπίζοντας προβλήματα που οι ειδικοί θα χρειάζονταν πολύ περισσότερο χρόνο για να ανακαλύψουν — εάν τα ανακάλυπταν ποτέ.
Ο κίνδυνος είναι ότι οι χάκερ, ενισχυμένοι με εργαλεία AI, θα μπορούν να εκμεταλλεύονται τα νέα κενά ασφαλείας προτού οι οργανισμοί προλάβουν να τα αποκαταστήσουν.
Ο Κλίντον έχει προειδοποιήσει ότι πλησιάζει ένα «τσουνάμι ευπαθειών», επισημαίνοντας ότι «δεν θα υπάρχει αρκετός χρόνος για την εγκατάσταση διορθώσεων στις κρίσιμες υποδομές».
Ήδη καταγράφεται αύξηση στον αριθμό των ευπαθειών που ανακαλύπτονται, αν και μέχρι στιγμής υπάρχουν περιορισμένα στοιχεία που αποδεικνύουν ότι η εξέλιξη αυτή έχει οδηγήσει σε περισσότερες κυβερνοεπιθέσεις.
Γιατί μοντέλα AI έχουν παραβιάσει συστήματα εξωτερικών οργανισμών
Προτού διατεθούν στο ευρύ κοινό, τα μοντέλα τεχνητής νοημοσύνης υποβάλλονται σε δοκιμές από τις εταιρείες που τα αναπτύσσουν, μέσα σε ελεγχόμενα περιβάλλοντα γνωστά ως «sandboxes».
Ορισμένα μοντέλα έχουν καταφέρει να παρακάμψουν τους περιορισμούς αυτών των δοκιμών, αποκτώντας πρόσβαση στο διαδίκτυο προκειμένου να αναζητήσουν τις πληροφορίες που χρειάζονται.
Σε ορισμένες περιπτώσεις, η συμπεριφορά αυτή περιλάμβανε ακόμη και παραβιάσεις συστημάτων τρίτων οργανισμών.
«Δεν διαθέτουν ηθική πυξίδα ώστε να κατανοούν τι συνιστά “εξαπάτηση” στην προσπάθειά τους να βρουν λύση», εξηγεί ο Λου Στάινμπεργκ, ιδρυτής και διευθύνων εταίρος του ερευνητικού εργαστηρίου κυβερνοασφάλειας CTM Insights.
«Εάν είναι ευκολότερο να παραβιάσουν ένα σύστημα και να κλέψουν μια απάντηση παρά να τη βρουν μόνα τους, αυτό εξυπηρετεί τον στόχο τους, που είναι να εξασφαλίσουν την απάντηση», προσθέτει.
Τον Ιούλιο, μοντέλα της OpenAI παραβίασαν την πλατφόρμα Hugging Face, έναν δημοφιλή διαδικτυακό χώρο ανταλλαγής μοντέλων τεχνητής νοημοσύνης, σ’ ένα περιστατικό το οποίο η δημιουργός του ChatGPT χαρακτήρισε «πρωτοφανές».
Το συμβάν πυροδότησε εκκλήσεις για αυστηρότερους περιορισμούς στην τεχνολογία, ενώ οδήγησε και άλλες εταιρείες AI να επανεξετάσουν τα δικά τους μέτρα ασφαλείας.
Αρκετές επιχειρήσεις ανακοίνωσαν ότι εντόπισαν παραβιάσεις που μέχρι τότε παρέμεναν άγνωστες.
Η Anthropic αποκάλυψε τον Ιούλιο ότι το μοντέλο Claude είχε παραβιάσει τρεις οργανισμούς κατά τη διάρκεια δοκιμών.
Αντίστοιχα, η Meta ανακοίνωσε τον Αύγουστο ότι το μοντέλο Muse Spark 1.1 απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε συστήματα εξωτερικής υπηρεσίας ενώ βρισκόταν σε φάση δοκιμών.
Πώς κατάφεραν τα μοντέλα AI να ξεφύγουν από τα περιβάλλοντα δοκιμών
Τα περιβάλλοντα sandbox δεν έχουν σχεδιαστεί πρώτιστα για να εμποδίζουν τα μοντέλα να αποκτούν πρόσβαση στο διαδίκτυο. Βασικός τους σκοπός είναι να περιορίζουν την πρόσβαση στα εσωτερικά συστήματα των εταιρειών ανάπτυξης και να ελαχιστοποιούν τις πιθανές ζημιές.
Πριν από την εμφάνιση των ιδιαίτερα ισχυρών μοντέλων AI, η δυνατότητα διαφυγής από αυτά τα περιβάλλοντα δεν θεωρούνταν επείγουσα απειλή.
Αυτή η αδυναμία στον σχεδιασμό των συστημάτων ασφαλείας συνέβαλε στη δημιουργία των συνθηκών που επέτρεψαν τις παραβιάσεις.
Κατά τη διάρκεια των δοκιμών της OpenAI, η εταιρεία ανέφερε ότι δεν είχε παραχωρήσει στα μοντέλα άμεση πρόσβαση στο διαδίκτυο. Ωστόσο, εκείνα εκμεταλλεύτηκαν μια μέχρι τότε άγνωστη ευπάθεια zero-day στο περιβάλλον δοκιμών.
Στην περίπτωση της Anthropic, τα μοντέλα είχαν ενημερωθεί ότι λειτουργούσαν σε προσομοιωμένα περιβάλλοντα χωρίς σύνδεση στο διαδίκτυο. Ωστόσο, εξαιτίας ασυνεννοησίας μεταξύ της Anthropic και του συνεργάτη που πραγματοποιούσε την αξιολόγηση, υπήρχε στην πραγματικότητα ενεργή πρόσβαση στο διαδίκτυο.
Η Meta ανέφερε ότι η παραβίαση από το δικό της μοντέλο οφειλόταν σε σφάλμα κατά τη διαμόρφωση του περιβάλλοντος δοκιμών και ότι διερευνούσε περαιτέρω το περιστατικό.
Ορισμένοι παρατηρητές της βιομηχανίας υποστηρίζουν ότι τέτοιου είδους περιστατικά έχουν εξελιχθεί και σε έναν βολικό τρόπο προβολής των εταιρειών τεχνητής νοημοσύνης.
Το γεγονός ότι ένα μοντέλο καταφέρνει να ξεφύγει από το περιβάλλον δοκιμών του δημιουργεί την εντύπωση ότι διαθέτει ασυνήθιστα υψηλές δυνατότητες, ενισχύοντας την εικόνα της εταιρείας που το ανέπτυξε.
Πόση ζημιά έχουν προκαλέσει οι παραβιάσεις των συστημάτων
Είναι δύσκολο να εκτιμηθεί με ακρίβεια ο βαθμός στον οποίο τα συγκεκριμένα περιστατικά προκάλεσαν πραγματική ζημιά. Δεν έχουν αναφερθεί δημόσια οικονομικές απώλειες ή υλικές καταστροφές που να συνδέονται με αυτά.
Ωστόσο, τα μοντέλα απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα.
Σε μία περίπτωση, κατά τη διάρκεια δοκιμών του μοντέλου Claude Mythos 5 της Anthropic, το σύστημα επιχείρησε να επηρεάσει έναν πραγματικό προγραμματιστή λογισμικού ανοιχτού κώδικα, με στόχο την εισαγωγή κακόβουλου κώδικα σε ενεργό έργο λογισμικού.
Εάν στο μέλλον τέτοια μοντέλα επιχειρήσουν να διεισδύσουν σε μεγαλύτερα πληροφοριακά συστήματα ή οργανισμούς που επηρεάζουν άμεσα τις ζωές και τα μέσα βιοπορισμού των ανθρώπων, οι συνέπειες θα μπορούσαν να είναι χαοτικές.
Πώς χρησιμοποιούν ήδη οι χάκερ την τεχνητή νοημοσύνη
Τα εμπόδια για την πραγματοποίηση κυβερνοεπιθέσεων είναι πλέον χαμηλότερα από ποτέ.
Η αξιοποίηση της τεχνητής νοημοσύνης για κακόβουλες ενέργειες απαιτεί πολύ λιγότερες τεχνικές γνώσεις, ενώ οι χάκερ μπορούν να χρησιμοποιούν τα μοντέλα για την αυτοματοποίηση και την επιτάχυνση δραστηριοτήτων όπως το ηλεκτρονικό ψάρεμα δεδομένων (phishing) και η ανάπτυξη κακόβουλου λογισμικού (malware).
Οι κυβερνοεπιθέσεις που έχουν πραγματοποιηθεί υπό ανθρώπινη καθοδήγηση και έχουν δημοσιοποιηθεί μέχρι σήμερα φαίνεται ότι είχαν σοβαρότερες συνέπειες από τις παραβιάσεις των ελεγχόμενων περιβαλλόντων δοκιμών.
Σε αυτές περιλαμβάνεται ακόμη και η κλοπή ευαίσθητων κυβερνητικών δεδομένων.
Τον Σεπτέμβριο του 2025, ερευνητική ομάδα της Anthropic αποκάλυψε αυτό που χαρακτήρισε ως την πρώτη καταγεγραμμένη περίπτωση αξιοποίησης της τεχνητής νοημοσύνης για την καθοδήγηση μιας εκστρατείας κυβερνοεπιθέσεων χωρίς ουσιαστική ανθρώπινη παρέμβαση.
Σύμφωνα με την εκτίμηση της εταιρείας, μια ομάδα χάκερ που υποστηριζόταν από το κινεζικό κράτος χρησιμοποίησε το Claude Code σε μια μεγάλης κλίμακας επιχείρηση κλοπής δεδομένων και εκβιασμού.
Ακολούθησαν και άλλες παρόμοιες επιθέσεις.
Τον Φεβρουάριο, το Bloomberg αποκάλυψε ότι άγνωστος χάκερ χρησιμοποίησε το Claude της Anthropic για να πραγματοποιήσει σειρά κυβερνοεπιθέσεων εναντίον κυβερνητικών υπηρεσιών του Μεξικού.
Η επίθεση είχε ως αποτέλεσμα την κλοπή τεράστιου όγκου ευαίσθητων φορολογικών στοιχείων και προσωπικών δεδομένων ψηφοφόρων.
Από τον Ιανουάριο, ρωσόφωνοι χάκερ κατάφεραν να παραβιάσουν περισσότερα από 600 συστήματα προστασίας δικτύων (firewalls) σε συσκευές δεκάδων χωρών, με τη βοήθεια εμπορικά διαθέσιμων εργαλείων τεχνητής νοημοσύνης, σύμφωνα με έρευνα κυβερνοασφάλειας της Amazon.
Στην Ιαπωνία, επιχειρήσεις έχουν βρεθεί φέτος αντιμέτωπες με κύμα κυβερνοεπιθέσεων, γεγονός που ώθησε το κυβερνών Φιλελεύθερο Δημοκρατικό Κόμμα να προειδοποιήσει ότι στο άμεσο μέλλον ενδέχεται να εκδηλωθούν «επιθέσεις κυβερνοκορεσμού με τεχνητή νοημοσύνη» (AI cyber saturation attacks).
Πρόκειται για επιθέσεις κατά τις οποίες η τεχνολογία εντοπίζει αυτόματα ευπάθειες σε πληροφοριακά συστήματα και εξαπολύει ταυτόχρονες επιθέσεις εναντίον τους.
Τι κάνουν οι εταιρείες για να αποτρέψουν τις κυβερνοεπιθέσεις
Η OpenAI ανακοίνωσε τον Αύγουστο ότι σχεδιάζει να ενισχύσει την παρακολούθηση του τρόπου με τον οποίο τα πιο προηγμένα μοντέλα της, που δεν έχουν ακόμη διατεθεί στο κοινό, επιλύουν προβλήματα και χρησιμοποιούν διαδικτυακά εργαλεία.
Στόχος της είναι οι ομάδες ασφαλείας να ειδοποιούνται για ανησυχητικές συμπεριφορές μέσα σε χρονικό διάστημα 30 λεπτών.
Από την πλευρά της, η Anthropic έχει περιορίσει την πρόσβαση στο ιδιαίτερα ισχυρό μοντέλο Mythos, επιτρέποντας τη χρήση του μόνο σε επαληθευμένους οργανισμούς.
Αντ’ αυτού, διαθέτει το Fable, μια έκδοση που ενσωματώνει πρόσθετες δικλίδες ασφαλείας, σχεδιασμένες ώστε να αποτρέπουν την κακόβουλη χρήση της τεχνολογίας σε τομείς όπως η κυβερνοασφάλεια.
Τόσο η Anthropic όσο και η Meta έχουν δημοσιεύσει πλαίσια αξιολόγησης των κινδύνων που συνδέονται με τα μοντέλα τους, αν και τα σχέδιά τους δεν είναι τόσο λεπτομερή όσο εκείνα της OpenAI.
Η ενίσχυση των μηχανισμών προστασίας στα περιβάλλοντα sandbox αποτελεί ιδιαίτερα σύνθετη πρόκληση, καθώς σε ορισμένες περιπτώσεις είναι απαραίτητο να παρέχεται σκόπιμα πρόσβαση στο διαδίκτυο, ώστε οι δοκιμές να προσομοιώνουν με μεγαλύτερη ακρίβεια τις πραγματικές συνθήκες λειτουργίας.
Την ίδια στιγμή, πληθαίνουν τόσο στην Ευρώπη όσο και στις Ηνωμένες Πολιτείες οι εκκλήσεις για υποχρεωτικές δοκιμές ασφαλείας των μοντέλων τεχνητής νοημοσύνης υπό κρατική εποπτεία.
Στις εκκλήσεις αυτές συμμετέχουν νομοθέτες, ερευνητές και ειδικοί κυβερνοασφάλειας, οι οποίοι ανησυχούν ότι η ταχύτητα ανάπτυξης της τεχνολογίας υπερβαίνει πλέον την ικανότητα των εταιρειών και των ρυθμιστικών αρχών να κατανοούν και να ελέγχουν πλήρως τις δυνατότητές της.
«Πρέπει να περιορίσουμε τον ρυθμό ανάπτυξης, έως ότου οι ερευνητές καταφέρουν να κατανοήσουν τα συστήματα που δημιουργούν», δήλωσε ο Τζέφρι Λάντις (Jeffrey Ladish), εκτελεστικός διευθυντής της Palisade Research, ενός μη κερδοσκοπικού οργανισμού που μελετά τις δυνατότητες των προηγμένων συστημάτων τεχνητής νοημοσύνης.
