Η Google αποκαλύπτει πρωτοφανή κυβερνοεπίθεση – Πράκτορες τεχνητής νοημοσύνης έδρασαν χωρίς ανθρώπινη παρέμβαση

Ρωσόφωνοι χάκερ χρησιμοποίησαν αυτόνομους πράκτορες AI για τον εντοπισμό κενών ασφαλείας και επιθέσεις σε γαλλικούς ιστότοπους

Η Google αποκαλύπτει πρωτοφανή κυβερνοεπίθεση ©Magnific

Ρωσόφωνοι χάκερ δημιούργησαν πράκτορες τεχνητής νοημοσύνης (AI), οι οποίοι φέρονται να πραγματοποίησαν την πρώτη πλήρως αυτοματοποιημένη κυβερνοεπίθεση στην ιστορία, χωρίς ανθρώπινη παρέμβαση, σύμφωνα με ανακοίνωση της Google.

Σύμφωνα με δημοσίευμα του πολωνικού Onet.pl, η ομάδα ανάλυσης κυβερνοαπειλών του τεχνολογικού κολοσσού ανακοίνωσε ότι εντόπισε χάκερ που αξιοποιούσαν την τεχνητή νοημοσύνη για την πλήρη αυτοματοποίηση της διαδικασίας εντοπισμού και εκμετάλλευσης κενών ασφαλείας. Όπως επισημαίνει η Google, πρόκειται για εξέλιξη χωρίς προηγούμενο, καθώς οι επιτιθέμενοι κατάφεραν να αναθέσουν στα συστήματα AI ολόκληρη τη διαδικασία, χωρίς ανθρώπινη συμμετοχή.

Το περιστατικό ενδέχεται να αποτελέσει σημείο καμπής στη χρήση της τεχνητής νοημοσύνης για την πραγματοποίηση κυβερνοεπιθέσεων. Πρόκειται για ένα ζήτημα που βρίσκεται στο επίκεντρο της διεθνούς επικαιρότητας και προκαλεί έντονη ανησυχία στις κυβερνήσεις και στους αρμόδιους φορείς, ιδιαίτερα μετά την κυκλοφορία, τον Απρίλιο, του εξειδικευμένου μοντέλου Mythos από την εταιρεία τεχνητής νοημοσύνης Anthropic.

Πώς έδρασαν οι πράκτορες AI

Σύμφωνα με την Google, οι χάκερ, στην τεχνική τεκμηρίωση των οποίων εντοπίστηκε η χρήση της ρωσικής γλώσσας, δημιούργησαν μια σειρά από πράκτορες τεχνητής νοημοσύνης. Στόχος τους ήταν να αυτοματοποιήσουν τον εντοπισμό ευπαθειών σε λογισμικά και την ανάπτυξη τρόπων αξιοποίησής τους, χωρίς ανθρώπινη καθοδήγηση.

Αυτό σημαίνει ότι οι πράκτορες AI μπορούσαν να εντοπίζουν αυτόνομα αδυναμίες σε συστήματα λογισμικού και να αναπτύσσουν τρόπους εκμετάλλευσής τους. Σύμφωνα με την Google, οι επιτιθέμενοι έβαλαν στο στόχαστρο γαλλικούς ιστότοπους στους τομείς των μέσων ενημέρωσης, της ψυχαγωγίας και της εκπαίδευσης.

Μέχρι σήμερα, ακόμη και τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης δεν ήταν σε θέση να πραγματοποιούν κυβερνοεπιθέσεις εξ ολοκλήρου αυτόνομα. Συνήθως απαιτούνταν η συμμετοχή εξειδικευμένων χάκερ, οι οποίοι καθοδηγούσαν τις ενέργειές τους ή διόρθωναν πιθανά λάθη.

Η σημαντική αλλαγή είναι ότι τα μοντέλα τεχνητής νοημοσύνης επιτρέπουν πλέον στους επιτιθέμενους να επιταχύνουν τις ενέργειές τους και να τις κάνουν περισσότερο στοχευμένες, περιορίζοντας την ανάγκη για συνεχή ανθρώπινη παρέμβαση.

Γιατί οι αυτόνομοι πράκτορες AI αλλάζουν τα δεδομένα στην κυβερνοασφάλεια

Οι πράκτορες τεχνητής νοημοσύνης διαφέρουν από τα συμβατικά εργαλεία AI, καθώς μπορούν να αναλαμβάνουν σύνθετες εργασίες και να εκτελούν διαδοχικά βήματα για την επίτευξη ενός στόχου, χωρίς να χρειάζονται συνεχή καθοδήγηση από τον χρήστη.

Στον τομέα της κυβερνοασφάλειας, η δυνατότητα αυτή αποκτά ιδιαίτερη σημασία. Η αυτοματοποίηση του εντοπισμού αδυναμιών σε λογισμικά μπορεί να περιορίσει σημαντικά τον χρόνο προετοιμασίας μιας επίθεσης, ενώ παράλληλα επιτρέπει την εξέταση μεγαλύτερου αριθμού συστημάτων.

Η εξέλιξη δημιουργεί νέες προκλήσεις για τις επιχειρήσεις και τους οργανισμούς που διαχειρίζονται ψηφιακές υπηρεσίες και κρίσιμες υποδομές. Οι παραδοσιακές διαδικασίες εντοπισμού και αντιμετώπισης απειλών ενδέχεται να δυσκολευτούν να ανταποκριθούν σε επιθέσεις που εξελίσσονται με μεγάλη ταχύτητα και περιορισμένη ανθρώπινη συμμετοχή.

Αυξάνεται η ανησυχία για τις κυβερνοαπειλές

Η αποκάλυψη της Google αναμένεται να εντείνει την ανησυχία των κυβερνήσεων και των διαχειριστών κρίσιμων υποδομών, οι οποίοι βρίσκονται ήδη αντιμέτωποι με νέες προκλήσεις από τη χρήση της τεχνητής νοημοσύνης σε κυβερνοεπιθέσεις.

Προβληματισμό έχει προκαλέσει και η καλοκαιρινή επίθεση ενός πράκτορα της OpenAI στην πλατφόρμα Hugging Face. Αν και εκείνη η επίθεση πραγματοποιήθηκε αυτόνομα, δεν φάνηκε να έχει κακόβουλο προσανατολισμό προς συγκεκριμένους στόχους, σε αντίθεση με την περίπτωση που αποκάλυψε η Google.

Οι ανησυχίες εντείνονται επίσης μετά τον πρόσφατο εντοπισμό σοβαρών κενών ασφαλείας στη γλώσσα προγραμματισμού PHP, στην οποία βασίζεται μεγάλο μέρος των ιστοτόπων παγκοσμίως, καθώς και έπειτα από σειρά επιθέσεων σε ψυγεία σούπερ μάρκετ, για τις οποίες αποδίδεται μέρος της ευθύνης στο Ιράν.

Η νέα αυτή εξέλιξη αναδεικνύει τη διπλή διάσταση της τεχνητής νοημοσύνης: από τη μία πλευρά προσφέρει σημαντικές δυνατότητες στην τεχνολογική ανάπτυξη και την κυβερνοάμυνα, από την άλλη δημιουργεί νέα εργαλεία στα χέρια κακόβουλων χρηστών. Για τις επιχειρήσεις και τις κυβερνήσεις, η ενίσχυση της ψηφιακής ασφάλειας και η ταχύτερη αντιμετώπιση των ευπαθειών αποκτούν πλέον ακόμη μεγαλύτερη σημασία.