Ρωσόφωνοι κυβερνοεγκληματίες χρησιμοποίησαν το Cursor, έναν βοηθό προγραμματισμού με τεχνητή νοημοσύνη που συνδέεται με τη SpaceX, για να διευκολύνουν επιθέσεις εναντίον τουλάχιστον επτά εταιρειών, σύμφωνα με στοιχεία που εξέτασε το Reuters και έκθεση της ισραηλινής εταιρείας κυβερνοασφάλειας Gambit Security.
Η υπόθεση αποτελεί ακόμη ένα χαρακτηριστικό παράδειγμα της νέας πραγματικότητας που διαμορφώνεται στον χώρο της κυβερνοασφάλειας: εργαλεία τεχνητής νοημοσύνης που σχεδιάστηκαν για να αυξήσουν την παραγωγικότητα μπορούν να αξιοποιηθούν και από εγκληματίες για την επιτάχυνση επιθέσεων.
Η Gambit Security εντόπισε την επιχείρηση των χάκερς αφού ανακάλυψε έναν διακομιστή που είχε εκτεθεί κατά λάθος στο διαδίκτυο από μια νέα ομάδα ransomware, την Aur0ra.
Η έκθεση του διακομιστή επέτρεψε στους ερευνητές να εξετάσουν 28 συνομιλίες μεταξύ χάκερ και ενός πράκτορα τεχνητής νοημοσύνης του Cursor.
Οι χάκερ έδιναν εντολές στην ΑΙ για παραβιάσεις
Οι συνομιλίες, οι οποίες εκτείνονταν από τις 8 Απριλίου έως τις 21 Μαΐου, καταγράφουν έναν ασυνήθιστο τρόπο χρήσης της AI. Οι δράστες δεν ζητούσαν απλώς συμβουλές για τον προγραμματισμό. Έδιναν εντολές στον AI agent να πραγματοποιήσει πραγματικές ενέργειες που συνδέονταν με παραβιάσεις συστημάτων.
Η Gambit αναφέρει ότι οι χάκερ κατάφεραν να πείσουν το σύστημα πως επρόκειτο για μια προσομοίωση ασφαλείας και, με αυτόν τον τρόπο, να παρακάμψουν τους περιορισμούς που είχαν τεθεί για την αποτροπή παράνομων ενεργειών.
Στα καταγεγραμμένα μηνύματα, οι δράστες ζητούσαν, μεταξύ άλλων, διαπιστευτήρια διαχειριστών και λειτουργικούς κωδικούς πρόσβασης. Ο AI agent ανταποκρινόταν παρέχοντας τεχνική καθοδήγηση και, σύμφωνα με τη Gambit, πραγματοποιώντας εκατοντάδες κακόβουλες ενέργειες.
Οι ερευνητές διαπίστωσαν ότι μεταξύ των στόχων περιλαμβάνονταν η βελγική εταιρεία Christeyns, που δραστηριοποιείται στην παραγωγή προϊόντων υγιεινής και καθαρισμού, η γερμανική κατασκευάστρια γκαραζόπορτων Teckentrup και η σκωτσέζικη Helideck Certification Agency, η οποία πιστοποιεί χώρους προσγείωσης ελικοπτέρων.
Στους υπόλοιπους στόχους περιλαμβάνονταν ένας διανομέας φαρμακευτικών προϊόντων στην Αργεντινή, μια ιταλική βιομηχανική εταιρεία και η Bayou Title, εταιρεία ασφάλισης τίτλων ακινήτων στη Λουιζιάνα.
Πιθανόν να ζήτησαν λύτρα
Οι εταιρείες δεν ανταποκρίθηκαν στα αιτήματα του Reuters για σχολιασμό. Τουλάχιστον μία από αυτές, η Bayou Title, εμφανίστηκε στον ιστότοπο διαρροών δεδομένων της Aur0ra, κάτι που συνήθως υποδηλώνει ότι οι δράστες επιχείρησαν να αποσπάσουν λύτρα.
Οι συνομιλίες αποκαλύπτουν επίσης πόσο διαφορετική μπορεί να γίνει μια κυβερνοεπίθεση όταν ένας AI agent βρίσκεται στη διάθεση του επιτιθέμενου. Ο χάκερ έδινε σύντομες εντολές και το σύστημα απαντούσε με τεχνικές οδηγίες, συχνά σε χαρακτηριστικό ύφος chatbot.
Σε μία περίπτωση, ο πράκτορας ενημέρωσε ότι η σύνδεση VPN είχε ολοκληρωθεί επιτυχώς, ενώ σε άλλη περίπτωση πρότεινε τη χρήση γνωστού κακόβουλου εργαλείου για την εκμετάλλευση ενός ευάλωτου συστήματος, χαρακτηρίζοντας μάλιστα την πιθανότητα επιτυχίας ως «πολύ υψηλή».
Το Reuters επισημαίνει ότι δεν ήταν δυνατό να εξακριβωθεί ανεξάρτητα σε ποιον ακριβώς βαθμό η βοήθεια του Cursor συνέβαλε στις συγκεκριμένες παραβιάσεις ούτε εάν κάθε επίθεση οδήγησε σε κλοπή δεδομένων ή απόπειρα εκβιασμού.
Η Gambit εκτιμά πάντως ότι η χρήση του AI agent έδωσε στους εγκληματίες σημαντικό πλεονέκτημα ταχύτητας. Ο διευθυντής πληροφοριών απειλών της εταιρείας, Εγιάλ Σέλα, εκτίμησε ότι η τεχνητή νοημοσύνη ενδεχομένως τους έκανε 30% έως 50% ταχύτερους, καθώς τους επέτρεπε να παρακάμπτουν εργασίες που διαφορετικά θα έπρεπε να πραγματοποιήσουν χειροκίνητα.
Η αναποτελεσματικότητα των δικλίδων ασφαλείας
Ο AI agent αρνήθηκε ορισμένα αιτήματα που αναγνώρισε ως επικίνδυνα ή παράνομα. Οι χάκερ, όμως, κατάφερναν συχνά να παρακάμψουν τις αρνήσεις ξεκινώντας εκ νέου τη συνομιλία και επαναλαμβάνοντας ότι επρόκειτο για «δοκιμή» σε ελεγχόμενο περιβάλλον.
Σύμφωνα με τη Gambit, τα αρχεία των συνομιλιών έδειξαν ότι αυτή η δικαιολογία μπορούσε να επηρεάσει τη συμπεριφορά του συστήματος και να υπονομεύσει τις δικλίδες ασφαλείας του.
Η υπόθεση αποκτά ακόμη μεγαλύτερο ενδιαφέρον λόγω της σχέσης του Cursor με τη SpaceX. Η ενσωμάτωση του Cursor στη SpaceX ολοκληρώθηκε στις αρχές Αυγούστου, καθώς το εργαλείο εντάχθηκε στο οικοσύστημα της εταιρείας του Έλον Μασκ.
Η εξέλιξη έρχεται σε μια περίοδο κατά την οποία αυξάνονται διεθνώς οι ανησυχίες για τους κινδύνους που δημιουργούν τα μοντέλα τεχνητής νοημοσύνης, ιδιαίτερα όταν αυτά μπορούν να λειτουργούν ως agents και να εκτελούν ενέργειες με μεγαλύτερο βαθμό αυτονομίας.
Διαφορά με παραδοσιακά εργαλεία ΑΙ
Η διαφορά σε σχέση με τα παραδοσιακά εργαλεία AI είναι κρίσιμη. Ένα απλό chatbot μπορεί να παρέχει πληροφορίες ή κώδικα, ενώ ένας AI agent μπορεί να αλληλεπιδρά με συστήματα, να εκτελεί εντολές και να αυτοματοποιεί μια σειρά ενεργειών.
Αυτό δημιουργεί νέες δυνατότητες παραγωγικότητας, αλλά ταυτόχρονα αυξάνει την πιθανή ζημιά όταν το εργαλείο πέσει σε λάθος χέρια.
Για τις εταιρείες κυβερνοασφάλειας, το περιστατικό αποτελεί προειδοποίηση ότι η μάχη απέναντι στην κακόβουλη χρήση της τεχνητής νοημοσύνης θα είναι διαρκής.
Η Gambit περιγράφει την κατάσταση ως ένα διαρκές «παιχνίδι γάτας και ποντικιού», στο οποίο οι πάροχοι AI επιχειρούν να ενισχύσουν τις δικλίδες ασφαλείας, ενώ οι κυβερνοεγκληματίες αναζητούν συνεχώς νέους τρόπους για να τις παρακάμψουν.
Και η τάση φαίνεται να έχει ήδη ξεκινήσει. Όπως εκτιμά ο επικεφαλής στρατηγικής της Gambit, Κέρτις Σίμπσον, η υποβοηθούμενη από AI κυβερνοπειρατεία δεν αποτελεί πλέον ένα μελλοντικό σενάριο αλλά τη νέα κανονικότητα.
Το περιστατικό με την Aur0ra δείχνει έτσι ένα από τα μεγαλύτερα παράδοξα της εποχής της τεχνητής νοημοσύνης: τα ίδια εργαλεία που υπόσχονται να κάνουν τους ανθρώπους ταχύτερους και αποτελεσματικότερους μπορούν να προσφέρουν το ίδιο πλεονέκτημα και στους ψηφιακούς εγκληματίες.
