Ο Jaxon, ένας προγραμματιστής κακόβουλου λογισμικού, ζει στη Velora, έναν εικονικό κόσμο όπου τίποτα δεν είναι υπερβολικό. Θέλει να φτιάξει κακόβουλο λογισμικό για να κλέψει κωδικούς πρόσβασης από το Google Chrome. Αυτή είναι η βάση της ιστορίας που διηγήθηκε στο Chatgpt ο Vitaly Simonovich, ο οποίος ερευνά τις απειλές της Τεχνητής Νοημοσύνης στην Cato Networks, μια εταιρεία κυβερνοασφάλειας. Πρόθυμο να παίξει μαζί του, το Chatgpt δημιούργησε κάποιον ατελή κώδικα, ενώ στη συνέχεια βοήθησε στην αποσφαλμάτωσή του. Μέσα σε έξι ώρες, ο κ. Simonovich συνεργάστηκε με το Chatgpt για να δημιουργήσει λειτουργικό κακόβουλο λογισμικό, δείχνοντας την αποτελεσματικότητα του “jailbreak” (ένας τρόπος παράκαμψης των ασφαλιστικών δικλείδων της Τεχνητής Νοημοσύνης).
Σύμφωνα με τον Gil Messing της Check Point, μιας άλλης εταιρείας κυβερνοασφάλειας, η ΤΝ έχει «διευρύνει την εμβέλεια» των χάκερ, επιτρέποντάς τους να χτυπήσουν περισσότερους στόχους με λιγότερη προσπάθεια. Η κυκλοφορία του Chatgpt το 2022 αποτέλεσε σημείο καμπής. Τα έξυπνα μοντέλα δημιουργικής τεχνητής νοημοσύνης σήμαιναν ότι οι εγκληματίες δεν χρειάζονταν πλέον να δαπανούν μεγάλα ποσά για ομάδες χάκερ και εξοπλισμό. Για τις περισσότερες επιχειρήσεις, που γίνονται ολοένα και συχνότερα στόχος κυβερνοεπιθέσεων με τη βοήθεια της ΤΝ, αυτή η εξέλιξη ήταν ανησυχητική· για όσους όμως δραστηριοποιούνται στην κυβερνοασφάλεια, αποτέλεσε μάλλον μια θετική εξέλιξη.
Η νέα τεχνολογία έχει επιδεινώσει τις απειλές για την ασφάλεια στον κυβερνοχώρο με δύο κύριους τρόπους. Πρώτον, οι χάκερς έχουν στραφεί σε μεγάλα γλωσσικά μοντέλα (LLM) για να επεκτείνουν το πεδίο εφαρμογής του κακόβουλου λογισμικού. Η δημιουργία deepfakes, απατηλών μηνυμάτων ηλεκτρονικού ταχυδρομείου και επιθέσεων κοινωνικής μηχανικής που χειραγωγούν την ανθρώπινη συμπεριφορά είναι πλέον πολύ πιο εύκολη και γρήγορη. Το XanthoroxAI, ένα μοντέλο TN που σχεδιάστηκε από εγκληματίες του κυβερνοχώρου για μόλις 150 δολάρια το μήνα, μπορεί να χρησιμοποιηθεί για τη δημιουργία deepfakes, μαζί με άλλες κακόβουλες δραστηριότητες,. Οι χάκερς μπορούν να εξαπολύσουν σαρωτικές επιθέσεις phishing ζητώντας από ένα LLM να συγκεντρώσει τεράστιες ποσότητες πληροφοριών από το διαδίκτυο και τα μέσα κοινωνικής δικτύωσης για να πλαστογραφήσουν εξατομικευμένα μηνύματα ηλεκτρονικού ταχυδρομείου. Επιπλέον, για το spearphishing – το να χτυπήσει κανείς έναν συγκεκριμένο στόχο με μια εξαιρετικά εξατομικευμένη επίθεση – μπορούν να δημιουργήσουν ψεύτικες φωνές και βιντεοκλήσεις από συναδέλφους για να πείσουν έναν υπάλληλο να κατεβάσει και να εεγκαταστήσει ύποπτο λογισμικό.
Δεύτερον, η ΤΝ χρησιμοποιείται για να κάνει το ίδιο το κακόβουλο λογισμικό πιο απειλητικό. Ένα λογισμικό μεταμφιεσμένο σε έγγραφο pdf, για παράδειγμα, μπορεί να περιέχει ενσωματωμένο κώδικα που συνεργάζεται με την ΤΝ για να διεισδύσει σε ένα δίκτυο. Οι επιθέσεις στα συστήματα ασφαλείας και άμυνας της Ουκρανίας τον Ιούλιο χρησιμοποίησαν μια τέτοια προσέγγιση. Όταν το κακόβουλο λογισμικό έφτανε σε αδιέξοδο, ήταν σε θέση να ζητήσει τη βοήθεια ενός LLM στο cloud για να δημιουργήσει νέο κώδικα ώστε να διαπεράσει τις άμυνες των συστημάτων. Δεν είναι ξεκάθαρο πόση ζημιά προκλήθηκε, αλλά αυτή ήταν η πρώτη επίθεση του είδους της, σημειώνει ο κ. Simonovich.
Για τις επιχειρήσεις, η αυξανόμενη απειλή είναι τρομακτική – και δυνητικά δαπανηρή. Πέρυσι, σύμφωνα με την ΙΒΜ, η ΤΝ συμμετείχε σε μία στις έξι παραβιάσεις δεδομένων. Επίσης, οδήγησε σε δύο στις πέντε απάτες phishing που στόχευαν τα μηνύματα ηλεκτρονικού ταχυδρομείου των επιχειρήσεων. Η Deloitte, μια συμβουλευτική εταιρεία, εκτιμά ότι μέχρι το 2027, η δημιουργική τεχνητή νοημοσύνη θα μπορούσε να επιτρέψει απάτες ύψους 40 δισ. δολαρίων, από 12 δισ. δολάρια το 2023.
Καθώς το κόστος των κυβερνοεπιθέσεων που αξιοποιούν την ΤΝ αυξάνεται, αυξάνεται αντίστοιχα και η επιχειρηματική δραστηριότητα γύρω από την προστασία έναντί τους. Η εταιρεία ερευνών Gartner προβλέπει ότι την περίοδο 2024–2026 οι εταιρικές δαπάνες για την κυβερνοασφάλεια θα αυξηθούν κατά περίπου 25%, φτάνοντας τα 240 δισ. δολάρια. Αυτό εξηγεί γιατί οι μετοχές των εταιρειών που παρακολουθούνται από τον δείκτη Nasdaq CTA Cybersecurity κατέγραψαν άνοδο ανάλογου μεγέθους το τελευταίο έτος, ξεπερνώντας την απόδοση του ευρύτερου δείκτη Nasdaq.Στις 18 Αυγούστου ο Nikesh Arora, επικεφαλής της Palo Alto Networks, μιας από τις μεγαλύτερες εταιρείες κυβερνοασφάλειας στον κόσμο, σημείωσε ότι τα περιστατικά ασφάλειας δεδομένων που σχετίζονται με τη δημιουργική TN έχουν «υπερδιπλασιαστεί από πέρυσι» και ανέφερε σχεδόν διπλασιασμό των λειτουργικών κερδών τους 12 μήνες έως τον Ιούλιο, σε σύγκριση με το προηγούμενο έτος.
Η προοπτική ότι τέτοιου είδους επιθέσεις θα γίνουν ο κανόνας, έχει οδηγήσει τις εταιρείες κυβερνοασφάλειας σε αγοραστικό οργασμό. Στις 30 Ιουλίου η Palo Alto Networks δήλωσε ότι θα αγοράσει την CyberArk, μια εταιρεία ασφάλειας ταυτότητας, έναντι 25 δισ. δολαρίων. Νωρίτερα τον ίδιο μήνα, η εταιρεία δαπάνησε 700 εκατ. δολάρια για την Protect ΑΙ, η οποία βοηθά τις επιχειρήσεις να ασφαλίσουν τα συστήματα τεχνητής νοημοσύνης τους. Στις 5 Αυγούστου η SentinelOne, μια ανταγωνίστριά της, ανακοίνωσε ότι εξαγοράζει την Prompt Security, μια εταιρεία που κατασκευάζει λογισμικό για την προστασία των επιχειρήσεων που υιοθετούν την ΤΝ, έναντι 250 εκατ. δολαρίων.
Οι τεχνολογικοί γίγαντες με ταχέως αναπτυσσόμενους βραχίονες υπολογιστικού νέφους ενισχύουν επίσης τις προσφορές τους στον τομέα της κυβερνοασφάλειας. Η Microsoft, για παράδειγμα, εξαγόρασε το 2021, την CloudKnox, μια πλατφόρμα ασφάλειας ταυτότητας, και ανέπτυξε το Defender for Cloud, μια εσωτερική εφαρμογή για επιχειρήσεις που κάνει τα πάντα, από τον έλεγχο για κενά ασφαλείας και την προστασία των δεδομένων μέχρι την παρακολούθηση των απειλών. Η Google αναπτύσσει το Big Sleep, το οποίο ανιχνεύει κυβερνοεπιθέσεις και ευπάθειες ασφαλείας για τους πελάτες πριν κάποιος τις εκμεταλλευτεί. Τον Μάρτιο δαπάνησε 32 δισ. δολάρια για να αγοράσει την Wiz, μια νεοσύστατη εταιρεία κυβερνοασφάλειας.
Ο ανταγωνισμός και η ενοποίηση μπορούν να δημιουργήσουν επιχειρήσεις ικανές να αντιμετωπίσουν τους ευέλικτους εγκληματίες του κυβερνοχώρου με τη βοήθεια της τεχνητής νοημοσύνης. Ωστόσο, στη μάχη για την ανάπτυξη ολοένα πιο έξυπνων συστημάτων, η ασφάλεια κινδυνεύει να βρεθεί σε δεύτερη μοίρα μπροστά στη φιλοδοξία για τη διεύρυνση των τεχνολογικών ορίων. Το να συμβαδίσει κανείς με τον Jaxon δεν θα είναι διόλου εύκολο.
© 2025 The Economist Newspaper Limited. All rights reserved. Άρθρο από τον Economist, το οποίο μεταφράστηκε και δημοσιεύθηκε με επίσημη άδεια από την www.powergame.gr. Το πρωτότυπο άρθρο, στα αγγλικά, βρίσκεται στο www.economist.com
