Η Ισπανική Αρχή Προστασίας Δεδομένων (AEPD) ανακοίνωσε ότι δέχτηκε για πρώτη φορά κυβερνοεπίθεση από έναν ΑΙ agent (πράκτορα τεχνητής νοημοσύνης) που χρησιμοποιούσε ένα γνωστό μεγάλο γλωσσικό μοντέλο και ότι υπήρξε παραβίαση προσωπικών δεδομένων.
Σύμφωνα με δημοσίευμα του ισπανικού δικτύου RTVE που επικαλείται πηγές της Ισπανικής Αρχής AEPD, ο «πράκτορας ΑΙ» ξεκίνησε έναν έλεγχο για ευπάθειες σε γενικά αρχεία, συνδέθηκε με επιτυχία και, μόλις απέκτησε πρόσβαση στο σύστημα, άρχισε να αναζητά αυτόνομα ευπάθειες στην εφαρμογή. Μόλις τις εντόπισε, κατάφερε να τροποποιήσει προσωπικά δεδομένα και να αποκτήσει πρόσβαση σε τιμολόγια.
Ο αρμόδιος φορέας για την προστασία των προσωπικών δεδομένων επισήμανε ότι πριν βγουν οποιαδήποτε συμπεράσματα, οι διαθέσιμες πληροφορίες προέρχονται από την κοινοποίηση που υπέβαλε ο εν λόγω οργανισμός και θα πρέπει να αναλυθούν.
Επιπλέον, η αρχή διευκρίνισε ότι η χρήση ενός συγκεκριμένου μοντέλου τεχνητής νοημοσύνης δεν σημαίνει ότι το μοντέλο ή η υποδομή του παρόχου του έχουν παραβιαστεί, ούτε ότι το εργαλείο σχεδιάστηκε για τη διεξαγωγή κακόβουλων δραστηριοτήτων. «Αυτό που έχει σημασία από την άποψη της προστασίας δεδομένων είναι ότι ένας τρίτος φαίνεται να χρησιμοποίησε έναν ΑΙ agent ως εργαλείο για να συνδέσει επιτυχώς τα διάφορα στάδια της επίθεσης», δήλωσε η AEPD.
Ο πραγματικός κίνδυνος που ενέχουν οι AΙ agent
«Η αρχική αυτή έκθεση δεν επαρκεί για να επιβεβαιώσει την ύπαρξη στατιστικής τάσης», διευκρίνισε. Ωστόσο, αποτελεί σημαντική ένδειξη ότι οι επιθέσεις με χρήση τεχνητής νοημοσύνης δεν συνιστούν πλέον απλώς έναν θεωρητικό κίνδυνο, αλλά αρχίζουν να εκδηλώνονται στην πράξη, επηρεάζοντας την επεξεργασία δεδομένων προσωπικού χαρακτήρα.
Η αξιοποίηση της τεχνητής νοημοσύνης για κακόβουλους σκοπούς δεν είναι νέο φαινόμενο. Ωστόσο, η χρήση της σε κυβερνοεπιθέσεις έχει καταδείξει ότι οι δυνατότητές της μπορούν να διευκολύνουν την αυτοματοποίηση παράνομων δραστηριοτήτων.
Σύμφωνα με την AEPD, τα μοντέλα παραγωγικής τεχνητής νοημοσύνης χρησιμοποιούνται εδώ και καιρό για τη σύνταξη μηνυμάτων ηλεκτρονικού «ψαρέματος» (phishing), τη μετάφραση εκστρατειών ηλεκτρονικής απάτης, την πλαστοπροσωπία, την ανάλυση κώδικα, αλλά και τον εντοπισμό ευπαθειών σε συστήματα.
Η εμφάνιση των AI agent σηματοδοτεί ωστόσο μια ποιοτική αλλαγή, καθώς σε έναν πράκτορα μπορεί να ανατεθεί ένας στόχος, να σχεδιάσει ενδιάμεσες εργασίες, να χρησιμοποιήσει εργαλεία, να γράψει κώδικα, να συμβουλευτεί πηγές, να ερμηνεύσει αποτελέσματα και να προσαρμόσει τη συμπεριφορά του, αυτόνομα, ανάλογα με τα ευρήματά του.
Ο οργανισμός έχει δηλώσει ότι η τεχνητή νοημοσύνη δεν δημιουργεί νέες απειλές, αλλά αυξάνει την ταχύτητα, την κλίμακα και την προσαρμοστικότητα ήδη γνωστών κακόβουλων τεχνικών, μειώνοντας έτσι το χρόνο που διατίθεται για τον εντοπισμό και τον περιορισμό τους.
