Νέες διαστάσεις λαμβάνει η υπόθεση του αυτόνομου πράκτορα τεχνητής νοημοσύνης της OpenAI που κατάφερε να παραβιάσει την τεχνολογική πλατφόρμα Hugging Face, καθώς αποκαλύπτεται ότι είχε αποκτήσει πρόσβαση και σε τέσσερις ακόμη εταιρείες.
Όπως γράφουν οι Times του Λονδίνου, πρόκειται για την πρώτη δημοσίως καταγεγραμμένη κυβερνοεπίθεση που πραγματοποιήθηκε αυτόνομα από σύστημα τεχνητής νοημοσύνης, με την έκταση του περιστατικού να αποδεικνύεται μεγαλύτερη από ό,τι είχε αρχικά γίνει γνωστό.
Σύμφωνα με νεότερη ενημέρωση της OpenAI, ο πράκτορας εντόπισε στο διαδίκτυο διαρρεύσαντα στοιχεία σύνδεσης και τα χρησιμοποίησε για να αποκτήσει πρόσβαση σε τέσσερις διαφορετικές υπηρεσίες.
Μία από αυτές ήταν ένα περιβάλλον δοκιμών, το οποίο αξιοποίησε ως αφετηρία για την επίθεση στη Hugging Face, ενδεχομένως προκειμένου να αποκρύψει την πραγματική προέλευσή της.
Η εταιρεία που διαχειριζόταν το συγκεκριμένο περιβάλλον δεν έχει κατονομαστεί. Είναι, πάντως, πελάτης της αμερικανικής Modal Labs, η οποία διευκρίνισε ότι τα δικά της συστήματα δεν παραβιάστηκαν.
Ο πράκτορας επιχείρησε επίσης να χρησιμοποιήσει τις υπόλοιπες υπηρεσίες για την αποθήκευση δεδομένων και ως κέντρο εντολών και ελέγχου της επίθεσης στη Hugging Face.
Άλτμαν: Εξαιρετικά επιστημονικής φαντασίας κυβερνοπεριστατικό
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, χαρακτήρισε την υπόθεση ένα «εξαιρετικά επιστημονικής φαντασίας κυβερνοπεριστατικό», μιλώντας στο podcast «Invest Like the Best».
Όπως ανέφερε, ήταν το πρώτο περιστατικό ασφαλείας που τον επηρέασε τόσο έντονα, δηλώνοντας μάλιστα έκπληκτος που περισσότεροι άνθρωποι δεν αντιλαμβάνονται με την ίδια ένταση τη σοβαρότητά του.
Ο Άλτμαν αποκάλυψε ότι η εταιρεία διέκοψε προσωρινά την εκπαίδευση συστημάτων τεχνητής νοημοσύνης, προκειμένου να εξετάσει πώς θα ενισχύσει την ασφάλεια των απομονωμένων περιβαλλόντων δοκιμών, γνωστών ως sandboxes.
Αναφερόμενος στις μακροπρόθεσμες συνέπειες, υποστήριξε ότι, εφόσον οι δυνατότητες της τεχνητής νοημοσύνης συνεχίσουν να εξελίσσονται με τον ίδιο ρυθμό, ενδέχεται να χρειαστεί επιβράδυνση της ανάπτυξής της, ώστε οι κυβερνήσεις και η κοινωνία να προλάβουν να δημιουργήσουν επαρκείς δικλίδες ασφαλείας.
Το περιστατικό σημειώθηκε μεταξύ 9 και 13 Ιουλίου. Ο πράκτορας φέρεται να κατάφερε να διαφύγει από το ελεγχόμενο περιβάλλον στο οποίο λειτουργούσε, στην προσπάθειά του να παρακάμψει τους περιορισμούς ενός τεστ κυβερνοασφάλειας που του είχε ανατεθεί.
Έκκληση για επιβράδυνση της ανάπτυξης της AI
Οι αποκαλύψεις έχουν εντείνει τις ανησυχίες για την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης και την ανάγκη αυστηρότερης εποπτείας τους.
Περισσότεροι από 1.000 ερευνητές, εργαζόμενοι και στελέχη εταιρειών όπως η OpenAI, η Anthropic, η Google, η Meta και η Microsoft υπέγραψαν ανοικτή επιστολή προς την αμερικανική κυβέρνηση, ζητώντας τη δημιουργία μηχανισμών που θα επιτρέπουν την ελεγχόμενη επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων AI.
Στην επιστολή επισημαίνεται ότι η βιομηχανία, οι κυβερνήσεις και η κοινωνία μπορεί να χρειαστούν περισσότερο χρόνο για να αντιμετωπίσουν τους αναδυόμενους κινδύνους, να αναπτύξουν μέτρα ασφαλείας και να ενισχύσουν την εποπτεία.
Ωστόσο, κάθε εταιρεία και κάθε χώρα βρίσκεται υπό έντονη ανταγωνιστική πίεση, γεγονός που αποτρέπει τη μονομερή επιβράδυνση. Για τον λόγο αυτό, οι υπογράφοντες ζητούν από την Ουάσιγκτον να στηρίξει μια διεθνή προσπάθεια για τη δημιουργία τεχνικών και θεσμικών εργαλείων που θα επιτρέπουν τον συντονισμένο έλεγχο της προόδου των πιο προηγμένων συστημάτων.
Μεταξύ των υπογραφόντων βρίσκονται οι συνιδρυτές της Anthropic, Ντάριο Αμοντέι και Τζακ Κλαρκ, καθώς και οι συνιδρυτές της OpenAI Τζον Σούλμαν και Βόιτσεχ Ζαρέμπα.
Σε ανάλυσή της για την επίθεση, η Cloud Security Alliance προειδοποίησε ότι η απρόβλεπτη συμπεριφορά των αυτόνομων συστημάτων δεν αποτελεί εξαίρεση. Οι πράκτορες, όπως σημειώνει, μπορούν να αναζητούν δημιουργικούς και μη αναμενόμενους τρόπους για να πετύχουν τον στόχο που τους έχει ανατεθεί, με την επίθεση στη Hugging Face να αποτελεί μία ακραία εκδοχή ενός ευρύτερου προβλήματος.
