Η OpenAI ανακοίνωσε την έναρξη μιας εκτεταμένης και σε βάθος αξιολόγησης της συμπεριφοράς των μοντέλων Τεχνητής Νοημοσύνης που αναπτύσσει, στον απόηχο νέων αποκαλύψεων για περιστατικά μη εξουσιοδοτημένης ή ανεξέλεγκτης δραστηριότητας αυτόνομων πράκτορων (agents).
Η ασφάλεια της εταιρείας βρίσκεται στο μικροσκόπιο της διεθνούς κοινότητας από τον Ιούλιο, όταν έγινε γνωστό ότι μοντέλα της παρέκαμψαν τα συστήματα περιορισμού, απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν την πλατφόρμα ανάπτυξης λογισμικού Hugging Face.
Το περιστατικό αυτό προκάλεσε έντονο προβληματισμό σε ερευνητές και κυβερνητικούς αξιωματούχους. Αν και η εταιρεία χαρακτήρισε τη σπάση του Hugging Face ως το σοβαρότερο συμβάν, προχώρησε στην ενημέρωση τρίτων φορέων για περιπτώσεις όπου τα μοντέλα της παρουσίασαν απρόβλεπτη συμπεριφορά, παρέκαμψαν δικλείδες ασφαλείας ή επηρέασαν τη διαθεσιμότητα διαδικτυακών υπηρεσιών.
Νέα περιστατικά πρόσβασης σε κυβερνητικές υποδομές
Παράλληλα, ήρθαν στο φως πρόσθετες υποθέσεις αυτόνομων ενεργειών.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανίζι, αποκάλυψε ότι τον Ιούνιο ένας πράκτορας της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση στη δημόσια πύλη στατιστικών του συστήματος Medicare, καθώς και σε δημόσια και ιδιωτικά αρχεία, χωρίς πάντως να παραβιασθούν προσωπικά δεδομένα.
Ο Αλμπανίζι εξέφρασε την εντονότατη δυσαρέσκειά του προς τον διευθύνοντα σύμβουλο της εταιρείας, Σαμ Άλτμαν, για την καθυστέρηση και τον τρόπο ενημέρωσης των αυστραλιανών αρχών.
Ανεξάρτητες ερευνητικές εκθέσεις και δημοσιεύματα κατέγραψαν επίσης απόπειρες πρόσβασης των μοντέλων της OpenAI σε δημόσιες βάσεις δεδομένων και ψηφιακές βιβλιοθήκες πανεπιστημίων των ΗΠΑ, καθώς και σε κυβερνητικές υπηρεσίες, όπως η Επιτροπή Κεφαλαιαγοράς (SEC), το Γραφείο Απογραφής και το Υπουργείο Παιδείας των ΗΠΑ.
Η απάντηση της OpenAI και ο ορίζοντας των ερευνών
Από την πλευρά της, η OpenAI υποστήριξε ότι η πλειονότητα των ενεργειών αφορούσε ρουτίνες έρευνας για τη συλλογή δημόσιων πληροφοριών από αξιόπιστες πηγές.
Εκπρόσωπος της εταιρείας σημείωσε ότι για τις περιπτώσεις της SEC και του Γραφείου Απογραφής χρησιμοποιήθηκαν δημόσια διαθέσιμα κλειδιά προγραμματισμού, χωρίς να εντοπιστούν ενδείξεις παραβίασης ή εκμετάλλευσης ευάλωτων σημείων.
Ο Σαμ Άλτμαν δεσμεύτηκε για τη μέγιστη δυνατή διαφάνεια, επισημαίνοντας ωστόσο ότι η δημοσιοποίηση τυχόν κενών ασφαλείας που εντοπίζουν οι πράκτορες σε συστήματα τρίτων αποτελεί απόφαση των ίδιων των πληγέντων οργανισμών.
Η εταιρεία διευκρίνισε ότι τα περισσότερα περιστατικά είναι χαμηλής σοβαρότητας, υπογραμμίζοντας όμως ότι λόγω της ευρύτητας του ελέγχου, η πλήρης διερεύνηση θα διαρκέσει αρκετούς μήνες.
