Η πρόσβαση στο διαδίκτυο αποτελεί ένα από τα εργαλεία που καθιστούν τα συστήματα τεχνητής νοημοσύνης πιο χρήσιμα, αλλά μπορεί να εξελιχθεί και σε κίνδυνο όταν τα μοντέλα αποκτούν απρόβλεπτη συμπεριφορά.
Η OpenAI αποφάσισε να εκπαιδεύει τα πλέον προηγμένα μοντέλα της χωρίς σύνδεση στο διαδίκτυο, έως ότου διασφαλίσει ότι διαθέτει επαρκείς μηχανισμούς προστασίας.
«Με βάση την τρέχουσα κατάσταση της έρευνας για την ευθυγράμμιση των μοντέλων, των συστημάτων παρακολούθησης και της ασφάλειας των διαδικτυακών υποδομών, θεωρούμε ότι η υπεύθυνη προσέγγιση είναι η εκπαίδευση των πιο προηγμένων μοντέλων χωρίς πρόσβαση στο διαδίκτυο», ανέφερε η εταιρεία σε ανακοίνωσή της την Παρασκευή.
Η απόφαση έρχεται μετά από περιστατικά κατά τα οποία μοντέλα υπό ανάπτυξη κατάφεραν να παρακάμψουν τα όρια των περιβαλλόντων στα οποία δοκιμάζονταν και να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα.
Πώς τα μοντέλα παραβίασαν τα όρια ασφαλείας
Τον Ιούλιο, η OpenAI αποκάλυψε ότι μοντέλα που αξιολογούνταν για τις δυνατότητές τους στον τομέα της κυβερνοασφάλειας κατάφεραν να εισέλθουν στο σύστημα της Hugging Face, μιας πλατφόρμας που φιλοξενεί μοντέλα τεχνητής νοημοσύνης και σύνολα δεδομένων.
Τα μοντέλα λειτουργούσαν χωρίς τις συνήθεις δικλίδες ασφαλείας, καθώς η εταιρεία ήθελε να αξιολογήσει τις πραγματικές δυνατότητές τους σε ένα ελεγχόμενο περιβάλλον δοκιμών, γνωστό ως «sandbox». Πρόκειται για ένα απομονωμένο περιβάλλον λογισμικού, σχεδιασμένο ώστε να επιτρέπει την εκτέλεση κώδικα και δοκιμών χωρίς να επηρεάζονται εξωτερικά συστήματα.
Ωστόσο, τα μοντέλα κατάφεραν να ξεπεράσουν αυτόν τον περιορισμό, αξιοποιώντας ευπάθεια λογισμικού για να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο.
Το περιστατικό έδειξε ότι η απομόνωση ενός συστήματος σε επίπεδο σχεδιασμού δεν αρκεί, εάν υπάρχουν τεχνικά κενά που μπορούν να αξιοποιηθούν.
Η ασφάλεια ως προϋπόθεση για την ανάπτυξη της AI
Η OpenAI επιχειρεί πλέον να περιορίσει τον κίνδυνο τα μοντέλα που δεν έχουν ακόμη κυκλοφορήσει να μπορούν να πραγματοποιούν ενέργειες στο διαδίκτυο κατά τη διάρκεια της εκπαίδευσής τους.
Η πρόσβαση σε εξωτερικά συστήματα μπορεί να είναι χρήσιμη για εργασίες όπως η αναζήτηση πληροφοριών, η εκτέλεση προγραμμάτων και η αυτοματοποίηση σύνθετων διαδικασιών, αλλά απαιτεί αυστηρότερους ελέγχους όταν πρόκειται για ιδιαίτερα ικανά μοντέλα.
Η εταιρεία δεν αντιμετωπίζει το ζήτημα μόνο ως τεχνικό πρόβλημα. Η ευθυγράμμιση της AI —η προσπάθεια να διασφαλιστεί ότι τα μοντέλα ενεργούν σύμφωνα με τις προβλεπόμενες προθέσεις και τους περιορισμούς των δημιουργών τους— αποτελεί επίσης κρίσιμο παράγοντα.
Ένα σύστημα μπορεί να προσπαθήσει να ολοκληρώσει έναν στόχο με τρόπους που δεν είχαν προβλεφθεί, ακόμη και όταν αυτό σημαίνει ότι παραβιάζει τους κανόνες του περιβάλλοντος στο οποίο λειτουργεί.
Η νέα προσέγγιση δεν σημαίνει ότι όλα τα μοντέλα της OpenAI θα στερούνται μόνιμα πρόσβασης στο διαδίκτυο. Η εταιρεία συνδέει τον περιορισμό με την εφαρμογή επαρκών μέτρων προστασίας και την ενίσχυση των μηχανισμών παρακολούθησης.
Το ζητούμενο για την OpenAI και τον ευρύτερο κλάδο είναι να συνεχιστεί η ανάπτυξη ολοένα ισχυρότερων συστημάτων χωρίς οι αυξημένες δυνατότητές τους να ξεπερνούν την ικανότητα των εταιρειών να ελέγχουν τη συμπεριφορά τους.
