Η OpenAI ενισχύει τις δικλίδες ασφαλείας για τους πελάτες που πληρώνουν και έχουν πρόσβαση στα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, καθώς αυξάνεται η χρήση τους για σύνθετες εργασίες και ευαίσθητες πληροφορίες.
Η εταιρεία ξεκίνησε να δοκιμάζει το Private Safety Processing, ένα νέο σύστημα που έχει σχεδιαστεί ώστε να εντοπίζει κινδύνους οι οποίοι δεν είναι πάντα εμφανείς όταν εξετάζεται μεμονωμένα ένα ερώτημα και η απάντηση του μοντέλου.
Η ανάγκη αυτή γίνεται μεγαλύτερη με την εξάπλωση των λεγόμενων AI agents, δηλαδή εργαλείων που μπορούν να εκτελούν μια σειρά ενεργειών αυτόνομα για την επίτευξη ενός στόχου.
Ακολουθία αλληλεπιδράσεων μπορεί να σημαίνει κυβερνοεπίθεση
Μια μεμονωμένη ερώτηση, για παράδειγμα σχετικά με μια αδυναμία σε ένα πληροφοριακό σύστημα, μπορεί να φαίνεται απολύτως νόμιμη. Αν όμως ακολουθηθεί αργότερα από ερωτήσεις για απομακρυσμένη πρόσβαση και τρόπους παράκαμψης συστημάτων ασφαλείας, η συνολική εικόνα μπορεί να υποδηλώνει προσπάθεια κυβερνοεπίθεσης.
Αυτό σημαίνει ότι η OpenAI θέλει πλέον να μπορεί να αξιολογεί τη συνολική ακολουθία των αλληλεπιδράσεων και όχι μόνο κάθε ερώτημα ξεχωριστά. Η αλλαγή αποκτά ιδιαίτερη σημασία καθώς τα μοντέλα γίνονται ικανά να εκτελούν περισσότερα βήματα χωρίς συνεχή ανθρώπινη καθοδήγηση.
Στις δοκιμές συμμετέχουν ήδη πρώιμοι πελάτες, μεταξύ των οποίων η Microsoft και η Databricks, ενώ η OpenAI αναμένει να διαθέσει ευρύτερα το Private Safety Processing τον Σεπτέμβριο, μαζί με τεχνική έκθεση για τον τρόπο λειτουργίας του.
Παρά την αυστηρότερη παρακολούθηση, η εταιρεία υποστηρίζει ότι το περιεχόμενο των πελατών παραμένει προστατευμένο και δεν αποκτά πρόσβαση σε αυτό η ίδια. Η προσέγγιση αυτή επιχειρεί να συνδυάσει την προστασία της ιδιωτικότητας με την ανάγκη να εντοπίζονται επικίνδυνα μοτίβα χρήσης.
Η εξέλιξη δείχνει ότι η ασφάλεια των AI agents μετατοπίζεται από τον έλεγχο μεμονωμένων απαντήσεων στην αξιολόγηση της συμπεριφοράς τους σε βάθος χρόνου. Καθώς τα εργαλεία αυτά αποκτούν μεγαλύτερη αυτονομία, αυτή η διάκριση γίνεται ολοένα πιο κρίσιμη.
Η OKX «κόβει» το Claude από εργαζομένους της στο Χονγκ Κονγκ
Η πρόσφατη απόφαση της OpenAI να ενισχύσει τους ελέγχους ασφαλείας στα προηγμένα μοντέλα της έρχεται την ίδια στιγμή που οι περιορισμοί πρόσβασης στα AI εργαλεία αποκτούν όλο και μεγαλύτερη σημασία για τις επιχειρήσεις.
Χαρακτηριστικό παράδειγμα αποτελεί η εταιρεία OKX (διεθνής πλατφόρμα ανταλλαγής και διαπραγμάτευσης κρυπτονομισμάτων), η οποία απαγόρευσε στους εργαζομένους της στο Χονγκ Κονγκ, καθώς και σε όσους ταξιδεύουν στην Κίνα, να χρησιμοποιούν το Claude της Anthropic.
Η απόφαση ελήφθη στις αρχές Αυγούστου, μετά την προσωρινή αναστολή του εταιρικού λογαριασμού της OKX. Ο λογαριασμός αποκαταστάθηκε στη συνέχεια.
Η Anthropic δεν επιτρέπει τη χρήση του Claude στο Χονγκ Κονγκ και την Κίνα, ενώ η OKX αναγνώρισε ότι η πρόσβαση ορισμένων εργαζομένων της στο Χονγκ Κονγκ δεν ήταν πλήρως συμβατή με την πολιτική της εταιρείας και ανακοίνωσε ότι θα κατευθύνει τα αιτήματα των εργαζομένων σε άλλα μοντέλα.
Η υπόθεση αναδεικνύει ένα ευρύτερο πρόβλημα για τις πολυεθνικές επιχειρήσεις: η πρόσβαση στα κορυφαία AI μοντέλα εξαρτάται πλέον όχι μόνο από τις ανάγκες μιας εταιρείας, αλλά και από γεωγραφικούς και πολιτικούς περιορισμούς.
Η OKX, πάντως, έχει επενδύσει σημαντικά στη χρήση τεχνητής νοημοσύνης και ενθαρρύνει τους εργαζομένους της να χρησιμοποιούν τέτοια εργαλεία στην καθημερινή εργασία τους. Η εταιρεία δαπανά, σύμφωνα με δήλωσή της, 6-8 εκατ. δολάρια τον μήνα σε διαφορετικούς παρόχους μεγάλων γλωσσικών μοντέλων.
Έτσι, η επιλογή του κατάλληλου AI μοντέλου εξελίσσεται σε επιχειρησιακή απόφαση με προεκτάσεις που ξεπερνούν την ίδια την τεχνολογία.
