Nέο σύστημα δύο επιπέδων για την ασφάλεια της τεχνητής νοημοσύνης παρουσίασε η Nvidia, το οποίο, όπως υποστηρίζει, θα μπορούσε να είχε αποτρέψει την πρόσφατη πολυσυζητημένη παραβίαση της Hugging Face από μοντέλα τεχνητής νοημοσύνης της OpenAI.
Ο κολοσσός των ημιαγωγών, ο οποίος επεκτείνει με ταχύτητα την γκάμα των προϊόντων του πέρα από τα μικροτσίπ, λανσάρει δύο εργαλεία λογισμικού ανοιχτού κώδικα για την ασφάλεια, τα οποία μπορούν να λειτουργούν στο hardware της Nvidia.
Τα εργαλεία έχουν σχεδιαστεί ώστε να ελέγχουν σε πραγματικό χρόνο σε τι μπορούν να έχουν πρόσβαση οι AI agents και να τους τερματίζουν όταν παραβιάζουν τους κανόνες.
Αν τα κορυφαία εργαστήρια τεχνητής νοημοσύνης χρησιμοποιούσαν αυτή την τεχνολογία για να αξιολογούν τα μοντέλα τους σε πρώιμο στάδιο, θα μπορούσε να είχε αποτρέψει την επίθεση στη Hugging Face, δήλωσε ο Τζάστιν Μποϊτάνο, αντιπρόεδρος Enterprise AI της Nvidia.
Η ανεξέλεγκτη συμπεριφορά αυτόνομων agents, συμπεριλαμβανομένου του περιστατικού στη Hugging Face τον Ιούλιο, έχει προκαλέσει αναστάτωση στον κλάδο της τεχνητής νοημοσύνης και έχει οδηγήσει σε εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνολογίας.
Με το νέο προϊόν — που ονομάζεται Open Agent Safety Platform — η Nvidia προσφέρει έναν τρόπο πρόληψης παραβιάσεων χωρίς να περιορίζεται η ανάπτυξη της AI.
Ο διευθύνων σύμβουλος της εταιρείας Τζένσεν Χουάνγκ έχει επανειλημμένα υποβαθμίσει τον κίνδυνο να ξεφύγει η τεχνητή νοημοσύνη από τον ανθρώπινο έλεγχο.
Ο Μποϊτάνο δεν σχολίασε αν η OpenAI ή η ανταγωνίστρια Anthropic σχεδιάζουν να χρησιμοποιήσουν το νέο σύστημα για την παρακολούθηση των διαδικασιών εκπαίδευσης των μοντέλων τους.
Τις τελευταίες ημέρες, ο Χουάνγκ έχει παρουσιάσει τις ανησυχίες για την ασφάλεια της AI ως πρόβλημα μηχανικής που μπορεί να αντιμετωπιστεί τεχνικά, και όχι ως ζήτημα που απαιτεί περισσότερη ρύθμιση ή παγκόσμιο συντονισμό.
Συμφώνησε με τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ στην απόρριψη των ισχυρισμών ορισμένων developers τεχνητής νοημοσύνης ότι η τεχνολογία θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας. Παράλληλα, όμως, επέμεινε ότι η AI πρέπει να υποβάλλεται σε αυστηρούς ελέγχους ασφαλείας.
Η τεχνική λύση
Το OpenShell, προϊόν λογισμικού που η Nvidia είχε ήδη παρουσιάσει προκαταρκτικά στο σημαντικό τεχνολογικό της συνέδριο τον Μάρτιο, μπορεί να λειτουργεί στους κεντρικούς επεξεργαστές Vera της Nvidia.
Επιτρέπει στους χρήστες να καθορίζουν κανόνες σχετικά με το τι μπορούν να προσπελάσουν οι AI agents και να επιβάλλουν αυτούς τους κανόνες σε πραγματικό χρόνο.
Το λογισμικό είναι open source, δηλαδή μπορεί να χρησιμοποιηθεί και να τροποποιηθεί ελεύθερα.
Το Nvidia Sentry, από την άλλη πλευρά, είναι ένα νέο προϊόν που μπορεί να λειτουργεί στις BlueField data processing units (DPUs) της εταιρείας.
Σύμφωνα με τη Nvidia, έχει σχεδιαστεί για να προσφέρει ένα επιπλέον επίπεδο παρακολούθησης της AI, το οποίο επιτηρεί τους agents και παρεμβαίνει ώστε να απομονώνει όσους παρουσιάζουν ύποπτη συμπεριφορά.
«Πιστεύουμε ότι αυτό το πρόσθετο επίπεδο ασφάλειας θα επιτρέψει στον κλάδο να δοκιμάζει με ασφάλεια ακόμη και τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης», δήλωσε ο Μποϊτάνο σχετικά με το Sentry.
«Μπορεί να θέσει έναν ύποπτο agent σε καραντίνα μέσα σε μιλισεκόντ».
Πρόσφατα περιστατικά που αφορούν την OpenAI — μεταξύ άλλων, μια παραβίαση συστήματος της αυστραλιανής κυβέρνησης, καθώς και προσπάθειες πρόσβασης σε δεκάδες ιστοτόπους της αμερικανικής κυβέρνησης και πανεπιστημίων — συνέβησαν όταν τα μοντέλα της ξέφυγαν από περιβάλλοντα δοκιμών που υποτίθεται ότι ήταν ασφαλή και απομονωμένα.
Καθώς τα προβλήματα πολλαπλασιάζονταν, η OpenAI ανακοίνωσε ότι θα παγώσει προσωρινά την εκπαίδευση των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης που διαθέτει.
Τον Ιούλιο, η Anthropic είχε επίσης αποκαλύψει ότι οι AI agents της κατάφεραν να ξεφύγουν από έναν χώρο δοκιμών που υποτίθεται ότι ήταν απομονωμένος.
Ποσό-ρεκόρ 150 δισ. δολαρίων για επαναγορά μετοχών
Εν τω μεταξύ η Nvidia, η οποία διαθέτει τεράστια αποθέματα μετρητών χάρη στην έκρηξη της τεχνητής νοημοσύνης, ξεκινά το μεγαλύτερο πρόγραμμα επαναγοράς μετοχών που έχει πραγματοποιηθεί ποτέ στις ΗΠΑ.
Η εταιρεία ανακοίνωσε ότι εγκρίθηκε η αύξηση κατά 150 δισ. δολάρια στο πρόγραμμα επαναγοράς μετοχών της, με αποτέλεσμα η συνολική εγκεκριμένη δυνατότητα επαναγοράς να ανέρχεται πλέον στα 235 δισ. δολάρια.
Η νέα έγκριση ξεπερνά το πρόγραμμα επαναγοράς 110 δισ. δολαρίων που είχε ανακοινώσει η Apple τον Μάιο του 2024 και ανακοινώνεται μόλις τέσσερις μήνες μετά την απόφαση του διοικητικού συμβουλίου της Nvidia να προσθέσει άλλα 80 δισ. δολάρια στο πρόγραμμα επαναγοράς.
Η Nvidia — η οποία κυριαρχεί στην αγορά ως ο μεγαλύτερος σχεδιαστής και προμηθευτής μονάδων επεξεργασίας γραφικών (GPU) και εξειδικευμένου hardware για κέντρα δεδομένων τεχνητής νοημοσύνης — έχει χρηματιστηριακή αξία άνω των 5,4 τρισ. δολαρίων, τη μεγαλύτερη από οποιαδήποτε εταιρεία στον κόσμο.
Οι μετοχές της Nvidia ενισχύoνται κατά 3% σε μια κακή μέρα για τη Wall Street.
Η επαναγορά ακολουθεί την ανακοίνωση τριμηνιαίων πωλήσεων-ρεκόρ 96,2 δισ. από τη Nvidia.
Η εταιρεία έχει δηλώσει ότι αναμένει αύξηση των εσόδων κατά 70% κατά το οικονομικό έτος 2028.
Καθώς τα έσοδά της αυξάνονται ραγδαία, η εταιρεία χρησιμοποιεί τη μεγάλη ρευστότητά της για να πραγματοποιεί άμεσες επενδύσεις σε νεοφυείς επιχειρήσεις (startups).
Οι επενδύσεις αυτές περιλαμβάνουν τη στήριξη νεότερων παρόχων υπηρεσιών cloud computing, οι οποίοι αγοράζουν τα τσιπ της Nvidia, καθώς και εταιρειών ανάπτυξης μοντέλων τεχνητής νοημοσύνης, όπως η OpenAI.
Το επενδυτικό της χαρτοφυλάκιο περιλαμβάνει 13 εισηγμένες και 229 ιδιωτικές εταιρείες και, όπως ανακοίνωσε, η απόδοση των επενδύσεών της σε περιπτώσεις εξόδου είναι πάνω από τριπλάσια σε σχέση με το αρχικό κεφάλαιο που έχει επενδύσει.
Η εταιρεία σχεδιάζει να επιστρέφει το πλεονάζον free cash flow από αυτές τις δραστηριότητες στους μετόχους μέσω επαναγορών μετοχών και ενός «σταδιακά αυξανόμενου μερίσματος».
Πέρα από τις άμεσες επενδύσεις, η Nvidia έχει χρησιμοποιήσει τον ισολογισμό της για να λειτουργήσει ως εγγυήτρια ή υποστηρίκτρια (backstop) σε σειρά συμφωνιών χρηματοδότησης που σχετίζονται με την τεχνητή νοημοσύνη.
Το μέγεθος αυτών των συμφωνιών έχει προκαλέσει εκ νέου ανησυχίες σχετικά με το ενδεχόμενο η Nvidia να συμμετέχει σε κυκλικές χρηματοδοτικές συμφωνίες.
Η Nvidia δήλωσε τον περασμένο μήνα ότι θα συνεργαστεί με εταιρείες της Wall Street και θα παρέχει μερική εγγύηση για έως και 500 δισ. δολάρια σε χρηματοδότηση κέντρων δεδομένων, ώστε να βοηθήσει τους πελάτες της να μπορούν να αγοράζουν τα τσιπ της.ο.
Ο κλάδος της τεχνητής νοημοσύνης αναπτύσσεται τόσο γρήγορα, ώστε η Nvidia δήλωσε ότι η στήριξή της είναι απαραίτητη προκειμένου οι ταχέως αναπτυσσόμενες εταιρείες να έχουν πρόσβαση σε κεφάλαια.
