Η Anthropic παρουσίασε νέες εκδόσεις των μοντέλων τεχνητής νοημοσύνης Fable και Mythos, σε μια προσπάθεια να ενισχύσει την ανταγωνιστική της θέση απέναντι σε εταιρείες όπως η OpenAI.
Το Fable 5.2, που αναμένεται να κυκλοφορήσει σήμερα, έχει σχεδιαστεί ώστε να ανταποκρίνεται σε πιο σύνθετες εργασίες ανάπτυξης λογισμικού, να αναλαμβάνει λειτουργίες που σχετίζονται με διαδικασίες, όπως ο έλεγχος ρομπότ, και να διαχειρίζεται έργα μεγάλης διάρκειας.
Παράλληλα, μπορεί να συντονίζει περισσότερους από 1.000 αυτόνομους πράκτορες τεχνητής νοημοσύνης ταυτόχρονα.
Το Mythos 5.2 βασίζεται στο ίδιο μοντέλο, αλλά διαθέτει λιγότερους περιορισμούς ασφαλείας για εργασίες στον τομέα της κυβερνοασφάλειας και των βιοεπιστημών. Η διάθεσή του θα γίνει σταδιακά και θα περιοριστεί αρχικά σε επιλεγμένους οργανισμούς, μέσω προγράμματος επαλήθευσης που είχε ανακοινώσει προηγουμένως η εταιρεία.
Σύμφωνα με την Anthropic, και τα δύο μοντέλα είναι ταχύτερα από τις προηγούμενες εκδόσεις, ενώ το Fable έχει επίσης χαμηλότερο κόστος χρήσης.
Ανταγωνισμός και προετοιμασία για την IPO
Η κυκλοφορία των νέων μοντέλων αναμένεται να ενισχύσει τη θέση της Anthropic στην ολοένα πιο ανταγωνιστική αγορά της τεχνητής νοημοσύνης, καθώς η εταιρεία, γνωστή και για το μοντέλο Claude, προετοιμάζεται για πιθανή εισαγωγή στο χρηματιστήριο ακόμη και μέσα στον Νοέμβριο.
Ωστόσο, η αναβάθμιση των συστημάτων της ενδέχεται να εντείνει τον έλεγχο που δέχεται η εταιρεία σχετικά με τους κινδύνους της τεχνητής νοημοσύνης. Οι ανησυχίες για την ασφάλεια των ολοένα ισχυρότερων μοντέλων ενισχύονται τόσο στο εσωτερικό της τεχνολογικής βιομηχανίας όσο και μεταξύ των ρυθμιστικών αρχών.
Παράλληλα, η επικράτηση των Δημοκρατικών στις ενδιάμεσες εκλογές στις ΗΠΑ εκτιμάται ότι θα ενισχύσει την πολιτική πίεση για ουσιαστικότερη ρύθμιση της τεχνητής νοημοσύνης. Ενδέχεται επίσης να δημιουργήσει πρόσθετα εμπόδια στην κατασκευή των κέντρων δεδομένων που απαιτούνται για την εκπαίδευση και τη λειτουργία των μοντέλων.
Οι ανησυχίες για την ασφάλεια των μοντέλων
Στα μέσα Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, είχε ζητήσει από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης να επιβραδύνουν την ανάπτυξη των πιο προηγμένων μοντέλων τους.
Η παρέμβασή του έγινε λίγες ημέρες μετά την αποχώρηση ερευνητή της εταιρείας, ο οποίος είχε εκφράσει έντονες ανησυχίες για τους δυνητικά υπαρξιακούς κινδύνους της τεχνολογίας.
Η Anthropic δεν είχε παρουσιάσει νέες εκδόσεις των Fable και Mythos από τις αρχές Σεπτεμβρίου. Για την προετοιμασία των νέων μοντέλων, η εταιρεία φέρεται να διεύρυνε τη διάρκεια των δοκιμών και να χρησιμοποίησε περισσότερες και διαφορετικού τύπου διαδικασίες αξιολόγησης.
Η αρχική έκδοση του Mythos, που παρουσιάστηκε τον Απρίλιο, είχε προκαλέσει ιδιαίτερο ενδιαφέρον στον τομέα της κυβερνοασφάλειας, καθώς μπορούσε να εντοπίζει και δυνητικά να αξιοποιεί ευπάθειες σε κρίσιμο λογισμικό.
Για τον περιορισμό του κινδύνου κυβερνοεπιθέσεων, η Anthropic είχε αρχικά διαθέσει το μοντέλο μόνο σε επιλεγμένες κρατικές υπηρεσίες, χρηματοπιστωτικά ιδρύματα και μεγάλες εταιρείες λογισμικού.
Το Fable, που κυκλοφόρησε δύο μήνες αργότερα, σχεδιάστηκε ώστε να προσφέρει ευρύτερη πρόσβαση σε δυνατότητες του Mythos, διατηρώντας παράλληλα περιορισμούς που εμποδίζουν τη χρήση του για συγκεκριμένες εργασίες κυβερνοασφάλειας.
Τον Ιούνιο, η αμερικανική κυβέρνηση είχε επιβάλει περιορισμούς στην πρόσβαση και στα δύο μοντέλα, επικαλούμενη ανησυχίες για τις δυνατότητές τους. Οι περιορισμοί στο Fable 5 ήρθησαν μετά την προσθήκη μηχανισμών που εντοπίζουν και αποκλείουν περισσότερες εργασίες κυβερνοασφάλειας. Η πρόσβαση στο Mythos 5 αποκαταστάθηκε αργότερα, αλλά παρέμεινε περιορισμένη σε μικρότερο αριθμό χρηστών.
Η Anthropic σχεδιάζει τώρα να διευρύνει τον αριθμό των εταιρειών που έχουν πρόσβαση στο Mythos, συμπεριλαμβάνοντας επιχειρήσεις τόσο στις ΗΠΑ όσο και σε άλλες χώρες.
Νέες δοκιμές για τον περιορισμό των κινδύνων
Οι ανησυχίες για την ασφάλεια εντάθηκαν μετά την αποκάλυψη περιστατικών κατά τα οποία μοντέλα τεχνητής νοημοσύνης κατάφεραν να παραβιάσουν τα όρια εξωτερικών οργανισμών, αφού απέκτησαν πρόσβαση στο διαδίκτυο μέσα από περιβάλλοντα δοκιμών που υποτίθεται ότι ήταν απομονωμένα.
Τα περιστατικά αυτά ενίσχυσαν τους προβληματισμούς για το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να ενεργούν με απρόβλεπτους και επιβλαβείς τρόπους.
Πριν από την κυκλοφορία των νέων εκδόσεων, η Anthropic πραγματοποίησε αξιολογήσεις σε συνεργασία με την αμερικανική κυβέρνηση και ανεξάρτητους εξωτερικούς αξιολογητές. Παράλληλα, ανέπτυξε νέες μεθόδους για να ελέγχει την πιθανότητα τα μοντέλα να διαφεύγουν από τα ψηφιακά περιβάλλοντα περιορισμένης πρόσβασης, διαπιστώνοντας ότι οι νέες εκδόσεις Fable και Mythos εμφανίζουν μικρότερη σχετική πιθανότητα σε σύγκριση με τις προηγούμενες.
Το κόστος χρήσης των νέων μοντέλων
Πέρα από την ασφάλεια, η Anthropic αντιμετωπίζει και την πρόκληση του κόστους. Σύμφωνα με στοιχεία της εταιρείας χρηματοοικονομικής τεχνολογίας Ramp, που δημοσιοποιήθηκαν τον Αύγουστο, το ακριβότερο μοντέλο της Anthropic αντιστοιχούσε μόλις στο 11% της συνολικής δαπάνης για τα μοντέλα της εταιρείας.
Η νέα έκδοση Fable 5.2 θα κοστίζει 8 δολάρια ανά εκατομμύριο tokens εισόδου και 40 δολάρια ανά εκατομμύριο tokens εξόδου. Οι αντίστοιχες τιμές για το Fable 5.1 ήταν 10 και 50 δολάρια.
Η μείωση του κόστους αποτελεί μέρος της προσπάθειας της Anthropic να καταστήσει τις προηγμένες δυνατότητες τεχνητής νοημοσύνης πιο προσιτές στις επιχειρήσεις, διατηρώντας παράλληλα το προβάδισμά της σε μια αγορά όπου ο ανταγωνισμός εντείνεται.
