Η εκτίναξη του κόστους χρήσης μοντέλων τεχνητής νοημοσύνης (AI) ωθεί ολοένα περισσότερες startups να περιορίσουν την εξάρτησή τους από τους μεγάλους αμερικανικούς ομίλους AI, όπως OpenAI και Anthropic, και να στραφούν σε φθηνότερα open-weight μοντέλα, ακόμη και σε λύσεις που αναπτύσσονται στην Κίνα.
Η τάση δίνει στις εταιρείες μεγαλύτερο έλεγχο της τεχνολογίας τους, ενώ ταυτόχρονα περιορίζει ένα από τα σημαντικότερα λειτουργικά τους έξοδα, σύμφωνα με το Axios.
Χαρακτηριστικό παράδειγμα αποτελεί η Harvey, startup νομικής τεχνολογίας με αποτίμηση 15,6 δισ. δολαρίων, η οποία είχε χτίσει την επιχειρηματική της δραστηριότητα γύρω από την εκπαίδευση μοντέλων όπως το GPT-4 της OpenAI για εξειδικευμένες εργασίες δικηγόρων.
Μετά την αναβάθμιση των AI agents της τον Μάρτιο, η χρήση από τους πελάτες της εκτοξεύθηκε. Το αποτέλεσμα, όμως, ήταν μεγάλη πίεση στα περιθώρια κέρδους: σύμφωνα με πηγή με γνώση της κατάστασης, το μικτό περιθώριο της Harvey υποχώρησε από περίπου 50% στις αρχές του έτους σε -50% τον Ιούνιο.
Η εξέλιξη ανάγκασε την εταιρεία να επανεξετάσει την εξάρτησή της από τους ακριβότερους παρόχους AI.
Η AI γίνεται ακριβότερη για τις startups
Η Harvey πλέον εντάσσεται σε μια διευρυνόμενη ομάδα εταιρειών λογισμικού που αξιοποιούν open-weight μοντέλα, μεταξύ των οποίων περιλαμβάνονται ολοένα ισχυρότερες κινεζικές προτάσεις. Σε αντίθεση με τα ιδιόκτητα μοντέλα των αμερικανικών εταιρειών AI, τα open-weight συστήματα είναι συνήθως φθηνότερα και επιτρέπουν στις επιχειρήσεις να δημιουργούν προσαρμοσμένες εκδόσεις, χρησιμοποιώντας τα δικά τους δεδομένα.
Τον Αύγουστο, η Harvey παρουσίασε δικό της μοντέλο, το οποίο βασίζεται στο Kimi K3 της κινεζικής Moonshot AI. Το μοντέλο φέρεται να προσεγγίζει τις επιδόσεις των κορυφαίων λύσεων της Anthropic, αλλά με πολύ χαμηλότερο κόστος. Η συγκεκριμένη κίνηση, σε συνδυασμό με άλλες αλλαγές στον τρόπο χρήσης των μοντέλων AI, επανέφερε, σύμφωνα με πηγές που γνωρίζουν τις προσπάθειες, τα μικτά περιθώρια της εταιρείας σε θετικό έδαφος. Η Harvey δεν σχολίασε τα συγκεκριμένα οικονομικά στοιχεία.
Η ίδια τάση εμφανίζεται σε διαφορετικούς κλάδους. Η healthtech Abridge ανακοίνωσε ότι αναπτύσσει δικό της foundation model για κλινικές εφαρμογές, εκπαιδευμένο σε open models της Nvidia. Η startup εξυπηρέτησης πελατών Decagon διοχετεύει πλέον το 80% των ερωτημάτων μέσω δικών της μοντέλων, ενώ στον χρηματοοικονομικό κλάδο οι Ramp και Rogo εξετάζουν για πρώτη φορά την ανάπτυξη μοντέλων εσωτερικά.
Τεχνητή Νοημοσύνη © magnific
Στον χώρο του coding, εταιρείες όπως η Cursor, που πλέον ανήκει στη SpaceX, και η Cognition, με αποτίμηση 48 δισ. δολαρίων, ήταν μεταξύ των πρώτων εφαρμογών AI που κυκλοφόρησαν εξειδικευμένα δικά τους μοντέλα.
Από το ακριβό AI στην τεχνολογική αυτονομία
Για τη Ramp, η ανάπτυξη δικού της μοντέλου θεωρούνταν μέχρι πρόσφατα οικονομικά ασύμφορη. Η θεαματική όμως βελτίωση των open-weight συστημάτων αλλάζει την εξίσωση. Μετά την άντληση 750 εκατ. δολαρίων τον Ιούνιο, η εταιρεία εξετάζει πλέον σοβαρά το ενδεχόμενο να επενδύσει στην ανάπτυξη δικών της μοντέλων.
Ο συνδιευθύνων σύμβουλος της Ramp, Καρίμ Ατιγιέχ, σημείωσε στο Axios ότι πριν από έναν χρόνο μια τέτοια κίνηση «δεν είχε απολύτως κανένα νόημα», ενώ πλέον γίνεται ολοένα πιο λογική επιλογή. Καθώς το κόστος υπολογιστικής ισχύος αυξάνεται, υποστήριξε ότι οι εταιρείες δεν μπορούν να αγνοούν την ανάγκη βελτιστοποίησης της χρήσης των μοντέλων τους.
Πίσω από τη στροφή βρίσκεται και η απότομη αύξηση της ζήτησης. Η Harvey καταγράφει φέτος εικοσαπλάσια αύξηση στη χρήση AI tokens, σύμφωνα με τον πρόεδρο και συνιδρυτή της Γκέιμπ Περέιρα. Η εκτίναξη αυτή κατέστησε δύσκολη τη διατήρηση ενός επιχειρηματικού μοντέλου που βασίζεται αποκλειστικά στα ακριβότερα συστήματα των OpenAI και Anthropic.
Οι δύο αμερικανικοί όμιλοι έχουν ήδη παρουσιάσει φθηνότερα μοντέλα, ανταποκρινόμενοι στις ανησυχίες των πελατών για το κόστος. Παράλληλα, όμως, χρεώνουν πλέον τις επιχειρήσεις για τη χρήση των μοντέλων τους επιπλέον των βασικών συνδρομών. Η αλλαγή αυτή περιορίζει τις πρακτικές υπερβολικής χρήσης μοντέλων, καθώς το κόστος αυξάνεται όσο αυξάνονται τα tokens.
Χαρακτηριστικό είναι το παράδειγμα της Uber, η οποία είχε ενθαρρύνει τους μηχανικούς της να μεγιστοποιήσουν τη χρήση του Claude Code της Anthropic, με αποτέλεσμα να εξαντλήσει ήδη από τον Απρίλιο ολόκληρο τον προϋπολογισμό που είχε προβλέψει για AI για το σύνολο του έτους.
Η μάχη για τα μοντέλα και το επόμενο κόστος της AI
Η στροφή προς τα open-weight μοντέλα δεν σημαίνει, ωστόσο, ότι κάθε startup μπορεί ή πρέπει να αναπτύξει τη δική της τεχνολογία. Ο Ματ Κράνινγκ, εταίρος της Menlo Ventures, επενδυτή της Anthropic, υποστηρίζει ότι η ανάπτυξη προσαρμοσμένων μοντέλων απαιτεί εξειδικευμένο προσωπικό και σημαντικό αρχικό κεφάλαιο και, επομένως, δεν αποτελεί οικονομικά βιώσιμη επιλογή για όλες τις εταιρείες.
Κατά την άποψή του, για ορισμένες startups η προβολή ενός «δικού τους μοντέλου» μπορεί να αποτελεί περισσότερο εργαλείο μάρκετινγκ παρά ουσιαστική τεχνολογική στρατηγική.
Η συζήτηση, πάντως, έχει αλλάξει ουσιαστικά σε σχέση με το πρόσφατο παρελθόν. Ο Γκέιμπ Περέιρα της Harvey επισημαίνει ότι μέχρι τα τέλη του περασμένου έτους οι επιδόσεις των εφαρμογών AI εξαρτώνταν σε μεγάλο βαθμό από τα υποκείμενα μοντέλα. Η εκπαίδευση αυτών των μοντέλων απαιτούσε τεράστιες επενδύσεις και παρέμενε υπόθεση των μεγαλύτερων εργαστηρίων τεχνητής νοημοσύνης.
Τεχνητή Νοημοσύνη ©Unsplash
Η βελτίωση, όμως, των open-weight μοντέλων αλλάζει σταδιακά τα δεδομένα. Οι startups μπορούν πλέον να αποκτήσουν μεγαλύτερο έλεγχο πάνω στην τεχνολογία, να προσαρμόσουν τα μοντέλα στις ανάγκες τους και να περιορίσουν το μεταβλητό κόστος που συνεπάγεται η εξάρτηση από OpenAI και Anthropic.
Για τους μεγάλους παρόχους, αυτή η αλλαγή δημιουργεί ένα νέο επιχειρηματικό ρίσκο, καθώς μέρος της χρήσης που μέχρι σήμερα διοχετευόταν στα εμπορικά μοντέλα τους μπορεί να μεταφερθεί σε ιδιόκτητα ή ανοιχτά συστήματα. Η εξέλιξη αποκτά ακόμη μεγαλύτερη σημασία καθώς οι δύο εταιρείες προετοιμάζονται για τις πολυαναμενόμενες δημόσιες εγγραφές τους και η αγορά παρακολουθεί στενά την ικανότητά τους να μετατρέψουν την εκρηκτική ζήτηση για τεχνητή νοημοσύνη σε βιώσιμα έσοδα.
Παράλληλα, η συζήτηση για το κατά πόσο η ανάπτυξη των πλέον προηγμένων μοντέλων θα πρέπει να επιβραδυνθεί ή να υπόκειται σε αυστηρότερους περιορισμούς προσθέτει μια ακόμη διάσταση. Για ορισμένες startups, η επένδυση σε open-weight και προσαρμοσμένα μοντέλα λειτουργεί όχι μόνο ως τρόπος μείωσης του κόστους, αλλά και ως αντιστάθμιση απέναντι στον κίνδυνο μελλοντικών περιορισμών στην πρόσβαση στα πιο προηγμένα συστήματα AI.
