AI routers: Η νέα μάχη των επιχειρήσεων για το κόστος της τεχνητής νοημοσύνης

Οι εταιρείες αναζητούν τρόπους για να περιορίσουν τον λογαριασμό της τεχνητής νοημοσύνης

Τεχνητή νοημοσύνη ©Pixbay

Η τεχνητή νοημοσύνη εξελίσσεται από ένα εργαλείο παραγωγικότητας σε βασική υποδομή για τις επιχειρήσεις, όμως μαζί με τη χρήση της αυξάνεται και ένα νέο πρόβλημα και αυτό δεν είναι άλλο από το κόστος.

Μεγάλες εταιρείες διαπιστώνουν ότι η μαζική χρήση προηγμένων μοντέλων AI μπορεί να δημιουργήσει ιδιαίτερα υψηλές δαπάνες, καθώς κάθε αίτημα προς ένα μοντέλο συνεπάγεται υπολογιστικό κόστος. Για τον λόγο αυτό, στην αγορά αναπτύσσεται μια νέα κατηγορία τεχνολογίας, οι λεγόμενοι model routers ή AI routers.

Πρόκειται για συστήματα που λειτουργούν ως «διαχειριστές» μεταξύ της επιχείρησης και των μοντέλων τεχνητής νοημοσύνης. Αντί μια εταιρεία να χρησιμοποιεί το ίδιο και ακριβότερο μοντέλο για κάθε εργασία, ο router αξιολογεί το αίτημα και επιλέγει ποιο μοντέλο είναι καταλληλότερο.

Από το ακριβό μοντέλο στο σωστό μοντέλο

Η λογική είναι σχετικά απλή: μια απαιτητική εργασία μπορεί να χρειάζεται ένα κορυφαίο μοντέλο AI, ενώ για μια απλή μετάφραση, περίληψη ή ταξινόμηση δεδομένων μπορεί να αρκεί ένα φθηνότερο μοντέλο.

Έτσι, ο router προσπαθεί να ισορροπήσει ανάμεσα στην ποιότητα, την ταχύτητα και το κόστος. Η τεχνολογία αυτή αποκτά ιδιαίτερη σημασία καθώς οι επιχειρήσεις περνούν από τις δοκιμαστικές εφαρμογές AI στη μαζική χρήση.

Χαρακτηριστικό παράδειγμα είναι η Bayer. Σύμφωνα με το Handelsblatt, ορισμένοι εργαζόμενοι της γερμανικής φαρμακευτικής εταιρείας δημιουργούν ήδη κόστος άνω των 5.000 ευρώ τον μήνα από τη χρήση εργαλείων AI. Η εταιρεία χρησιμοποιεί model router προκειμένου να αντιμετωπίσει το πρόβλημα του αυξανόμενου κόστους.

Η εξέλιξη δημιουργεί παράλληλα μια νέα αγορά γύρω από την τεχνητή νοημοσύνη. Μέχρι σήμερα, μεγάλο μέρος της προσοχής είχε στραφεί στις εταιρείες που αναπτύσσουν τα ίδια τα μεγάλα γλωσσικά μοντέλα. Πλέον, όμως, αυξάνεται η σημασία των εταιρειών που δημιουργούν την «υποδομή» η οποία αποφασίζει ποιο μοντέλο θα χρησιμοποιηθεί και πότε.

Για τις επιχειρήσεις, το ζητούμενο δεν είναι πλέον απλώς να υιοθετήσουν την AI, αλλά να την κάνουν οικονομικά βιώσιμη. Η νέα μάχη στην αγορά της τεχνητής νοημοσύνης μεταφέρεται έτσι από το ποιος διαθέτει το ισχυρότερο μοντέλο στο ποιος μπορεί να προσφέρει το καλύτερο αποτέλεσμα με το χαμηλότερο δυνατό κόστος.