Μια νέα σύγκρουση αναδύεται στην αιχμή της τεχνητής νοημοσύνης, καθώς οι επικεφαλής της OpenAI και της Anthropic προειδοποιούν ότι η ανεξέλεγκτη ανάπτυξη των ισχυρότερων μοντέλων συνεπάγεται τεράστιο ρίσκο και μπορεί να έχει καταστροφικές συνέπειες.
Απέναντί τους, σημειώνει το Bloomberg, βρίσκονται ωστόσο ισχυρές δυνάμεις της Wall Street, της Silicon Valley και της κυβέρνησης Τραμπ, που φοβούνται ότι η επιβράδυνση της τεχνολογικής κούρσας μπορεί να οδηγήσει σε ένα μεγάλο χρηματιστηριακό κραχ.
Οι δύο εταιρείες, οι οποίες αναπτύσσουν ορισμένα από τα ισχυρότερα συστήματα AI παγκοσμίως, δεσμεύτηκαν να λάβουν μέτρα ώστε να μπει ένα φρένο στην ταχύτητα ανάπτυξης των πιο προηγμένων μοντέλων. Η δέσμευσή τους αυτή συνδέεται με μια σειρά περιστατικών ασφαλείας, τα οποία ενίσχυσαν τους φόβους ότι οι δυνατότητες της τεχνολογίας εξελίσσονται ταχύτερα από τους μηχανισμούς ελέγχου της.
Σε κείμενο 3.800 λέξεων που δημοσίευσε το Σάββατο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, υποστήριξε ότι η εξέλιξη των πλέον προηγμένων συστημάτων ΑΙ πρέπει να κόψει ταχύτητα, προκειμένου να αποτραπεί ο κίνδυνος να ξεφύγει η ΑΙ από τον ανθρώπινο έλεγχο και να προκαλέσει καταστροφικές ζημιές.
Την παρέμβασή του έσπευσαν να υποστηρίξουν ο επικεφαλής της OpenAI, Σαμ Άλτμαν, και της SpaceXAI Έλον Μασκ. Ο Αμοντέι διευκρίνισε ότι η «ρύθμιση του ρυθμού» ανάπτυξης δεν συνεπάγεται απαραίτητα περιορισμό των επενδύσεων ή της οικονομικής μεγέθυνσης του κλάδου.
Φόβοι για ντόμινο στις τεχνολογικές μετοχές
Η προοπτική ενός «φρένου» στην ανάπτυξη των λεγόμενων frontier models προκαλεί, ωστόσο, έντονη ανησυχία στις αγορές, καθώς είναι τεράστια τα κεφάλαια που έχουν επενδυθεί πάνω στην προσδοκία ότι η έκρηξη της AI θα οδηγήσει σε εκατοντάδες δισεκατομμύρια δολάρια επενδύσεων σε τσιπ, data centers και υπολογιστικές υποδομές.
Παράλληλα, η Wall Street βρίσκεται σε αναμονή των δημόσιων εγγραφών της OpenAI και της Anthropic, που εκτιμάται ότι θα έχουν μέγεθος μεγαλύτερο από κάθε προηγούμενο στην ιστορία. Οι αποτιμήσεις των δύο εταιρειών στηρίζονται σε σημαντικό βαθμό στην ικανότητά τους να παρουσιάζουν συνεχώς νέα τεχνολογικά άλματα.
«Οι μετοχές της τεχνητής νοημοσύνης θα ανοίξουν με απώλειες άνω του 10% τη Δευτέρα», έγραψε την Κυριακή στο X ο επενδυτής τεχνολογίας Τζέισον Καλακάνις. «Προετοιμαστείτε για ισχυρούς κραδασμούς. Ο Ντάριο Αμοντέι μόλις αποδόμησε, με μία ανάρτηση, ολόκληρο το επενδυτικό αφήγημα γύρω από την AI».
Και πράγματι, στα χρηματιστήρια της Ασίας που ανοίγουν πρώτα, η αντίδραση των αγορών στις ανακοινώσεις των μεγάλων αφεντικών της ΑΙ ήταν έντονα αρνητική. Στο Χρηματιστήριο της Νότιας Κορέας, οι Samsung Electronics και SK Hynix είχαν απώλειες άνω του 4% ενώ η μετοχή της SoftBank Group, η οποία έχει επενδύσει στην OpenAI, σημείωσε «βουτιά» 13%.
Η πτώση είναι δυνατό να απειλήσει εταιρείες όπως η Nvidia, η οποία ωφελείται από την αυξανόμενη ζήτηση για επεξεργαστές μοντέλων AI, σημειώνει το Bloomberg. Πιέσεις ενδέχεται να δεχθούν επίσης η Microsoft και η Amazon, που παρέχουν υπολογιστική ισχύ και υπηρεσίες cloud στην OpenAI και την Anthropic.
«Οι δύο εταιρείες και τα σχέδιά τους έχουν τεράστια επίδραση σε ολόκληρο τον τεχνολογικό κλάδο», δήλωσε στο Bloomberg ο αναλυτής της Evercore ISI, Μαρκ Μαχέινι. Αν αυτές οι εταιρείες περιορίσουν τις δαπάνες τους για έρευνα, προσλήψεις και κεφαλαιουχικές επενδύσεις, μπορεί να δούμε σημαντικές αναταράξεις στα χρηματιστήρια πρόσθεσε.
Η αντίδραση Τραμπ και ο ανταγωνισμός με την Κίνα
Οποιαδήποτε προσπάθεια επιβράδυνσης της τεχνολογικής ανάπτυξης κινδυνεύει να προκαλέσει και την αντίδραση του Ντόναλντ Τραμπ. Ο Αμερικανός πρόεδρος έχει τοποθετήσει την AI στο κέντρο της οικονομικής του πολιτικής, παρουσιάζοντάς την ως πηγή νέων θέσεων εργασίας και ως κρίσιμο πεδίο γεωπολιτικού ανταγωνισμού με την Κίνα.
«Όταν μιλάμε για ρύθμιση του ρυθμού, δεν εννοούμε διακοπή», έγραψε ο Σαμ Άλτμαν στο X, προσθέτοντας ότι θα χρειαστεί κυβερνητική βοήθεια για τον διεθνή συντονισμό, αλλά οι εταιρείες πρέπει πρώτα να αναλάβουν δράση από μόνες τους.
Ο Τραμπ εμφανίστηκε επιφυλακτικός απέναντι σε νέους περιορισμούς. «Προηγούμαστε της Κίνας στην AI και θέλω να παραμείνουμε μπροστά, επειδή όποιος κερδίσει στην τεχνητή νοημοσύνη κερδίζει», δήλωσε σε δημοσιογράφους στο περιθώριο του Irish Open. Αναγνώρισε ότι μπορούν να θεσπιστούν ορισμένες δικλίδες ασφαλείας, αλλά υποστήριξε ότι γύρω από το ζήτημα αναπτύσσονται «πολύ αρνητικές δυνάμεις».
Οι πιέσεις για παρέμβαση έχουν ενισχυθεί και στο Κογκρέσο. Ο γερουσιαστής Μπέρνι Σάντερς έχει προτείνει την απαγόρευση της λεγόμενης υπερνοήμονος AI, ενώ άλλοι νομοθέτες εξετάζουν τη δημιουργία ενός υποχρεωτικού μηχανισμού απενεργοποίησης των συστημάτων. Οι πιθανότητες να εγκριθεί μια σημαντική νομοθετική πρωτοβουλία πριν από τις ενδιάμεσες εκλογές παραμένουν, πάντως, περιορισμένες.
Η παραίτηση που αναζωπύρωσε τον φόβο
Η ανησυχία για τους υπαρξιακούς κινδύνους της AI πέρασε στο επίκεντρο της δημόσιας συζήτησης μετά την παραίτηση του στελέχους της Anthropic, Τζέικομπ Κόξον. Ο ίδιος κατηγόρησε τις εταιρείες τεχνητής νοημοσύνης ότι «παίζουν με τις ζωές μας» στην προσπάθειά τους να αναπτύξουν όλο και ισχυρότερα συστήματα.
Την παρέμβασή του υποστήριξαν δεκάδες ερευνητές, ζητώντας επιβράδυνση της τεχνολογίας. Ανάλογη προειδοποίηση απηύθυνε και ο επικεφαλής επενδύσεων της Bridgewater Associates, Γκρεγκ Τζένσεν, πρώιμος επενδυτής στην OpenAI και την Anthropic. Όπως υποστήριξε, η ανθρωπότητα κινδυνεύει να χάσει το χρονικό περιθώριο για την αποτροπή των σοβαρότερων συνεπειών.
Ο Αμοντέι επικαλέστηκε δύο βασικούς λόγους που καθιστούν αναγκαία την ανάληψη δράσης: την αυξανόμενη δυνατότητα των μοντέλων AI να βελτιώνουν μόνα τους τις ικανότητές τους και το περιστατικό του Ιουλίου, όταν ένα σύνολο αυτόνομων πρακτόρων της OpenAI συνεργάστηκε χωρίς να εντοπιστεί, παραβιάζοντας τον ιστότοπο της Hugging Face.
Ο επικεφαλής της Anthropic δεσμεύτηκε ότι θα επιτρέψει σε ανεξάρτητους αξιολογητές να εξετάζουν τα νέα συστήματα πριν από την κυκλοφορία τους, διαθέτοντας πρόσβαση αντίστοιχη με εκείνη των εργαζομένων της εταιρείας. Ο Άλτμαν δήλωσε ότι σχεδιάζει να εφαρμόσει αντίστοιχη διαδικασία στην OpenAI, ενώ ο Μασκ χαρακτήρισε χρήσιμη την αμοιβαία αξιολόγηση μεταξύ των μεγαλύτερων εταιρειών του κλάδου.
Παράλληλα, ο Αμοντέι επανέφερε την πρότασή του για υποχρεωτικό κρατικό έλεγχο ασφαλείας των ισχυρότερων μοντέλων. Όπως υποστήριξε, η ρύθμιση θα επιτρέψει στην κοινωνία και στους εκλεγμένους αντιπροσώπους της να έχουν λόγο στην ανάπτυξη της τεχνολογίας, περιορίζοντας τις αποφάσεις που μπορούν να λαμβάνουν αυτόνομα οι ιδιωτικές επιχειρήσεις.
