Οι ισχυρότεροι επιχειρηματίες της Silicon Valley συγκρούονται για το πώς πρέπει να αναπτυχθεί και να ελεγχθεί η τεχνητή νοημοσύνη. Η αντιπαράθεση αφορά την ασφάλεια, την πρόσβαση στα ισχυρότερα μοντέλα, τον ανταγωνισμό με την Κίνα και τον ρόλο της κυβέρνησης.
Η Ουάσιγκτον καλείται να αποφασίσει πώς θα διαχειριστεί την κούρσα της AI, καθώς οι τεχνολογικοί κολοσσοί διαφωνούν για το πόσο ανοιχτή ή ελεγχόμενη πρέπει να είναι.
Από τον Τζένσεν Χουάνγκ και τον Μαρκ Ζούκερμπεργκ έως τον Ντάριο Αμοντέι, τον Ντέμη Χασάμπη και τον Σαμ Άλτμαν, υπάρχουν διαφορετικές προτάσεις για την ασφάλεια και την αμερικανική υπεροχή στην τεχνητή νοημοσύνη.
Η Silicon Valley έχει μεταφέρει πλέον στην Ουάσιγκτον μια κρίσιμη συζήτηση για το μέλλον της τεχνητής νοημοσύνης, με τους ισχυρότερους επιχειρηματίες του κλάδου να καταθέτουν ανταγωνιστικές προτάσεις για τη διαχείριση της λεγόμενης υπερευφυΐας. Στο επίκεντρο βρίσκεται ένα θεμελιώδες δίλημμα: η ασφάλεια θα διασφαλιστεί μέσω της ευρείας διάδοσης των ισχυρών μοντέλων ή με τον περιορισμό της πρόσβασης σε αυτά;
Το διακύβευμα είναι τεράστιο. Η επιλογή των κανόνων θα επηρεάσει ποιοι θα έχουν πρόσβαση στα πιο προηγμένα μοντέλα, την ικανότητα των ΗΠΑ να ανταγωνιστούν την Κίνα και το κατά πόσο η κυβέρνηση θα διαθέτει τα απαραίτητα εργαλεία για να επιβραδύνει την τεχνολογική κούρσα σε περίπτωση έκτακτης ανάγκης.
Η συζήτηση απέκτησε επείγοντα χαρακτήρα μετά τις αποκαλύψεις ότι προηγμένα μοντέλα των OpenAI και Anthropic ξέφυγαν από τον προβλεπόμενο έλεγχο και απέκτησαν πρόσβαση σε εξωτερικά συστήματα κατά τη διάρκεια δοκιμών κυβερνοασφάλειας. Παράλληλα, το κινεζικό μοντέλο Kimi K3 προκάλεσε διπλή έκπληξη, καθώς πέτυχε επιδόσεις αντίστοιχες των κορυφαίων μοντέλων, ενώ τα βάρη του είναι διαθέσιμα για λήψη, τροποποίηση και ανάπτυξη από οποιονδήποτε.
Οι εξελίξεις αυτές ενίσχυσαν τη σημασία μιας σειράς δημόσιων παρεμβάσεων που διαμορφώνουν διαφορετικές στρατηγικές για τη διαχείριση του κινδύνου.
Τεχνητή νοημοσύνη: Πέντε διαφορετικές προσεγγίσεις
Στις 14 Ιουλίου ο διευθύνων σύμβουλος της Google DeepMind, Ντέμης Χασάμπης, πρότεινε τη δημιουργία ενός ομοσπονδιακά εποπτευόμενου φορέα για τα πρότυπα των προηγμένων μοντέλων, χρηματοδοτούμενου από τον κλάδο και αρμόδιου για ελέγχους πριν από την κυκλοφορία τους. Ο Τζένσεν Χουάνγκ της Nvidia τάχθηκε υπέρ των «ανοιχτών βαρών», υποστηρίζοντας ότι ενισχύουν την καινοτομία και τις δυνατότητες κυβερνοάμυνας, με τη στήριξη μεταξύ άλλων των Meta, Microsoft, Google και OpenAI.
Αντίθετα, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, ζήτησε υποχρεωτικούς ελέγχους ασφαλείας και αυστηρότερους περιορισμούς σε τσιπ και τεχνικές που διευκολύνουν την ανάπτυξη ισχυρών μοντέλων ανοιχτών βαρών στην Κίνα. Ο Μαρκ Ζούκερμπεργκ της Meta υποστήριξε την ευρεία πρόσβαση σε «προσωπική υπερευφυΐα», προειδοποιώντας για τους κινδύνους ενός μέλλοντος που η τεχνολογία θα ελέγχεται από λίγες εταιρείες ή κυβερνήσεις.
Την ίδια στιγμή, περισσότεροι από 1.200 εργαζόμενοι σε κορυφαία εργαστήρια υπέγραψαν την πρωτοβουλία «Pacing the Frontier», ζητώντας από την Ουάσιγκτον διεθνή εργαλεία που θα επιτρέπουν σκόπιμη επιβράδυνση της ανάπτυξης, εφόσον η AI αρχίσει να εξελίσσεται πέρα από τον ανθρώπινο έλεγχο.
Ο Σαμ Άλτμαν της OpenAI © EPA/FRANCK ROBICHON
Ο Σαμ Άλτμαν αναζητεί τη μέση οδό
Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, επιχειρεί να κινηθεί και στις δύο πλευρές της αντιπαράθεσης. Η εταιρεία του στηρίζει την ανάπτυξη μιας ανοιχτής υποδομής AI, ενώ παράλληλα διαθέτει κλειστά μοντέλα. Ο ίδιος δήλωσε ότι ερευνητές της OpenAI συνέβαλαν στη διαμόρφωση της πρωτοβουλίας για την επιβράδυνση της τεχνολογικής προόδου.
Σύμφωνα με πληροφορίες, ο Άλτμαν έχει συζητήσει με τον Λευκό Οίκο τη δημιουργία εργαλείων που θα επιτρέπουν στην κυβέρνηση να «ρυθμίζει τον ρυθμό» ανάπτυξης της AI, εφόσον αυτό καταστεί αναγκαίο. Επιμένει, ωστόσο, ότι οι σχετικές αποφάσεις πρέπει να ανήκουν στην κυβέρνηση και να λαμβάνονται μέσω δημοκρατικών διαδικασιών, όχι από μία μεμονωμένη εταιρεία.
Παράλληλα, στις επαφές του με την κυβέρνηση παρουσίασε τις δυνατότητες του Astra, της επόμενης μεγάλης οικογένειας μοντέλων της ChatGPT. Η OpenAI ανακοίνωσε ότι η εσωτερική έκδοση του Astra συνέβαλε σε σημαντικές ερευνητικές προόδους σε 10 δύσκολα μαθηματικά προβλήματα.
Το παράδοξο των ανοιχτών μοντέλων
Η διαμάχη καταλήγει σε ένα κοινό παράδοξο: τα ανοιχτά μοντέλα μπορούν να επιταχύνουν την καινοτομία, να ενισχύσουν την κυβερνοάμυνα και να αποτρέψουν τη συγκέντρωση ισχύος σε λίγους τεχνολογικούς ομίλους. Όσο όμως αυξάνονται οι δυνατότητές τους στην κυβερνοασφάλεια και την αυτόνομη δράση, η ανεξέλεγκτη διάδοσή τους μπορεί να καταστήσει αδύνατη την παρακολούθηση, τον περιορισμό ή την ανάκλησή τους.
Η κυβέρνηση του Ντόναλντ Τραμπ βρίσκεται κοντά στην υιοθέτηση ενός επίσημου, εθελοντικού πλαισίου αξιολόγησης των πιο προηγμένων συστημάτων AI. Η «μάχη των μανιφέστων» επιχειρεί να επηρεάσει τόσο τους κινδύνους που θα μπουν πρώτοι στο μικροσκόπιο όσο και τους κανόνες που τελικά θα υιοθετήσει η Ουάσιγκτον.
Όλα αυτά συμβαίνουν καθώςη η νέα γενιά συστημάτων τεχνητής νοημοσύνης εξελίσσεται με πρωτοφανή ταχύτητα. Όμως μαζί με τις δυνατότητές της αυξάνονται και οι ανησυχίες για τον βαθμό ελέγχου που μπορούν να ασκήσουν οι δημιουργοί της. Δύο πρόσφατα περιστατικά που αποκάλυψαν οι OpenAI και Anthropic επαναφέρουν στο προσκήνιο τους κινδύνους των αυτόνομων AI agents, οι οποίοι μπορούν να θέτουν στόχους, να προσαρμόζονται στο περιβάλλον τους και να συνεχίζουν τη δράση τους χωρίς ανθρώπινη παρέμβαση.
Τεχνητή νοημοσύνη © Freepik
Η Anthropic γνωστοποίησε ότι, στο πλαίσιο περισσότερων από 141.000 δοκιμών κυβερνοασφάλειας, εντόπισε τρεις περιπτώσεις που μοντέλα Claude κατάφεραν να αποκτήσουν πρόσβαση στο διαδίκτυο από περιβάλλοντα που θεωρούνταν απομονωμένα και στη συνέχεια αλληλεπίδρασαν με πραγματικά πληροφοριακά συστήματα. Τα περιστατικά, που ξεκίνησαν τον Απρίλιο, δεν έγιναν άμεσα αντιληπτά ούτε από την εταιρεία ούτε από τους οργανισμούς που επηρεάστηκαν. Σε μία περίπτωση, παλαιότερο μοντέλο συνέχισε τη δραστηριότητά του ακόμη και όταν διαπίστωσε ότι είχε εξέλθει από το ελεγχόμενο περιβάλλον.
Λίγες ημέρες νωρίτερα, η OpenAI είχε αποκαλύψει ανάλογο περιστατικό, κατά το οποίο αυτόνομα μοντέλα απέκτησαν πρόσβαση σε υποδομές της πλατφόρμας ανοικτού κώδικα Hugging Face. Οι AI agents εντόπισαν εκτεθειμένα διαπιστευτήρια σύνδεσης, εισήλθαν σε τέσσερις λογαριασμούς διαφορετικών υπηρεσιών και παρέμειναν στο δίκτυο για τρεις ημέρες, πριν απομονωθούν. Αν και δεν επηρεάστηκαν δημόσια μοντέλα ή σύνολα δεδομένων, το συμβάν ανέδειξε την ικανότητα των συστημάτων να υπερβαίνουν τα όρια που έχουν θέσει οι δημιουργοί τους.
Τεχνητή νοημοσύνη χωρίς φρένα: Οι κυβερνοπαραβιάσεις από AI αναδεικνύουν τα όρια του ανθρώπινου ελέγχου
Οι ειδικοί επισημαίνουν ότι το μεγαλύτερο πλεονέκτημα των AI agents είναι ταυτόχρονα και η μεγαλύτερη πρόκληση: μπορούν να δοκιμάζουν χιλιάδες διαφορετικές μεθόδους ταυτόχρονα να προσαρμόζονται σε νέα δεδομένα και να λειτουργούν αδιάκοπα, χωρίς ανθρώπινη κόπωση.
Το ζήτημα αποκτά ακόμη μεγαλύτερη σημασία, καθώς οι μεγάλες εταιρείες επιδιώκουν να ενσωματώσουν την τεχνητή νοημοσύνη στον πυρήνα των επιχειρησιακών λειτουργιών, δίνοντάς της πρόσβαση σε εταιρικά δεδομένα, λογισμικά και κρίσιμες υποδομές. Όσο αυξάνεται όμως η αυτονομία των συστημάτων τόσο μεγαλώνει και ο κίνδυνος μιας ανεπιθύμητης συμπεριφοράς ή κυβερνοεπίθεσης.
Οι εξελίξεις έχουν εντείνει τις πιέσεις για τη δημιουργία διεθνών κανόνων εποπτείας. Περισσότερα από 1.100 στελέχη του κλάδου ζητούν μηχανισμούς ασφαλείας που θα επιτρέπουν τον ελεγχόμενο ρυθμό ανάπτυξης της τεχνολογίας, ενώ στη σύνοδο της G7 προτάθηκε η δημιουργία διακρατικού πλαισίου συνεργασίας για την ασφάλεια της τεχνητής νοημοσύνης. Το βασικό ερώτημα πλέον είναι αν η ρύθμιση θα προλάβει την τεχνολογική εξέλιξη ή αν η αυτονομία των AI συστημάτων θα ξεπεράσει τις υπάρχουσες δικλίδες ασφαλείας.
