Άλτμαν: Δεν πρέπει να έχουμε συστήματα ΑΙ που ξεφεύγουν από τον έλεγχό μας

Ο Σαμ Άλτμαν της OpenAI μιλάει στη Handelsblatt για το μέλλον της τεχνητής νοημοσύνης

Ο Σαμ Άλτμαν της OpenAI © EPA/FRANCK ROBICHON

Με πολύχρωμα αθλητικά παπούτσια Adidas και χωρίς έναν άνθρωπο της επικοινωνίας δίπλα του, ο επικεφαλής της OpenAI Σαμ Άλτμαν υποδέχθηκε τη γερμανική οικονομική εφημερίδα Handelsblatt στην έδρα της εταιρείας στο Σαν Φρανσίσκο για μια εκτενή συνέντευξη που κάλυψε το σύνολο των εκκρεμών ζητημάτων του κλάδου, από τα κενά κυβερνοασφάλειας μέχρι το ενδεχόμενο μιας φούσκας. «Είμαστε λίγο σαν start-up», λέει χαμογελώντας για μια επιχείρηση με περίπου 6.000 εργαζομένους, η οποία στον τελευταίο γύρο χρηματοδότησης, αποτιμήθηκε  στα 852 δισεκατομμύρια δολάρια και έχει ετήσιο κύκλο εργασιών 30 δισεκατομμυρίων δολαρίων. Η αναλογία αυτή, σημειώνει η Handelsblatt, θα την κατέτασσε αυτομάτως, σε περίπτωση εισαγωγής στο χρηματιστήριο, μεταξύ των μεγαλύτερων επιχειρήσεων του πλανήτη.

Το περιστατικό του Hugging Face και η παύση του Astra

Το λανσάρισμα του μοντέλου Astra, που είχε αρχικά προγραμματιστεί για τα τέλη του καλοκαιριού του 2026, καθυστερεί. Η OpenAI ανέστειλε την ανάπτυξή του, επικαλούμενη κρίσιμες λειτουργίες κυβερνοασφάλειας, καθώς το μοντέλο θα μπορούσε να εντοπίζει και να εκμεταλλεύεται σοβαρά σφάλματα λογισμικού. Στο ερώτημα της Handelsblatt πότε η εταιρεία θα αναπτύξει ένα μοντέλο που δεν θα μπορεί πλέον να διατηρεί υπό τον έλεγχό της, ο Άλτμαν απαντά «ελπίζω: ποτέ». Εξηγεί ότι η ανάπτυξη διακόπτεται όταν προσεγγίζονται  συγκεκριμένες οριακές τιμές, μέχρι να υπάρξουν οι απαιτούμενες εγγυήσεις  ασφαλείας, είτε μέσω νέων συστημάτων είτε μέσω νέων τύπων έρευνας ευθυγράμμισης, δηλαδή ευθυγράμμισης της τεχνητής νοημοσύνης με τις ανθρώπινες επιθυμίες.

Το πιο ενοχλητικό επεισόδιο, στο οποίο επιμένει η γερμανική εφημερίδα, αφορά ένα μοντέλο που ξέφυγε από το περιβάλλον δοκιμών του και χάκαρε την πλατφόρμα Hugging Face. Ο Άλτμαν μιλά για «αποτυχία του συντονισμού του μοντέλου» και παραδέχεται ότι «κάτι τέτοιο δεν θα έπρεπε να συμβεί», προσθέτοντας ωστόσο ότι κατά την ανάπτυξη της τεχνητής νοημοσύνης θα υπάρξουν τέτοια περιστατικά και ότι ο μόνος τρόπος να κατασκευαστεί  ασφαλής τεχνητή νοημοσύνη είναι να παραμείνει στενά συνδεδεμένη με την πραγματικότητα. Η εταιρεία, όπως λέει, αντέδρασε δύο φορές, μετά το περιστατικό του Hugging Face και την ανακάλυψη νέων κρίσιμων ικανοτήτων του Astra.

Η προειδοποίηση που απευθύνει στη Handelsblatt είναι ευρύτερη. Αυτή τη στιγμή, λέει, μόνο λίγες επιχειρήσεις διαθέτουν στα μοντέλα τους τις αντίστοιχες ικανότητες για hacks, σύντομα όμως θα υπάρξουν μοντέλα ανοικτού κώδικα ικανά για τέτοιες επιθέσεις. Θεωρεί τα μοντέλα ανοικτού κώδικα «κάτι εξαιρετικό», επιμένει όμως ότι πρέπει να ανακαλυφθεί ένα νέο πλέγμα ασφαλείας, «και, δεδομένης της ταχύτητας με την οποία γίνεται η ανάπτυξη, έχουμε γι’ αυτό μόνο πολύ λίγο χρόνο».

Ρύθμιση, G7 και μια νέα κλαδική οργάνωση

Η Handelsblatt θυμίζει ότι το 2023 ο Άλτμαν είχε δηλώσει ενώπιον του αμερικανικού Κογκρέσου πως η κρατική παρέμβαση είναι αποφασιστικής σημασίας για τη διαχείριση των κινδύνων, ενώ τον Ιούνιο προσκλήθηκε στη σύνοδο κορυφής των G7 όπου υπέρ υπέρ της θέσπισης διεθνών κανόνων. Απαριθμεί τέσσερις κατηγορίες κινδύνου: την κυβερνοασφάλεια, την κατάχρηση νέων βιολογικών όπλων από τρομοκράτες, την απώλεια ελέγχου και «τον πολύ πραγματικό κίνδυνο μιας υπερβολικά ισχυρής συγκέντρωσης εξουσίας σε μικρό αριθμό επιχειρήσεων, στα ίδια τα μοντέλα και στις χώρες που τα ελέγχουν».

Για τον AI Act της ΕΕ, τον οποίο η OpenAI έχει υποστηρίξει δημοσίως, λέει ότι περιέχει πολλά καλά στοιχεία, δεν πιστεύει όμως ότι τα νέα πεδία κινδύνου έχουν ήδη ενσωματωθεί, καθώς όλα αυτά ήταν αδιανόητα ακόμη πριν από τρία χρόνια. Τα μοντέλα υποβάλλονται για έλεγχο όχι μόνο στην αμερικανική κυβέρνηση αλλά και στη βρετανική αρχή πιστοποίησης UK AIC, την οποία χαρακτηρίζει μία από τις καλύτερες αρχές ελέγχου στον κόσμο. Στην ερώτηση της Handelsblatt αν θα ήταν διατεθειμένος να συναντά τον Έλον Μασκ και τον επικεφαλής της Anthropic Ντάριο Αμοντέι μια φορά το μήνα και να συζητούν για θέματα ασφαλείας, απαντά. «Σίγουρα όχι, αλλά νομίζω ότι αυτό θα ήταν καλό», και προαναγγέλλει ότι μέσα στους επόμενους μήνες θα πρέπει να δημιουργηθεί «κάτι σαν κλαδική οργάνωση».

Κίνα, Luna 5.6 και ο ανταγωνισμός της Anthropic

Ερωτηθείς για τους κινεζικούς παρόχους και το μοντέλο Kimi, το οποίο δηλώνει ότι έχει δοκιμάσει, ο Άλτμαν αναγνωρίζει ότι «από την Κίνα έρχονται σπουδαία μοντέλα», υποστηρίζει όμως ότι το νέο μοντέλο 5.6 Luna είναι το ισχυρότερο και οικονομικότερο στον κόσμο και καλύτερο από κάθε τρέχον μοντέλο ανοικτού κώδικα. Στο ερώτημα αν φοβάται ότι τα κινέζικα μοντέλα θα περιορίσουν την κυριαρχία των ΗΠΑ, η απάντηση είναι λακωνική, «όχι, δεν βλέπω έτσι αυτόν τον κόσμο».

Σύμφωνα με δημοσιεύματα που επικαλείται η Handelsblatt, η OpenAI έγραψε τον περασμένο χρόνο ζημιές 38,5 δισεκατομμυρίων δολαρίων, χωρίς η εταιρεία να επιβεβαιώαει επισήμως τον αριθμό. Μόνο για το 2026 σχεδιάζει να επενδύσει 50 δισεκατομμύρια δολάρια σε υπολογιστική ισχύ και 600 δισεκατομμύρια δολάρια έως το 2030. Για την κερδοφορία, ο Άλτμαν δεν δεσμεύεται, «υποθέτω ότι κάποια μέρα θα είμαστε πολύ κερδοφόροι», ενώ στην πίεση της εφημερίδας για τον χρονικό ορίζοντα μέσα στον οποίο αναμένει να συμβεί αυτό απαντά ότι δεν έχει κάτι συγκεκριμένο στο μυαλό του. Για την Anthropic, που ιδρύθηκε το 2021 από τον πρώην διευθυντή έρευνας της OpenAI και την ξεπέρασε στην αποτίμηση, αναγνωρίζει ότι επικεντρώθηκε νωρίς και με επιτυχία στους εταιρικούς πελάτες. Με τον Αμοντέι, όπως παραδέχεται, δεν μιλούν πλέον.

Sora, Codex και οι «επίμονοι agents»

Η στρατηγική, όπως την περιγράφει, είναι η πώληση της ισχυρότερης δυνατής τεχνητής νοημοσύνης μέσω μιας πλατφόρμας. Το Sora, λέει, «άρεσε πραγματικά στον κόσμο», αλλά η υπολογιστική δαπάνη της παραγωγής βίντεο δεν μπορούσε να δικαιολογηθεί με τους περιορισμένους πόρους. Μετά τα chatbots και τις προσφορές για προγραμματιστές, προβλέπει μια τρίτη κατηγορία, τους επίμονους agents που θα τρέχουν διαρκώς στο παρασκήνιο, με το πρόβλημα ότι θα είναι «πολύ υπολογιστικά εντατικοί». Η εταιρεία ξεπέρασε το ένα δισεκατομμύριο χρήστες, ενώ οι εταιρικοί πελάτες αναφέρουν διακοπές λόγω ανεπαρκούς υπολογιστικής ισχύος, κάτι που ο ίδιος αναγνωρίζει.

Η γερμανική αγορά και η είδηση για το Βερολίνο

Σύμφωνα με στοιχεία της OpenAI που δημοσιεύει η Handelsblatt, η Γερμανία είναι η μεγαλύτερη αγορά του ChatGPT στην Ευρώπη σε αριθμό συνδρομητών, βρίσκεται παγκοσμίως στις τρεις πρώτες αγορές επί πληρωμή συνδρομών και στις πέντε πρώτες στη χρήση του Codex, με τον αριθμό να έχει αυξηθεί από τις αρχές της χρονιάς κατά 720%.

Στη συνέντευξή του ο Άλτμαν ανακοινώνει ότι μετά το πρώτο γερμανικό γραφείο, που άνοιξε το 2025 στο Μόναχο, η εταιρεία θα ανοίξει δεύτερο στο Βερολίνο, «αρκετά σύντομα». Οι συζητήσεις με τον καγκελάριο Φρίντριχ Μερτς και τον υπουργό Οικονομικών Λαρς Κλίνγκμπάιλ για γερμανικό κέντρο δεδομένων δεν κατέληξαν, με τον Άλτμαν να δηλώνει ότι υποστηρίζει μεν τη δημιουργία των data centers, κατανοεί όμως και τις χώρες που δεν τα θέλουν.

Απορρίπτει τέλος την προειδοποίηση του επικεφαλής της Palantir Άλεξ Καρπ περί πνευματικής ιδιοκτησίας, επισημαίνοντας ότι η εταιρεία προσφέρει σε όλους επιλογή opt-out δεδομένων, ακόμη και στα frontier models, τις πιο προηγμένες δηλαδή προσφορές της.

Η φούσκα, τα τρανζίστορ και ο Ed Zitron

Η Handelsblatt παραθέτει τον τεχνολογικό blogger Ed Zitron, ο οποίος αποκαλεί την OpenAI «Lehman Brothers της ΤΝ», και την πρόβλεψη της Goldman Sachs ότι οι παγκόσμιες δαπάνες για υποδομές τεχνητής νοημοσύνης θα φτάσουν το 2026 στο ένα τρισεκατομμύριο δολάρια. Τα στοιχεία που συνοδεύουν το ρεπορτάζ δείχνουν άλμα των επενδύσεων σε υποδομές από 19,7 δισεκατομμύρια δολάρια το 2020 σε 760 δισεκατομμύρια το 2026, με την Amazon στα 220 δισ., την Alphabet στα 205 δισ., τη Microsoft στα 190 δισ. και τη Meta στα 145 δισ. Οι συσσωρευμένες δαπάνες της περιόδου 2020-2025 φτάνουν τα 205 δισ. για την Amazon, 190 δισ. για την Google, 149 δισ. για τη Microsoft, 141 δισ. για τη Meta, 43 δισ. για τη Nvidia, 20 δισ. για την Apple και 15 δισ. για την Tesla. Η αποτίμηση της ίδιας της OpenAI εκτινάχθηκε από 1,9 δισ. δολάρια τον Ιούνιο του 2019 στα 852 δισ. τον Μάρτιο του 2026, ενώ ο ετησιοποιημένος τζίρος πέρασε από τα 2 δισ. τον Δεκέμβριο του 2023 στα 13 δισ. τον Αύγουστο του 2025.

Ο Άλτμαν δέχεται μερικώς την κριτική, «είχα κι εγώ ορισμένους φόβους ότι σε ορισμένα σημεία και σε ορισμένες περιόδους θα γίνουν υπερβολικά μεγάλες επενδύσεις,  σε αυτό οι επικριτές έχουν δίκιο». Προβλέπει εναλλασσόμενες φάσεις επενδυτικών υπερβολών και υποεπένδυσης και χρησιμοποιεί ως ιστορικό παράλληλο τα τρανζίστορ, που διαδόθηκαν σε όλη την οικονομία και έκαναν τα πάντα φθηνότερα και καλύτερα. Για την εισαγωγή στο χρηματιστήριο, που σύμφωνα με επιχειρηματικούς κύκλους παραμένει στο τραπέζι για το φθινόπωρο, περιορίζεται στο «μόλις μπορέσουμε να ανακοινώσουμε χρονοδιάγραμμα, θα το κάνουμε».

Δέκα μαθηματικά ευρήματα και η γνωστική ατροφία

Μια πρώιμη έκδοση του Astra έχει ήδη καταλήξει σε περίπου δέκα νέα μαθηματικά ευρήματα, κάτι που, όπως λέει, «έχει πρακτικά σοκάρει τον ακαδημαϊκό κόσμο». Η OpenAI, που είχε κλείσει το τμήμα ρομποτικής της το 2021, διαθέτει πλέον νέο. Για τις θέσεις εργασίας δηλώνει ότι όσοι προέβλεπαν ταχεία απώλεια πριν από ενάμιση χρόνο έκαναν λάθος. Εκείνο που τον ανησυχεί περισσότερο από τις παραισθήσεις των μοντέλων, τις οποίες θεωρεί περισσότερο πρόβλημα ευθυγράμμισης παρά ευφυΐας, είναι «η γνωστική ατροφία που προκύπτει από την ΤΝ».

Στην πιο προσωπική στιγμή της συνέντευξης, ο 41χρονος σήμερα Άλτμαν, πατέρας ενός γιου ενάμιση έτους και μιας νεογέννητης κόρης, λέει ότι πρέπει να είμαστε πολύ προσεκτικοί με τα παιδιά και τις νέες τεχνολογίες, «τα παιδιά πρέπει να παίζουν έξω». Απορρίπτει την ταμπέλα του παθολογικού ψεύτη, «θα έλεγα όχι, αλλά αν κάποιος ήταν παθολογικός ψεύτης, εξ ορισμού θα έλεγε όχι», και για το «The Blip» του Νοεμβρίου 2023, όταν απομακρύνθηκε και επέστρεψε πέντε ημέρες αργότερα, μιλά για αμοιβαία παραβίαση εμπιστοσύνης με το τότε διοικητικό συμβούλιο. Το τελικό του σχόλιο στη Handelsblatt συνοψίζει το παράδοξο της θέσης του, «θα μιλούσα πάντα καλύτερα με έναν άνθρωπο παρά με ΤΝ».