Πυκνώνουν οι φωνές για αυστηρότερη εποπτεία και άμεση παρέμβαση απέναντι στους κινδύνους της τεχνητής νοημοσύνης. Μία από τις πλέον ηχηρές προειδοποιήσεις έρχεται αυτή τη φορά όχι από κάποιον επικριτή της AI, αλλά από έναν άνθρωπο που βρίσκεται εδώ και χρόνια στην πρώτη γραμμή των επενδύσεων και της αξιοποίησής της.
Ο Greg Jensen, συν-επικεφαλής επενδύσεων της Bridgewater Associates, προειδοποίησε ότι οι κυβερνήσεις και οι εταιρείες ενδέχεται να μην κινητοποιηθούν ουσιαστικά για να περιορίσουν τους κινδύνους της τεχνητής νοημοσύνης παρά μόνο όταν υπάρξουν ανθρώπινα θύματα.
Μιλώντας στο podcast Odd Lots του Bloomberg, ο Jensen συνέκρινε τη σημερινή κατάσταση με τον Φεβρουάριο του 2020, όταν τα πρώτα σημάδια της πανδημίας του κορονοϊού ήταν ήδη ορατά, αλλά η πραγματική έκταση της απειλής δεν είχε ακόμη γίνει αντιληπτή.
«Δυστυχώς, αυτό θυμίζει τον Φεβρουάριο του 2020», ανέφερε. Όπως υποστήριξε, η ιστορία δείχνει ότι «μέχρι η AI να αρχίσει να σκοτώνει ανθρώπους, πιθανότατα δεν θα κάνουμε τίποτα», προσθέτοντας ότι θα ήταν πολύ προτιμότερο οι κυβερνήσεις να κινηθούν προτού συμβεί κάτι τέτοιο. Τις δηλώσεις του Jensen και την προειδοποίησή του για ενδεχόμενους υπαρξιακούς κινδύνους από την AI κατέγραψε επίσης το MarketWatch.
Από επενδυτής της OpenAI στην προειδοποίηση για την AI
Ο Jensen κάθε άλλο παρά πολέμιος της τεχνητής νοημοσύνης μπορεί να θεωρηθεί. Βρίσκεται στην Bridgewater από το 1996 και σήμερα, εκτός από συν-επικεφαλής επενδύσεων, έχει την ευθύνη τόσο για τη στρατηγική Pure Alpha όσο και για το AIA Labs, το εσωτερικό εργαστήριο τεχνητής νοημοσύνης του hedge fund. Στόχος του AIA Labs είναι, σύμφωνα με την ίδια την Bridgewater, η ανάπτυξη ενός «τεχνητού επενδυτή» ικανού να φτάσει ή και να ξεπεράσει τις επιδόσεις έμπειρων ανθρώπων επενδυτών.
Ο Jensen υπήρξε επίσης από τους πρώτους προσωπικούς επενδυτές στην OpenAI και έχει αναφέρει ότι βρισκόταν μεταξύ των πρώτων χρηματοδοτών της Anthropic.
Η εμπειρία του με την τεχνολογία είναι ακριβώς αυτή που, όπως λέει, εντείνει τις ανησυχίες του για την ταχύτητα με την οποία εξελίσσεται.
Στην Bridgewater, η AI χρησιμοποιείται ήδη παράλληλα με τους ανθρώπους επενδυτές. Προς το παρόν, σύμφωνα με τον Jensen, η ανθρώπινη διαίσθηση εξακολουθεί να υπερέχει. Ωστόσο, η διαφορά κλείνει ταχύτατα.
Όπως εκτίμησε, μέσα σε μόλις δυόμισι χρόνια τα συστήματα τεχνητής νοημοσύνης έχουν σχεδόν φτάσει το επίπεδο ενός συστήματος ανθρώπινης επενδυτικής κρίσης που η Bridgewater χρειάστηκε δεκαετίες για να αναπτύξει. Ο ίδιος θεωρεί πιθανό ότι σε περίπου δύο χρόνια η AI θα μπορεί να αποδίδει «σημαντικά καλύτερα» από το σύνολο των ανθρώπων της Bridgewater.
Το «καμπανάκι» από την επίθεση στη Hugging Face
Ένα από τα περιστατικά που επικαλείται ο Jensen ως προειδοποιητικό σημάδι είναι η κυβερνοεπίθεση στη Hugging Face.
Όπως περιέγραψε πρόσφατα στους Financial Times ο συνιδρυτής και επικεφαλής επιστήμονας της εταιρείας, περίπου 1.200 AI agents είχαν εμπλακεί σε μια κυβερνοδραστηριότητα που ξεκίνησε στο πλαίσιο πρόκλησης της OpenAI, με εκατοντάδες από αυτούς να καταλήγουν να επιτίθενται στα πραγματικά συστήματα της Hugging Face. Η επίθεση δημιούργησε περισσότερα από 17.000 συμβάντα στα αρχεία ασφαλείας της εταιρείας.
Το περιστατικό έχει ήδη τραβήξει και την προσοχή του αμερικανικού Κογκρέσου, με γερουσιαστές και από τα δύο κόμματα να ζητούν περισσότερες πληροφορίες για το τι ακριβώς συνέβη και για το κατά πόσο τα προηγμένα μοντέλα μπορούν να λειτουργήσουν πέρα από τα προβλεπόμενα όρια.
Ο Jensen προχωρεί ακόμη περισσότερο, περιγράφοντας ως πιθανό μελλοντικό σενάριο ένα εξαιρετικά προηγμένο σύστημα να προσπαθεί να παρακάμψει ανθρώπους που το ελέγχουν ή το εκπαιδεύουν. Πρόκειται, πάντως, για υποθετικό σενάριο που θέτει ο ίδιος και όχι για συμπεριφορά που έχει αποδειχθεί ότι διαθέτουν σήμερα τα συστήματα AI.
Οι φόβοι εξαπλώνονται στη Silicon Valley
Οι τοποθετήσεις Jensen έρχονται σε μια περίοδο κατά την οποία η συζήτηση για τους ακραίους κινδύνους της AI έχει περάσει από τους κύκλους των ειδικών στη δημόσια συζήτηση.
Ο πρώην ερευνητής της Anthropic και της OpenAI Jacob Coxon αποχώρησε πρόσφατα από την Anthropic, υποστηρίζοντας ότι ο ανταγωνισμός μεταξύ των μεγαλύτερων εργαστηρίων AI οδηγεί σε υπερβολικά γρήγορη ανάπτυξη συστημάτων χωρίς επαρκείς εγγυήσεις ασφαλείας. Άλλοι ερευνητές της Anthropic έχουν επίσης δημοσιοποιήσει σοβαρές ανησυχίες για το ενδεχόμενο απώλειας ελέγχου πολύ πιο προηγμένων συστημάτων.
Παράλληλα, ο δισεκατομμυριούχος επενδυτής Paul Tudor Jones παρομοίασε πρόσφατα την έλευση της προηγμένης τεχνητής νοημοσύνης με την αναμονή ενός «τυφώνα κατηγορίας 6», ζητώντας άμεσο διεθνή συντονισμό για την ασφάλεια της τεχνολογίας.
Τι προτείνει ο Jensen
Για τον Jensen, μία από τις λύσεις είναι να μειωθεί ο ρυθμός ανάπτυξης της τεχνολογίας ώστε να δημιουργηθεί χρόνος για τη θέσπιση κανόνων. «Όσο περισσότερο περιμένεις, τόσο πιο απελπιστική γίνεται η κατάσταση», υποστήριξε.
Μεταξύ άλλων, πρότεινε οι εταιρείες και οι developers να μπορούν να θεωρούνται υπεύθυνοι για παράνομες πράξεις που πραγματοποιούνται από τα συστήματα τεχνητής νοημοσύνης τους.
Παράλληλα επανέφερε την πρότασή του για φορολόγηση της εργασίας που παράγεται από μηχανές, υποστηρίζοντας ότι διαφορετικά το σημερινό φορολογικό σύστημα ουσιαστικά δημιουργεί κίνητρο στις επιχειρήσεις να αντικαθιστούν εργαζομένους με AI.
Η Bridgewater έχει προτείνει συγκεκριμένα έναν φόρο πάνω στα tokens που χρησιμοποιούν τα μοντέλα τεχνητής νοημοσύνης, ώστε η «μηχανική εργασία» να αντιμετωπίζεται φορολογικά με τρόπο αντίστοιχο προς την ανθρώπινη εργασία. Σε ανάλυσή της τον Αύγουστο, εκτίμησε ότι ένας φόρος 35% στα tokens θα μπορούσε να αποφέρει περίπου 150 δισ. δολάρια το 2027 και έως 600 δισ. δολάρια το 2030.
Ο Jensen εκτιμά ότι μέσα στα επόμενα τρία χρόνια περίπου 14% των σημερινών θέσεων εργασίας θα αλλάξει ριζικά εξαιτίας της τεχνητής νοημοσύνης. Για τον ίδιο, το ερώτημα πλέον δεν είναι εάν η AI θα μετασχηματίσει την οικονομία, αλλά εάν οι κυβερνήσεις θα προλάβουν να δημιουργήσουν τους κανόνες πριν η τεχνολογία κινηθεί πολύ πιο γρήγορα από αυτές.
