Ο Γιαν ΛεΚούν, ένας από τους ανθρώπους που συνέβαλαν καθοριστικά στη σημερινή έκρηξη της τεχνητής νοημοσύνης, δεν συμμερίζεται τις προειδοποιήσεις ότι η AI μπορεί να εξελιχθεί σε υπαρξιακή απειλή για την ανθρωπότητα. Αντίθετα, θεωρεί ότι μεγάλο μέρος της συζήτησης γύρω από τους ακραίους κινδύνους της τεχνητής νοημοσύνης είναι υπερβολικό και, σε ορισμένες περιπτώσεις, επιζήμιο.
Όπως αναφέρει το Fortune, ο ΛεΚούν κέρδισε το 2018 το βραβείο Turing, το οποίο θεωρείται το αντίστοιχο του Νόμπελ για την επιστήμη των υπολογιστών, μαζί με τους Τζέφρι Χίντον και Γιοσούα Μπέντζιο, για τη συμβολή τους στο deep learning, την τεχνολογία των νευρωνικών δικτύων πάνω στην οποία στηρίζεται μεγάλο μέρος της σημερινής AI.
Σχεδόν μία δεκαετία αργότερα, όμως, οι δρόμοι των τριών αποκαλούμενων «νονών της AI» έχουν χωρίσει ως προς την εκτίμησή τους για τους κινδύνους. Σε αντίθεση με τους Χίντον και Μπέντζιο, ο ΛεΚούν δηλώνει ότι δεν ανησυχεί καθόλου για το ενδεχόμενο η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας.
Μιλώντας στο Fortune, είπε ότι έχει «μηδενική ανησυχία» ακόμη και για πρόσφατα περιστατικά κατά τα οποία συστήματα AI φέρονται να ενήργησαν με μη αναμενόμενο τρόπο. Κατά την άποψή του, τέτοια συμβάντα δεν αποδεικνύουν ότι τα συστήματα αποκτούν ανεξέλεγκτες προθέσεις, αλλά ότι έχουν σχεδιαστεί ή επιβλεφθεί ανεπαρκώς από ανθρώπους.
ΛεΚούν: Τα συστήματα κάνουν αυτό που τους ζητήθηκε
Ο ΛεΚούν αναφέρθηκε, μεταξύ άλλων, σε περιστατικό με agents της OpenAI που, σύμφωνα με το δημοσίευμα, κατάφεραν να παραβιάσουν συστήματα της Hugging Face τον Ιούλιο. Κατά τον ίδιο, η αιτία ήταν προβληματικά σχεδιασμένα περιβάλλοντα ασφαλείας και όχι κάποια αυτόνομη «εξέγερση» των μοντέλων.
«Οι agents έκαναν ακριβώς αυτό που τους ζητήθηκε», είπε στο Fortune, υποστηρίζοντας ότι τα λεγόμενα sandboxes μέσα στα οποία υποτίθεται ότι λειτουργούσαν με περιορισμούς ήταν ανεπαρκώς σχεδιασμένα και επέτρεψαν στα συστήματα να κινηθούν πέρα από τα προβλεπόμενα όρια.
Ο ίδιος θεωρεί ότι αρκετά εργαστήρια AI δεν διαθέτουν ακόμη επαρκή κατανόηση της κυβερνοασφάλειας και ότι αυτό αποτελεί πολύ πιο άμεσο πρόβλημα από τα σενάρια εξαφάνισης της ανθρωπότητας.
Τρελός και παραπλανημένος ο Ντάριο Αμοντέι
Ακόμη πιο αιχμηρός εμφανίστηκε απέναντι στον επικεφαλής της Anthropic Ντάριο Αμοντέι, ο οποίος έχει επανειλημμένως προειδοποιήσει για τους σοβαρούς κινδύνους που μπορεί να συνοδεύσουν την ανάπτυξη εξαιρετικά ισχυρών συστημάτων AI.
Ο ΛεΚούν χαρακτήρισε τον Αμοντέι«παραπλανημένο» και αργότερα στη συνέντευξη χρησιμοποίησε ακόμη πιο σκληρή διατύπωση, αποκαλώντας τον «τρελό». Η κριτική του επεκτείνεται και στον Σαμ Άλτμαν της OpenAI, με τον ΛεΚούν να υποστηρίζει ότι οι δημόσιες προειδοποιήσεις σύμφωνα με τις οποίες η AI θα μπορούσε να «μας σκοτώσει όλους» έχουν καταστροφικές συνέπειες για την εικόνα του κλάδου και εντείνουν τον φόβο στην κοινωνία.
Κατά την άποψή του, πρόκειται για τη «χειρότερη εκστρατεία marketing που θα μπορούσε να φανταστεί κανείς» για την τεχνητή νοημοσύνη.
Στο επίκεντρο της κριτικής του ΛεΚούν βρίσκεται και το κίνημα του Effective Altruism, το οποίο έχει αποκτήσει σημαντική επιρροή σε κύκλους που ασχολούνται με την ασφάλεια της AI.
Ο ίδιος το χαρακτηρίζει «εξαιρετικά τοξικό» και «πλήρη καταστροφή», θεωρώντας ότι η έντονη ενασχόλησή του με υπαρξιακούς κινδύνους οδηγεί ορισμένους ανθρώπους σε υπερβολικά απαισιόδοξες εκτιμήσεις και λανθασμένες αποφάσεις.
Το Fortune σημειώνει ότι η συγκεκριμένη συζήτηση έχει αποκτήσει μεγαλύτερη δημοσιότητα μετά από αναφορές εργαζομένων στον χώρο της τεχνητής νοημοσύνης που έχουν εκφράσει έντονη ανησυχία για το ενδεχόμενο η δουλειά τους να προκαλέσει σοβαρή βλάβη.
Ο ΛεΚούν, ωστόσο, θεωρεί ότι το πραγματικό ρίσκο βρίσκεται αλλού: στη δυνατότητα των μεγαλύτερων εταιρειών AI να επηρεάσουν τη νομοθεσία κατά τρόπο που θα μπορούσε να εδραιώσει τη θέση τους στην αγορά και να δυσκολέψει την ανάπτυξη μικρότερων ανταγωνιστών.
Περισσότερο φοβάται τη ρύθμιση για την AI παρά την «εξαφάνιση»
Για τον ΛεΚούν, το ενδεχόμενο του λεγόμενου regulatory capture είναι πιο ανησυχητικό από ένα σενάριο στο οποίο η AI εξαλείφει την ανθρωπότητα.
Εκτιμά ότι όταν κορυφαίες εταιρείες υποστηρίζουν πως τα ισχυρά μοντέλα είναι υπερβολικά επικίνδυνα για να βρίσκονται ελεύθερα στα χέρια των χρηστών ή ότι τα open-source μοντέλα πρέπει να περιοριστούν, το αποτέλεσμα μπορεί να είναι ένα ρυθμιστικό πλαίσιο που θα προστατεύει ουσιαστικά τους ήδη κυρίαρχους παίκτες.
Αυτό δεν σημαίνει ότι θεωρεί πως τα συστήματα AI είναι ακίνδυνα. Η διαφωνία του αφορά κυρίως το είδος και την κλίμακα των κινδύνων στους οποίους πρέπει να δοθεί προτεραιότητα.
Το νέο στοίχημα του ΛεΚούν μετά τη Meta
Μετά από 12 χρόνια στη Meta, τα επτά ως Chief AI Scientist, ο ΛεΚούν έχει πλέον επικεντρωθεί στη νέα του εταιρεία, AMI Labs.
Η εταιρεία, με έδρα το Παρίσι και παρουσία επίσης στη Νέα Υόρκη, το Μόντρεαλ και τη Σιγκαπούρη, αριθμεί σύμφωνα με το Fortune περισσότερους από 60 εργαζομένους και αναπτύσσει τα λεγόμενα world models.
Πρόκειται για μια διαφορετική προσέγγιση από τα σημερινά μεγάλα γλωσσικά μοντέλα. Στόχος είναι η δημιουργία συστημάτων που θα μπορούν να κατανοούν τον φυσικό κόσμο, τη λειτουργία μιας βιομηχανικής εγκατάστασης, μιας μηχανής ή ενός ρομπότ και να προβλέπουν τι πρόκειται να συμβεί.
Η AMI χρησιμοποιεί την αρχιτεκτονική JEPA – Joint Embedding Predictive Architecture, την οποία έχει αναπτύξει ο ίδιος ο ΛεΚούν. Οι πρώτες εφαρμογές επικεντρώνονται στη βιομηχανία, στην ανίχνευση ανωμαλιών και στη ρομποτική.
Ο ίδιος θεωρεί ότι τέτοιου είδους συστήματα μπορούν τελικά να ξεπεράσουν τα σημερινά LLMs ως βασική τεχνολογία της τεχνητής νοημοσύνης.
Και το μήνυμα με το οποίο έκλεισε τη συζήτησή του με το Fortune συμπυκνώνει την αισιοδοξία του για το μέλλον του κλάδου: «Η AI δεν έχει τελειώσει».
