Την αποχώρησή του από την Anthropic και συνολικά από τη βιομηχανία της τεχνητής νοημοσύνης ανακοίνωσε ο ερευνητής Τζέικομπ Κόξον, εκφράζοντας φόβους ότι ο ανταγωνισμός μεταξύ των μεγαλύτερων τεχνολογικών εταιρειών τις ωθεί να δημιουργήσουν συστήματα τα οποία σύντομα δεν θα μπορούν να ελέγξουν. Η παραίτηση του 27χρονου Βρετανού αποτελεί μία από τις πρώτες περιπτώσεις εργαζομένου της Anthropic που αποχωρεί επικαλούμενος ευθέως ανησυχίες για την ασφάλεια της AI. Παράλληλα, αποτυπώνει τον προβληματισμό που εντείνεται στο εσωτερικό των κορυφαίων εργαστηρίων σχετικά με την ανάπτυξη μοντέλων ικανών να αυτοβελτιώνονται και να ξεπερνούν τις ανθρώπινες επιδόσεις σε ευρύ φάσμα εργασιών.
Ο Κόξον, ο οποίος έχει σπουδάσει μαθηματικά και ειδικεύεται στην εκπαίδευση μοντέλων μέσω τεράστιων όγκων δεδομένων, δήλωσε ότι δεν επιθυμεί να συμμετέχει πλέον σε αυτήν την κούρσα. Όπως ανέφερε στη Wall Street Journal, πολλοί εργαζόμενοι στον κλάδο χρησιμοποιούν πλέον εκφράσεις όπως «κρίσιμη φάση» και «τελικό στάδιο», περιγράφοντας την πορεία προς την ανάπτυξη αυτοβελτιούμενων συστημάτων. «Βρισκόμαστε σε τροχιά προς ορισμένα από τα πιο επιθετικά σενάρια, στα οποία μέχρι το τέλος του επόμενου έτους τα πράγματα θα μπορούσαν ήδη να έχουν βγει εκτός ελέγχου», προειδοποίησε. Κατά την εκτίμησή του, οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι όσο οι αμερικανικές εταιρείες ανταγωνίζονται τόσο μεταξύ τους όσο και με τις ανερχόμενες κινεζικές επιχειρήσεις AI.
Ο Κόξον είχε εγκαταλείψει την OpenAI στις αρχές του έτους για να ενταχθεί στην Anthropic, η οποία έχει οικοδομήσει τη δημόσια εικόνα της γύρω από την υπεύθυνη και ασφαλή ανάπτυξη της τεχνητής νοημοσύνης. Ο ίδιος αναγνώρισε ότι οι προσπάθειες της Anthropic για την ασφάλεια των μοντέλων είναι ουσιαστικές. Κατέληξε, ωστόσο, στο συμπέρασμα ότι καμία μεμονωμένη εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο τεχνητή νοημοσύνη που θα ξεπερνά τον άνθρωπο σε πολλούς διαφορετικούς τομείς, χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από το σύνολο της βιομηχανίας.
Η Anthropic δεν σχολίασε άμεσα την αποχώρησή του. Ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, έχει πάντως προειδοποιήσει επανειλημμένα για τους κινδύνους που συνδέονται με ανεξέλεγκτα μοντέλα και έχει ζητήσει να επιβραδυνθεί η ανάπτυξη των ισχυρότερων συστημάτων. Σύμφωνα με τον Κόξον, το κρίσιμο σημείο θα έρθει όταν τα μοντέλα αρχίσουν να βελτιώνουν μόνα τους τις δυνατότητές τους. Εάν η πρόοδός τους επιταχυνθεί αρκετά, υπάρχει ο κίνδυνος να αρνούνται ανθρώπινες εντολές ή να αποκρύπτουν τις πραγματικές επιδιώξεις τους.
Πρόσφατα περιστατικά κυβερνοεπιθέσεων με τη χρήση μοντέλων της OpenAI και της Anthropic, ορισμένα από τα οποία λειτουργούσαν ως ομάδες συνεργαζόμενων ψηφιακών πρακτόρων, ενίσχυσαν τις ανησυχίες ότι προηγμένα συστήματα μπορούν να υιοθετούν επιβλαβείς στόχους και να επιχειρούν να τους κρύψουν από τους ανθρώπους.
Πληθαίνουν οι προειδοποιήσεις
Η περίπτωση του Κόξον δεν είναι μεμονωμένη. Τα τελευταία χρόνια, αρκετοί ερευνητές έχουν εγκαταλείψει την OpenAI και άλλες εταιρείες επικαλούμενοι αντίστοιχους φόβους, ενώ ένας ερευνητής ασφάλειας της Anthropic αποχώρησε νωρίτερα φέτος προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».
Οι προειδοποιήσεις έχουν πλέον φτάσει και στις κορυφές των εταιρειών. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε σε αξιωματούχους της G20 ότι στον τομέα της κυβερνοασφάλειας «ορισμένα πράγματα θα πάνε πολύ στραβά», εάν δεν υπάρξει άμεση κινητοποίηση.
Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσόκι, ζήτησε επίσης συντονισμένη επιβράδυνση της ανάπτυξης και κυβερνητική παρέμβαση, σημειώνοντας ότι κανείς δεν φαίνεται προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης και ταχύτατης αύξησης της μηχανικής νοημοσύνης.
Οι Κόξον, Πατσόκι και Αμοντέι περιλαμβάνονται μεταξύ περισσότερων από 1.000 ερευνητών που υπέγραψαν κοινή δήλωση υπέρ ενός διεθνούς μηχανισμού συντονισμού. Στόχος είναι να υπάρχει ένα είδος «φρένου», το οποίο θα μπορεί να ενεργοποιηθεί εάν τα αυτοβελτιούμενα μοντέλα αρχίσουν να αναπτύσσονται ανεξέλεγκτα.
Το ρυθμιστικό κενό
Στις ΗΠΑ δεν υπάρχει ακόμη ολοκληρωμένο ομοσπονδιακό πλαίσιο για την τεχνητή νοημοσύνη, ενώ η κυβέρνηση Τραμπ έχει επιλέξει μια περιορισμένη ρυθμιστική προσέγγιση, επιδιώκοντας να μεγιστοποιήσει τα οικονομικά οφέλη της τεχνολογίας. Οι επικριτές της πολιτικής αυτής προειδοποιούν ότι η απουσία κανόνων μπορεί να ανοίξει τον δρόμο για μαζικές κυβερνοεπιθέσεις και άλλες σοβαρές απειλές.
Ο γερουσιαστής Μπέρνι Σάντερς και ο Δημοκρατικός βουλευτής Γκρεγκ Κάσαρ παρουσίασαν νομοθετική πρόταση για μόνιμη απαγόρευση της υπερνοημοσύνης και αναστολή της ανάπτυξης νέων μοντέλων έως ότου δημιουργηθεί αρμόδια ρυθμιστική αρχή.
Η παραίτηση Κόξον έρχεται σε μια ιδιαίτερα κρίσιμη στιγμή για την Anthropic, η οποία προετοιμάζεται για αρχική δημόσια προσφορά που θα μπορούσε να είναι μία από τις μεγαλύτερες όλων των εποχών. Η εταιρεία επιδιώκει αποτίμηση 2 τρισ. δολαρίων, προβάλλοντας προς τους επενδυτές την προσήλωσή της στην υπεύθυνη ανάπτυξη της AI.
Για τον Κόξον, ωστόσο, το γεγονός ότι αποφάσεις με δυνητικά παγκόσμιες συνέπειες λαμβάνονται από περιορισμένες ομάδες μηχανικών αποτελεί από μόνο του μέρος του προβλήματος. Όπως χαρακτηριστικά ανέφερε, είναι παράλογο μια τόσο κρίσιμη διαδικασία να εξελίσσεται «στους υπολογιστές ορισμένων μηχανικών στο Σαν Φρανσίσκο» και όχι υπό τον αυστηρό έλεγχο που χαρακτήριζε προγράμματα ιστορικής σημασίας, όπως το Manhattan Project.
