Τη δημιουργία ενός νέου μηχανισμού εποπτείας ο οποίος θα αξιολογεί την ασφάλεια των ισχυρότερων μοντέλων τεχνητής νοημοσύνης πριν αυτά κυκλοφορήσουν, προτείνει ο συνιδρυτής και CEO της Google DeepMind, Ντέμης Χασάμπης, με συνέντευξη στον Economist.
Το σχέδιο του μάλιστα, έρχεται σε μια περίοδο κατά την οποία οι κολοσσοί της ΑI τεχνολογίας σχεδιάζουν αυστηρότερους περιορισμούς στην πρόσβαση σχετικά με τα πλέον προηγμένα μοντέλα. Στο ίδιο πλαίσιο, η αμερικανική κυβέρνηση αποφάσισε για σύντομο χρονικό διάστημα να εμποδίσει την πρόσβαση χρηστών από το εξωτερικό στο Fable, ένα προηγμένο μοντέλο της Anthropic, τόσο για να διατηρήσει τον έλεγχο της τεχνολογίας όσο και εξαιτίας των κινδύνων που θα μπορούσε να προκαλέσει η χρήση της από λάθος ανθρώπους. Την ίδια στιγμή, η Κίνα φέρεται να εξετάζει τον περιορισμό της πρόσβασης από το εξωτερικό στα πιο προηγμένα μοντέλα της.
Ο επικεφαλής της Google DeepMind έχει παρουσιάσει και στο παρελθόν προτάσεις για τη ρύθμιση της AI. Το νεότερο σχέδιό του, το οποίο δημοσιεύτηκε στις 14 Ιουλίου περιλαμβάνει περισσότερο συγκεκριμένες προτάσεις για τη λειτουργία ενός νέου εποπτικού οργανισμού. Σύμφωνα με τον ίδιο η αμερικανική κυβέρνηση πρέπει να αναπτύξει ένα σύστημα ελέγχου της ασφάλειας των νέων μοντέλων πριν αυτά διατεθούν στην αγορά ή στο ευρύ κοινό.
«Είναι σημαντικό να μην πρόκειται απλώς για έναν βιομηχανικό φορέα», αναφέρει στον Economist ωστόσο συμπληρώνει ότι ούτε μια συμβατική κρατική υπηρεσία θα μπορούσε να ανταποκριθεί στις απαιτήσεις της ταχύτατα εξελισσόμενης τεχνολογίας. «Δεν θα μπορούσε να κινηθεί αρκετά γρήγορα ούτε να διαθέτει τους κατάλληλους πόρους», σημειώνει.
Ως πιθανό πρότυπο προτείνει τη FINRA, τη Ρυθμιστική Αρχή Χρηματοπιστωτικής Βιομηχανίας των ΗΠΑ. Πρόκειται για έναν ιδιωτικό οργανισμό που επιβλέπει χρηματιστηριακές εταιρείες και αγορές, έχοντας λάβει ουσιαστικές εξουσίες επιβολής κανόνων από το αμερικανικό κράτος.
Ο νέος φορέας για την τεχνητή νοημοσύνη θα μπορούσε, σύμφωνα με την πρόταση, να χρηματοδοτείται από τις ίδιες τις εταιρείες του κλάδου. Μεγάλο μέρος της αρχικής του προσπάθειας θα έπρεπε να επικεντρωθεί στην προσέλκυση εξειδικευμένων και ικανών στελεχών, ενώ οι υπάρχοντες οργανισμοί ασφάλειας της AI θα μπορούσαν να παρέχουν προσωρινή υποστήριξη.
«Η Αμερική πρέπει να κινηθεί πρώτη»
Η προσέγγιση του Ντέμη Χασάμπη δεν στηρίζεται στην επίτευξη μιας διεθνούς συμφωνίας πριν από τη λήψη μέτρων. Αντίθετα, θεωρεί ότι οι Ηνωμένες Πολιτείες πρέπει να κινηθούν πρώτες και να αναλάβουν ηγετικό ρόλο.
Η αρχική συμφωνία όλων των κρατών δεν είναι απαραίτητη, καθώς, κατά την εκτίμησή του, οι υπόλοιπες χώρες θα ακολουθήσουν ώστε να διατηρήσουν την πρόσβασή τους στην αμερικανική αγορά και τεχνολογία. Στο μέλλον, το σύστημα θα μπορούσε να συμπεριλάβει ακόμη και την Κίνα, περιορίζοντας τον κίνδυνο ενός ανταγωνισμού κατά τον οποίο οι χώρες θα υποβαθμίζουν τα πρότυπα ασφαλείας για να μη μείνουν πίσω.
Ο D. Hassabis εκτιμά ότι το σύστημα θα μπορούσε αρχικά να είναι εθελοντικό για τις εταιρείες που αναπτύσσουν μοντέλα τεχνητής νοημοσύνης. Περιμένει, όμως, ότι τελικά θα καταστεί υποχρεωτικό, όπως συνέβη και με τη FINRA, η οποία διαθέτει ισχυρές εξουσίες που της έχουν εκχωρηθεί από το κράτος. Η πρότασή του διαφοροποιείται σε ορισμένα σημεία από εκείνη του επικεφαλής της OpenAI, Sam Altman. Ο Altman έχει ζητήσει μια διεθνή προσπάθεια, η οποία θα συντονίζεται από τις Ηνωμένες Πολιτείες.
Οι δύο προτάσεις συμφωνούν, πάντως, ότι ο νέος φορέας πρέπει να θεσπίζει πρότυπα, να εξετάζει τους κινδύνους και να διασφαλίζει ότι πρόσβαση στα πιο προηγμένα συστήματα θα έχουν μόνο οι χώρες που συμμετέχουν στο κοινό πλαίσιο. Τα δύο σχέδια παρουσιάστηκαν σε ηγέτες κατά την πρόσφατη Σύνοδο Κορυφής της G7 στη Γαλλία.
Τα μοντέλα που μπαίνουν στο στόχαστρο
Ο Ν. Χασάμπης προτείνει η εποπτεία να επικεντρωθεί στα εργαστήρια που κατασκευάζουν τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης. Παλαιότερες προτάσεις στις ΗΠΑ και την Ευρωπαϊκή Ένωση χρησιμοποιούσαν ως βασικό κριτήριο την υπολογιστική ισχύ που απαιτείται για την εκπαίδευση ενός μοντέλου. Ο ίδιος προτείνει τα μοντέλα να χαρακτηρίζονται «αιχμής» όταν ξεπερνούν συγκεκριμένα όρια σε μια επιλεγμένη σειρά δοκιμών και αξιολογήσεων.
Οι εταιρείες που τα δημιουργούν θα χαρακτηρίζονται στη συνέχεια «εργαστήρια αιχμής» και θα αναλαμβάνουν πρόσθετες ευθύνες. Ο ο συνιδρυτής της Google DeepMind περιγράφει ως «κομψή» αυτήν την προσέγγιση, επειδή αποφεύγει τη συζήτηση για το εάν πρέπει να υπάγονται στους κανόνες τα ακαδημαϊκά μοντέλα ή τα συστήματα ανοιχτού κώδικα. Το κριτήριο δεν θα είναι ποιος ανέπτυξε το μοντέλο, αλλά ποιες είναι οι πραγματικές δυνατότητές του.
Η επιλογή των κατάλληλων δοκιμών θα αποτελεί μία από τις σημαντικότερες αρμοδιότητες του νέου οργανισμού. Σήμερα, οι περισσότερες αξιολογήσεις επικεντρώνονται κυρίως σε εμπορικές δυνατότητες, όπως ο προγραμματισμός και οι γενικές γνώσεις.
Ορισμένοι οργανισμοί έχουν προχωρήσει περισσότερο. Το βρετανικό Ινστιτούτο Ασφάλειας της AI, για παράδειγμα, έχει αναπτύξει μια δοκιμή κυβερνοεπιθέσεων που προσομοιώνει την παραβίαση ενός ηλεκτροπαραγωγικού σταθμού.
Αντίθετα, χαρακτηριστικά όπως η τάση ενός μοντέλου να αγνοεί οδηγίες ή να προσποιείται ότι είναι λιγότερο ικανό από όσο πραγματικά είναι δεν εξετάζονται ακόμη συστηματικά, ώστε να μπορούν να καθοριστούν συγκεκριμένα όρια ασφαλείας.
Ο Χασάμπης αναγνωρίζει ότι ακόμη και ένα προσεκτικά σχεδιασμένο σύστημα μπορεί να αποτύχει κατά την εφαρμογή του.
«Καμία πρόταση δεν θα ήταν απρόσβλητη από μια κακή υλοποίηση», παραδέχεται στον Economist και προσθέτει πως «Υπάρχουν προφανώς εκδοχές αυτού του σχεδίου που θα μπορούσαν να μην είναι ιδιαίτερα χρήσιμες». Επιμένει, ωστόσο, ότι η ανάγκη για δράση είναι επείγουσα, καθώς οι κίνδυνοι που συνοδεύουν την τεχνητή νοημοσύνη αναμένεται να αυξηθούν.
«Ο χρόνος είναι λίγος, η ώρα είναι προχωρημένη», τονίζει. «Έχουμε δει την κυβερνοαπειλή. Έρχονται πολύ σοβαρότερες απειλές. Κάτι πρέπει να γίνει. Αυτή είναι η στιγμή».
