Είκοσι δύο χώρες υιοθέτησαν κοινή διακήρυξη σύμφωνα με την οποία η τεχνητή νοημοσύνη πρέπει να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο, ενώ παράλληλα προτείνεται η δημιουργία ενός παγκόσμιου μηχανισμού εποπτείας της AI.
Μεταξύ των χωρών που στηρίζουν την πρωτοβουλία βρίσκονται αρκετά ευρωπαϊκά κράτη. Η διακήρυξη εγκρίθηκε στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ και αναγνωρίζει ότι η τεχνητή νοημοσύνη έχει «τη δυνατότητα να βελτιώσει τη ζωή, να προωθήσει την επιστήμη και να ενισχύσει τις οικονομίες μας».
Ωστόσο, προειδοποιεί ότι «η ταχεία ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης δημιουργεί σοβαρούς κινδύνους για την ασφάλεια, εάν δεν υπάρξει κατάλληλη διαχείρισή τους».
Η πρωτοβουλία λήφθηκε λίγες μέρες πριν από τη συνάντηση του προέδρου των ΗΠΑ Ντόναλντ Τραμπ με τον πρόεδρο της Κίνας Σι Τζινπίνγκ την Πέμπτη στην Ουάσιγκτον, καθώς οι δύο χώρες βρίσκονται στην πρώτη γραμμή της παγκόσμιας ανάπτυξης της τεχνητής νοημοσύνης.
Ούτε οι ΗΠΑ ούτε η Κίνα συμμετέχουν προς το παρόν στη νέα διακήρυξη.
Ο Φινλανδός πρόεδρος Αλεξάντερ Στουμπ, από τους βασικούς εμπνευστές της πρωτοβουλίας, δήλωσε στο Politico ότι επιδιώκει να δημιουργήσει «δυναμική» ώστε να προσελκυστούν περισσότερες χώρες.
«Πιστεύω ότι θα είναι προς το συμφέρον τόσο της Κίνας όσο και των ΗΠΑ να υπάρχουν κάποιου είδους δικλίδες ασφαλείας. Το μήνυμά μας είναι ότι χρειαζόμαστε ανθρώπινη παρέμβαση, επομένως οι άνθρωποι πρέπει να έχουν τον έλεγχο», ανέφερε.
Υποχρεωτικοί έλεγχοι πριν από την κυκλοφορία μοντέλων
Η διακήρυξη αναφέρεται και στην πρόσφατη κυβερνοεπίθεση από ανεξέλεγκτους AI agents στην πλατφόρμα Hugging Face, καλώντας τις εταιρείες τεχνητής νοημοσύνης να θεσπίσουν διαφανή πρωτόκολλα ασφαλείας.
Μεταξύ άλλων, προτείνεται η καθιέρωση υποχρεωτικών δοκιμών πριν από την κυκλοφορία των μοντέλων, καθώς και ανεξάρτητων αξιολογήσεων. Ακόμη, ζητείται να έχουν επαρκή πρόσβαση οι αρμόδιοι ελεγκτές, ώστε να μπορούν να εξετάζουν τους πιθανούς κινδύνους.
Το κείμενο, πάντως, δεν ζητεί επιβράδυνση ή πάγωμα της ανάπτυξης της τεχνητής νοημοσύνης. Όπως υποστηρίζουν οι υπογράφοντες, στόχος είναι η καλύτερη διαχείριση των κινδύνων και όχι η ανακοπή της τεχνολογικής προόδου.
Οι χώρες καλούνται να αναπτύξουν και να συντονίσουν κοινά πρότυπα, να ενισχύσουν τη διαφάνεια και να προχωρήσουν σε κοινή αναφορά σοβαρών περιστατικών που σχετίζονται με την ασφάλεια της AI.
Παράλληλα, προτείνεται τα κράτη-μέλη του ΟΗΕ να αξιοποιήσουν τους υφιστάμενους διεθνείς μηχανισμούς και να εξετάσουν τη δημιουργία ενός διεθνούς θεσμού για την εποπτεία της τεχνητής νοημοσύνης.
Ο Στουμπ δήλωσε ότι προσωπικά θα προτιμούσε τη δημιουργία ενός νέου οργανισμού, αντίστοιχου με τον Διεθνή Οργανισμό Ατομικής Ενέργειας (IAEA), στο πλαίσιο των Ηνωμένων Εθνών.
Πρόσθεσε, ωστόσο, ότι η μορφή του οργανισμού πρέπει να παραμείνει ανοιχτή, ώστε να μην απορριφθεί εξαρχής από χώρες που αντιμετωπίζουν με σκεπτικισμό τον ΟΗΕ.
Ο Νορβηγός πρωθυπουργός Γιόνας Γκαρ Στέρε, ο οποίος συνυπέγραψε την πρωτοβουλία μαζί με τον Στουμπ, ανέφερε ότι θα ήταν θετικό να αναλάβουν ενεργότερο ρόλο τόσο η G7 όσο και η G20.
Μεταξύ των μεγάλων ευρωπαϊκών χωρών, ο Γερμανός καγκελάριος Φρίντριχ Μερτς στηρίζει την πρωτοβουλία, ενώ απουσιάζουν οι υπογραφές της Γαλλίας, της Ιταλίας, της Βρετανίας και της Πολωνίας.
Ο Στουμπ επισήμανε τρεις βασικούς κινδύνους από την ανεπαρκή εποπτεία: τη δημιουργία βιολογικών όπλων με τη βοήθεια AI, τις κυβερνοεπιθέσεις από αυτόνομους agents και τα οπλικά συστήματα που χρησιμοποιούν τεχνητή νοημοσύνη για θανατηφόρες επιθέσεις.
Παράλληλα, τόνισε ότι τα οφέλη της τεχνολογίας μπορεί να είναι «πολύ μεγαλύτερα» εφόσον χρησιμοποιηθεί σωστά, αναφέροντας μεταξύ άλλων την καταπολέμηση ασθενειών, την αύξηση της παραγωγικότητας και τη βελτίωση της πρόσβασης στην πληροφορία.
