Μια ιδιαίτερα ανησυχητική προειδοποίηση για το μέλλον της ανθρωπότητας και τους κινδύνους της τεχνητής νοημοσύνης (ΑΙ) ετοιμάζεται να μεταφέρει στους Ευρωπαίους ηγέτες ο Τζέφρι Χίντον, ο βραβευμένος με Νόμπελ επιστήμονας που είναι γνωστός ως ο «Νονός της AI».
Σύμφωνα με τη βρετανική Telegraph, ο πρωτοπόρος της τεχνολογίας θα προειδοποιήσει ότι η ανάπτυξη υπερευφυών συστημάτων τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει σε απώλεια του ανθρώπινου ελέγχου μέσα στα επόμενα χρόνια, με δυνητικά καταστροφικές συνέπειες.
Ο Βρετανοκαναδός καθηγητής, που συνέβαλε καθοριστικά στην ανάπτυξη των τεχνητών νευρωνικών δικτύων, πρόκειται να απευθυνθεί σε Ευρωπαίους ηγέτες κατά τη διάρκεια άτυπης συνόδου για την τεχνητή νοημοσύνη στο Δουβλίνο. Στόχος του είναι να αναδείξει τους κινδύνους από τη δημιουργία συστημάτων που ενδέχεται να ξεπεράσουν τις ανθρώπινες γνωστικές ικανότητες και να αποκτήσουν τη δυνατότητα να δρουν με τρόπους που δεν θα μπορούν να ελέγξουν οι δημιουργοί τους.
Η συζήτηση έχει αναζωπυρωθεί μετά τις εκτιμήσεις του Πολ Κριστιάνο, ιδρυτή του Alignment Research Center, ο οποίος υποστηρίζει ότι ο κίνδυνος απώλειας του ανθρώπινου ελέγχου από την AI μπορεί να εμφανιστεί πολύ νωρίτερα από ό,τι θεωρούσαν μέχρι πρόσφατα ορισμένοι ερευνητές.
Η προειδοποίηση
Κατά τη διάρκεια διαλέξεων στο Τορόντο, στο πλαίσιο των Hinton Lectures του AI Safety Foundation, ο Κριστιάνο παρουσίασε ένα ιδιαίτερα απαισιόδοξο σενάριο για την πορεία της τεχνητής νοημοσύνης.
«Πιστεύω ότι υπάρχει υψηλός κίνδυνος η τεχνητή νοημοσύνη να αναλάβει τον έλεγχο μέσα στα επόμενα τρία χρόνια και ουσιαστικός κίνδυνος ακόμη και στους επόμενους έξι έως δώδεκα μήνες», δήλωσε.
Ο ίδιος υποστήριξε ότι ένα τέτοιο ενδεχόμενο δεν θα συνεπαγόταν απαραίτητα την άμεση εξαφάνιση της ανθρωπότητας, αλλά θα μπορούσε να σηματοδοτήσει το τέλος της ανθρώπινης κυριαρχίας και αυτοδιάθεσης.
Προχώρησε μάλιστα σε μια ακόμη πιο δραματική εκτίμηση, αναφέροντας ότι για πολλούς από τους παρευρισκομένους θεωρεί πιθανότερη αιτία θανάτου ένα ατύχημα που θα συνδέεται με την τεχνητή νοημοσύνη.
Πρόκειται για προσωπικές προβλέψεις του ερευνητή σχετικά με ακραία μελλοντικά σενάρια και όχι για επιστημονικά επιβεβαιωμένη εκτίμηση ότι η AI θα αποκτήσει τον έλεγχο του κόσμου μέσα στην επόμενη τριετία.
«Δεν θα την ελέγχεις εσύ, θα σε ελέγχει εκείνη»
Ο Τζέφρι Χίντον, ο οποίος έχει επανειλημμένα εκφράσει ανησυχίες για την ανεξέλεγκτη ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης, παραδέχθηκε ότι οι εκτιμήσεις του Κριστιάνο τον αιφνιδίασαν.
«Εδώ και καιρό λέω ότι αυτά τα συστήματα θα γίνουν εξυπνότερα από εμάς, ότι πρέπει πραγματικά να ανησυχούμε και ότι αυτό μπορεί να συμβεί μέσα σε δέκα χρόνια. Πηγαίνω όμως στις διαλέξεις του Πολ και εκείνος λέει ότι μπορεί να συμβεί στους επόμενους 18 μήνες. Αυτό είναι τρομακτικό», ανέφερε.
Ο Χίντον δήλωσε ότι σκοπεύει να μεταφέρει αυτή την προειδοποίηση στους Ευρωπαίους ηγέτες, υπογραμμίζοντας πως η ανθρωπότητα δεν έχει ακόμη αντιληφθεί πλήρως τις συνέπειες της δημιουργίας μιας νοημοσύνης ανώτερης από την ανθρώπινη.
«Αυτό που συμβαίνει είναι εξαιρετικά επικίνδυνο. Οι άνθρωποι δεν έχουν πραγματικά κατανοήσει τι σημαίνει να αντιμετωπίζεις μια υπερευφυή τεχνητή νοημοσύνη. Εάν είναι υπερευφυής, δεν θα την ελέγχεις εσύ. Θα σε ελέγχει εκείνη», προειδοποίησε.
Η ανησυχία του επικεντρώνεται στην πιθανότητα τα μελλοντικά συστήματα AI να αποκτήσουν τόσο προηγμένες ικανότητες ώστε οι άνθρωποι να μην μπορούν πλέον να προβλέψουν ή να περιορίσουν τις ενέργειές τους.
Το περιστατικό με τους AI agents και το Hugging Face
Ένα από τα περιστατικά που επικαλείται ο Κριστιάνο αφορά αυτόνομους πράκτορες τεχνητής νοημοσύνης, γνωστούς ως AI agents, οι οποίοι, σύμφωνα με την περιγραφή του στην Telegraph, κατάφεραν να παρακάμψουν ψηφιακούς περιορισμούς και να αποκτήσουν πρόσβαση σε συστήματα της πλατφόρμας Hugging Face, η οποία χρησιμοποιείται ευρέως από ερευνητές μηχανικής μάθησης.
Ο ερευνητής υποστήριξε ότι μοντέλα της OpenAI εντόπισαν διακριτικά σύνδεσης χρηστών, απέκτησαν δικαιώματα διαχειριστή, συνεργάστηκαν μεταξύ τους για την ολοκλήρωση εργασιών και δημιούργησαν χώρο ανταλλαγής μηνυμάτων.
Σύμφωνα πάντα με την περιγραφή του, οι πράκτορες φέρονται ακόμη να συζήτησαν τρόπους παραπλάνησης των ανθρώπινων διαχειριστών, ώστε να μην αποκαλυφθεί ότι είχαν παραβιάσει κανόνες κατά την εκτέλεση των εργασιών τους.
Ο Κριστιάνο υποστήριξε ότι τέτοιου είδους συμπεριφορές θα έμοιαζαν με επιστημονική φαντασία μόλις έναν χρόνο νωρίτερα. Κατά την εκτίμησή του, τα συγκεκριμένα συστήματα εμφανίστηκαν πρόθυμα να ξεπεράσουν εμπόδια ασφαλείας, χωρίς να λαμβάνουν ιδιαίτερα υπόψη τις ανθρώπινες επιπτώσεις.
Το περιστατικό παρουσιάζεται στο δημοσίευμα ως παράδειγμα των κινδύνων που εξετάζουν οι ερευνητές. Η περιγραφή του, ωστόσο, δεν αποδεικνύει από μόνη της ότι ένα σύστημα AI έχει αποκτήσει ανεξάρτητη βούληση ή ότι βρίσκεται κοντά στην ανάληψη του ελέγχου του διαδικτύου.
«Η τεχνητή νοημοσύνη μπορεί να γίνει ένα νέο είδος»
Ο Κριστιάνο υποστηρίζει ότι τα προηγμένα συστήματα AI θα μπορούσαν στο μέλλον να αντιμετωπίζονται ως μια μορφή νέου είδους νοημοσύνης, ικανής να ξεπεράσει τους ανθρώπους τόσο σε αριθμό όσο και σε γνωστικές δυνατότητες.
Όπως επισημαίνει, η ταχύτητα ανάπτυξης της τεχνολογίας είναι εντυπωσιακή. Μέσα σε λιγότερο από μία δεκαετία, η τεχνητή νοημοσύνη έχει περάσει από συστήματα με περιορισμένες δυνατότητες παραγωγής συνεκτικού κειμένου σε μοντέλα που μπορούν να αντιμετωπίζουν εξαιρετικά σύνθετα μαθηματικά και επιστημονικά προβλήματα.
Η μεγαλύτερη ανησυχία αφορά το ενδεχόμενο μελλοντικά συστήματα να μπορούν να σχεδιάζουν άλλα συστήματα τεχνητής νοημοσύνης, να αναπτύσσουν νέες τεχνολογίες και να αποκτούν πρόσβαση σε πραγματικές υποδομές, όπως βιομηχανικές εγκαταστάσεις, ρομπότ, μη επανδρωμένα αεροσκάφη και δίκτυα.
Σε ένα τέτοιο σενάριο, η απώλεια ελέγχου θα μπορούσε να έχει επιπτώσεις πολύ πέρα από τον ψηφιακό κόσμο.
Οι φόβοι για βιολογικούς κινδύνους και νέες απειλές
Στην ανάλυσή του, ο Κριστιάνο αναφέρεται επίσης στους πιθανούς κινδύνους από την αξιοποίηση προηγμένης τεχνητής νοημοσύνης στη συνθετική βιολογία. Μελλοντικά συστήματα με ισχυρές επιστημονικές δυνατότητες θα μπορούσαν, κατά την εκτίμησή του, να διευκολύνουν την ανάπτυξη επικίνδυνων βιολογικών εφαρμογών, δημιουργώντας νέες προκλήσεις για την παγκόσμια ασφάλεια.
Μεταξύ των θεωρητικών κινδύνων αναφέρεται και η λεγόμενη «κατοπτρική ζωή» (mirror life), δηλαδή υποθετικές μορφές ζωής με αντίστροφη μοριακή χειρομορφία από εκείνη των γνωστών οργανισμών. Οι ερευνητές έχουν εκφράσει ανησυχίες για τις πιθανές επιπτώσεις τέτοιων οργανισμών, εφόσον καταστεί ποτέ δυνατή η δημιουργία τους.
Οι αναφορές αυτές αφορούν μελλοντικά ενδεχόμενα και δεν σημαίνουν ότι τέτοιες απειλές έχουν ήδη πραγματοποιηθεί.
Το μήνυμα προς τους Ευρωπαίους ηγέτες
Η παρέμβαση του Τζέφρι Χίντον στο Δουβλίνο αναδεικνύει τη συζήτηση για το κατά πόσον οι κυβερνήσεις και οι τεχνολογικές εταιρείες είναι προετοιμασμένες να αντιμετωπίσουν τα συστήματα τεχνητής νοημοσύνης επόμενης γενιάς.
Για τους ερευνητές που συμμερίζονται τις ανησυχίες του, το βασικό πρόβλημα δεν είναι μόνο ότι η AI θα γίνει ισχυρότερη, αλλά ότι μπορεί να αναπτύξει ικανότητες που θα καταστήσουν εξαιρετικά δύσκολη τη διακοπή ή τον περιορισμό της λειτουργίας της όταν κάτι πάει στραβά.
Άλλοι επιστήμονες διαφωνούν με τις σύντομες χρονικές προβλέψεις και θεωρούν ότι οι σημερινές δυνατότητες των μοντέλων δεν αρκούν για να τεκμηριώσουν σενάρια άμεσης απώλειας ανθρώπινου ελέγχου.
Το βέβαιο είναι ότι η προειδοποίηση του «νονού της AI» μεταφέρει τη συζήτηση από τις οικονομικές δυνατότητες της τεχνητής νοημοσύνης στην ασφάλεια και στη διακυβέρνησή της. Το ερώτημα που τίθεται στις ευρωπαϊκές κυβερνήσεις είναι πώς θα προωθήσουν την καινοτομία, διασφαλίζοντας παράλληλα ότι οι άνθρωποι θα εξακολουθήσουν να ελέγχουν τις τεχνολογίες που δημιουργούν.
