Νέα ένταση στη συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης προκαλεί η δημόσια παραίτηση ερευνητή της Anthropic, ο οποίος υποστήριξε ότι τα συστήματα AI ενδέχεται να αποκτήσουν μέσα στην επόμενη δεκαετία δυνατότητες που θα μπορούσαν να οδηγήσουν ακόμη και στην καταστροφή της ανθρωπότητας.
Ο Τζέικομπ Κόξον, ο οποίος έχει εργαστεί τόσο στην Anthropic όσο και στην OpenAI, ανακοίνωσε την παραίτησή του με ανάρτηση στην πλατφόρμα X, εκφράζοντας την ανησυχία ότι οι δύο εταιρείες προχωρούν υπερβολικά γρήγορα στην ανάπτυξη ολοένα ισχυρότερων μοντέλων.
Η ανάρτησή του συγκέντρωσε περισσότερες από 70 εκατομμύρια προβολές και αναζωπύρωσε μια από τις παλαιότερες αντιπαραθέσεις στη Silicon Valley: κατά πόσο είναι εφικτό να δημιουργηθεί τεχνητή νοημοσύνη που θα παραμένει υπό ανθρώπινο έλεγχο, καθώς οι δυνατότητές της αυξάνονται με ταχύτητα.
Πολύ σύντομα υπερανθρώπινες δυνατότητες
Ο Κόξον υποστήριξε ότι οι ερευνητές που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της τεχνητής νοημοσύνης θεωρούν σοβαρό το ενδεχόμενο τα συστήματα αυτά να αποκτήσουν πολύ σύντομα υπερανθρώπινες δυνατότητες, μεταξύ άλλων στην κυβερνοασφάλεια, την επιστημονική έρευνα και την αυτοματοποίηση σύνθετων διαδικασιών.
Η πιο ηχηρή επιβεβαίωση των ανησυχιών ήρθε από τον Ίβαν Χούμπινγκερ, επικεφαλής ερευνητή της Anthropic στον τομέα της ευθυγράμμισης της AI με τις ανθρώπινες αξίες. Ο ίδιος εκτίμησε ότι η πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στην εξόντωση της ανθρωπότητας μέσα στην επόμενη δεκαετία είναι μεγαλύτερη από 10%.
Η εκτίμηση αυτή είναι εξαιρετικά ακραία, αλλά δεν αποτελεί καινούργια ιδέα στους κύκλους των ερευνητών AI. Η πιθανότητα ενός καταστροφικού σεναρίου συχνά περιγράφεται στον κλάδο με τον όρο «p(doom)», έναν ανεπίσημο δείκτη που χρησιμοποιείται για να αποτυπώσει την πιθανότητα πολύ σοβαρών συνεπειών από την ανάπτυξη της τεχνητής νοημοσύνης.
Η Τεχνητή Νοημοσύνη ετοιμάζει τους διαδόχους της
Ιδιαίτερη ανησυχία προκαλεί το ενδεχόμενο της λεγόμενης «αναδρομικής αυτοβελτίωσης». Πρόκειται για το σενάριο στο οποίο ένα σύστημα τεχνητής νοημοσύνης θα μπορούσε να σχεδιάζει και να αναπτύσσει τον διάδοχό του χωρίς ουσιαστική ανθρώπινη παρέμβαση.
Η δυνατότητα αυτή δεν θεωρείται σήμερα πραγματικότητα, όμως οι μεγαλύτερες εταιρείες AI προειδοποιούν ότι, εάν καταστεί εφικτή, θα μπορούσε να καταστήσει πολύ δυσκολότερο τον έλεγχο των συστημάτων.
Οι ανησυχίες ενισχύονται από την ταχύτητα με την οποία κινούνται οι εταιρείες του κλάδου, την ώρα που η OpenAI και η Anthropic βρίσκονται σε τροχιά σημαντικών επιχειρηματικών εξελίξεων και συνεχίζουν να παρουσιάζουν ολοένα πιο προηγμένα μοντέλα.
Την ίδια στιγμή, αυξάνονται οι εκκλήσεις για συντονισμένη επιβράδυνση της ανάπτυξης των πλέον ισχυρών συστημάτων.
Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, έχει προειδοποιήσει ότι καμία εταιρεία δεν έχει επιλύσει σε επαρκή βαθμό τα προβλήματα «ευθυγράμμισης» και παρακολούθησης των μοντέλων, ώστε να μπορεί να συνεχίσει για πολύ ακόμη την ανάπτυξη με τη σημερινή ταχύτητα.
Έκκληση για ελεγχόμενη και σταδιακή ανάπτυξη
Περίπου 1.400 ερευνητές AI υπέγραψαν τον Ιούλιο την πρωτοβουλία «Pacing the Frontier», ζητώντας από την αμερικανική κυβέρνηση να δημιουργήσει μηχανισμούς που θα επιτρέπουν ελεγχόμενη και σταδιακή ανάπτυξη των πιο προηγμένων εφαρμογών τεχνητής νοημοσύνης.
Οι πολιτικές πιέσεις αυξάνονται παράλληλα στις ΗΠΑ. Τον Ιούλιο παρουσιάστηκε το FRONTIER Act, νομοσχέδιο που επιχειρεί να δημιουργήσει πλαίσιο για την ανάπτυξη και την ανάπτυξη προηγμένων μοντέλων AI.
Νωρίτερα αυτόν τον μήνα κατατέθηκε επίσης το Ban Artificial Superintelligence Act, το οποίο προβλέπει προσωρινή αναστολή της ανάπτυξης προηγμένων συστημάτων τεχνητής υπερνοημοσύνης έως ότου θεσπιστούν κανόνες ασφαλείας σε ομοσπονδιακό επίπεδο. Οι δύο προτάσεις έχουν προκαλέσει διαφορετικές αντιδράσεις και δεν υπάρχει ακόμη πολιτική συναίνεση για το πώς πρέπει να ρυθμιστεί η τεχνολογία.
Αντιδράσεις από τοπικές κοινωνίες
Η αντιπαράθεση επεκτείνεται και πέρα από τα ίδια τα μοντέλα AI. Τα τεράστια data centers που απαιτούνται για την εκπαίδευση και λειτουργία τους προκαλούν ολοένα μεγαλύτερες αντιδράσεις από τοπικές κοινωνίες, λόγω της κατανάλωσης ενέργειας, των υποδομών που απαιτούνται και του περιβαλλοντικού τους αποτυπώματος.
Το ζήτημα έχει αρχίσει να αποκτά και εκλογική διάσταση στις ΗΠΑ, με την Εθνική Ρεπουμπλικανική Επιτροπή Γερουσίας να χαρακτηρίζει τα data centers «κρυφό ζήτημα» ενόψει των ενδιάμεσων εκλογών.
Η συζήτηση, επομένως, δεν αφορά πλέον μόνο το εάν η AI θα αλλάξει την οικονομία ή την αγορά εργασίας. Αφορά όλο και περισσότερο το κατά πόσο η ανάπτυξη των πιο ισχυρών συστημάτων μπορεί να συνεχιστεί με τους σημερινούς ρυθμούς χωρίς να δημιουργηθούν κίνδυνοι που οι κυβερνήσεις, οι επιχειρήσεις και οι ίδιοι οι ερευνητές δεν θα μπορούν να διαχειριστούν.
Η προειδοποίηση για πιθανότητα άνω του 10% ενός ακραίου σεναρίου δεν αποτελεί επιστημονική πρόβλεψη ούτε κοινά αποδεκτή εκτίμηση. Αποτελεί, ωστόσο, ένδειξη του πόσο βαθιά έχει πλέον διχάσει τον ίδιο τον κλάδο της τεχνητής νοημοσύνης το ερώτημα εάν η τεχνολογική πρόοδος προχωρά ταχύτερα από την ικανότητα της ανθρωπότητας να την ελέγξει.
