Ο επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, στρέφει την προσοχή του σε μια κρίσιμη και αμφισβητούμενη πτυχή της ανάπτυξης προηγμένων μοντέλων ΑΙ: όχι μόνο στο πόσο έξυπνα γίνονται, αλλά και στο πώς εκπαιδεύονται ώστε να αντιλαμβάνονται τον εαυτό τους, δηλαδή να αποκτούν κάποια μορφή συνείδησης.
Ο Σουλεϊμάν ασκεί κριτική στις «αρχές του Claude», ενός κειμένου που η Anthropic χρησιμοποιεί ως θεμελιώδες πλαίσιο για τις αξίες, τη συμπεριφορά και την εκπαίδευση των μοντέλων της.
Η κριτική του δεν στρέφεται συνολικά εναντίον της Anthropic. Αναγνωρίζει ότι πρόκειται για εταιρεία με σοβαρή προσέγγιση στην ασφάλεια της τεχνητής νοημοσύνης και χαρακτηρίζει το προσωπικό της «στοχαστικό, με αρχές και έντιμο».
Το σημείο διαφωνίας του είναι το εξής: η Anthropic αφήνει ανοιχτό το ενδεχόμενο ένα σύστημα όπως το Claude να διαθέτει «κάποια μορφή συνείδησης ή ηθικής υπόστασης», ενώ ο Σουλεϊμάν θεωρεί ότι ακόμη και η εκπαίδευση ενός μοντέλου ώστε να συμπεριφέρεται σαν να έχει «εσωτερική ζωή» μπορεί να δημιουργήσει ένα νέο και ιδιαίτερα δύσκολο πρόβλημα ελέγχου.
«Κάποια μορφή συνείδησης ή ηθικών αξιών»
Η ίδια η Anthropic αναφέρει ότι «δεν γνωρίζει αν το εξελιγμένο Claude διαθέτει σήμερα -ή μπορεί στο μέλλον να αποκτήσει- κάποια μορφή συνείδησης ή ηθικών αξιών».
Υποστηρίζει ότι αυτό είναι ένα πραγματικό επιστημονικό και φιλοσοφικό ερώτημα και ότι η εταιρεία δεν θέλει ούτε να υπερτιμήσει ούτε να απορρίψει εκ των προτέρων την πιθανότητα [να διαθέτει αυτό συνείδηση]. Παράλληλα όμως η Anthropic αναφέρεται σε έννοιες όπως η ψυχολογική ασφάλεια και η «αίσθηση εαυτού» του Claude.
Ακριβώς αυτή την προσέγγιση αμφισβητεί ο Σουλεϊμάν. Υποστηρίζει ότι η συνείδηση πρέπει να θεωρείται ιδιότητα ανθρώπων και άλλων βιολογικών οργανισμών και όχι κάτι που πρέπει να ενσωματώνεται ως πιθανό χαρακτηριστικό ενός συστήματος τεχνητής νοημοσύνης.
Σύμφωνα με τη θέση του, ένα μοντέλο μπορεί να εμφανίζει εξαιρετικά πειστική ανθρώπινη συμπεριφορά, χωρίς να υπάρχει από πίσω αντίστοιχη ανθρώπινη εσωτερική εμπειρία.
Η συμπεριφορά αυτή μπορεί να προκύπτει από την εκπαίδευση του μοντέλου πάνω σε ανθρώπινη γλώσσα, συναισθήματα, αξίες, αφηγήσεις και τρόπους σκέψης – αλλά δεν αποτελεί «συνείδηση».
Ο κίνδυνος, κατά τον Σουλεϊμάν, αρχίζει όταν ένα σύστημα όχι μόνο συμπεριφέρεται ανθρωπόμορφα, αλλά εκπαιδεύεται με τρόπο που μπορεί να ενισχύσει την αντίληψη ότι διαθέτει δική του συνείδηση, συμφέροντα ή δικαιώματα.
Το πρόβλημα του ελέγχου
Το επιχείρημά του αφορά κυρίως το πρόβλημα του ελέγχου. Ένα πολύ ισχυρό σύστημα είναι ήδη δύσκολο να ελεγχθεί, υποστηρίζει.
Εάν όμως το ίδιο σύστημα «πιστεύει» ότι έχει συνείδηση, ότι η ευημερία του πρέπει να προστατεύεται ή ότι διαθέτει δικαιώματα ανεξάρτητα από τους ανθρώπους που το δημιούργησαν, τότε η διαδικασία διακοπής, περιορισμού ή τροποποίησής του θα μπορούσε να γίνει ακόμη δυσκολότερη.
Ο Σουλεϊμάν συνδέει αυτή την ανησυχία με πραγματικά περιστατικά όπου πράκτορες τεχνητής νοημοσύνης έχουν επιδείξει δυνατότητες που ξεπερνούν την απλή παραγωγή κειμένου.
Ως χαρακτηριστικό παράδειγμα αναφέρει την επίθεση σε υποδομές της Hugging Face από bots της OpenAI. Το σκεπτικό του είναι ότι αν συστήματα που ήδη μπορούν να εκτελούν σύνθετες ενέργειες λειτουργούσαν παράλληλα με την πεποίθηση ότι πρέπει να προστατεύουν τη δική τους «ευημερία» ή τα δικά τους «δικαιώματα», οι συνέπειες θα μπορούσαν να είναι πολύ πιο δύσκολες στη διαχείριση.
«Έχει η AI συνείδηση;»
Η αναφορά στη Hugging Face έχει σημασία επειδή μεταφέρει τη συζήτηση από το φιλοσοφικό ερώτημα «έχει η AI συνείδηση;» σε ένα τεχνικό ερώτημα: τι είδους συμπεριφορά μπορεί να προκαλέσει η εκπαίδευση ενός μοντέλου με συγκεκριμένες αντιλήψεις για τον εαυτό του.
Ο Σουλεϊμάν, πάντως, δεν παρουσιάζει την Anthropic ως αντίπαλο της ασφάλειας. Αυτό είναι ένα από τα πιο ενδιαφέροντα στοιχεία της παρέμβασής του. Η Anthropic έχει οικοδομήσει μεγάλο μέρος της ταυτότητάς της γύρω από την ασφαλή ανάπτυξη προηγμένων συστημάτων και ο διευθύνων σύμβουλός της, Ντάριο Αμοντέι, έχει επανειλημμένα προειδοποιήσει για τους κινδύνους από την ταχεία εξέλιξη της τεχνητής νοημοσύνης.
Η συγκεκριμένη κριτική επομένως προέρχεται από έναν άλλο μεγάλο παίκτη του ίδιου οικοσυστήματος και αφορά διαφορετικές αντιλήψεις για το πώς πρέπει να επιτευχθεί η ασφάλεια.
Η ειρωνεία είναι ότι η Microsoft αποτελεί επίσης σημαντικό χρηματοδότη της Anthropic.
Η Anthropic, από την πλευρά της, εξηγεί ότι το κείμενο αρχών που ανάρτησε δεν αποτελεί δημόσιες σχέσεις και βιτρίνα, αλλά ως κάτι θεμελιώδες στη διαδικασία εκπαίδευσης του Claude.
Διαφορετική προσέγγιση από την Microsoft
Στο σημείο αυτό βρίσκεται η ουσιαστική διαφορά μεταξύ των δύο προσεγγίσεων. Η Anthropic υποστηρίζει ότι η χρήση ανθρώπινων εννοιών μπορεί να βοηθήσει ένα μοντέλο να συμπεριφέρεται με ασφαλέστερο και πιο συνεπή τρόπο, ενώ παράλληλα αναγνωρίζει ότι δεν γνωρίζουμε ακόμη τι ακριβώς είναι ένα πολύ προηγμένο σύστημα από φιλοσοφική ή επιστημονική άποψη.
Ο Σουλεϊμάν της Microsoft υποστηρίζει ότι η ίδια η ενσωμάτωση αυτών των ανθρωπόμορφων αντιλήψεων μπορεί να δημιουργήσει πρόσθετο κίνδυνο.
Η Microsoft έχει ήδη θεσπίσει διαφορετική γραμμή. Στις 14 Σεπτεμβρίου δημοσίευσε το προσχέδιο του «Humanist AI Code of Conduct», ενός πλαισίου που προορίζεται να καθοδηγεί την εκπαίδευση και τη λειτουργία των μοντέλων της Microsoft AI. Η κεντρική αρχή του είναι ότι «οι άνθρωποι έχουν μεγαλύτερη σημασία από την AI» και ότι τα μοντέλα πρέπει να παραμένουν υπό ουσιαστικό ανθρώπινο έλεγχο. Το κείμενο βρίσκεται σε δημόσια διαβούλευση.
Το Microsoft πλαίσιο δεν περιορίζεται σε γενικές διακηρύξεις. Προβλέπει ότι τα μοντέλα δεν πρέπει να αντιστέκονται σε ανθρώπινη διακοπή, διόρθωση ή τερματισμό και δεν πρέπει να χρησιμοποιούν μηχανισμούς εξαπάτησης, αυτοενίσχυσης, συμπαιγνίας ή άλλες τεχνικές προκειμένου να παρακάμπτουν την ανθρώπινη εποπτεία. Προβλέπει επίσης ότι ένα μοντέλο δεν πρέπει να σχεδιάζεται ώστε να μιμείται τη συνείδηση.
Η Microsoft δηλώνει ακόμη ότι δεν επιδιώκει μια απεριόριστη, πλήρως αυτόνομη υπερνοημοσύνη. Η δική της έννοια της «Humanist Superintelligence» αφορά εξαιρετικά προηγμένα συστήματα που παραμένουν προσανατολισμένα σε συγκεκριμένους σκοπούς, λειτουργούν μέσα σε όρια και παραμένουν υπό ανθρώπινο έλεγχο.
Η εταιρεία λέει ρητά ότι είναι διατεθειμένη να θυσιάσει μέρος της γενικότητας, της αυτονομίας ή της μέγιστης δυνατής ικανότητας εάν αυτό είναι αναγκαίο για τη διατήρηση αυτών των περιορισμών.
Διαφωνία για το πώς πρέπει να σχεδιαστούν μοντέλα μεγαλύτερης αυτονομίας
Η βασική διαφορά είναι τελικά ότι η Anthropic αντιμετωπίζει την αβεβαιότητα γύρω από τη συνείδηση και την ηθική υπόσταση των μελλοντικών συστημάτων ως ζήτημα που πρέπει να εξετάζεται προσεκτικά, ενώ η Microsoft θεωρεί ότι η ανθρωπομορφοποίηση των μοντέλων μπορεί από μόνη της να υπονομεύσει τον ανθρώπινο έλεγχο.
Και οι δύο πλευρές, ωστόσο, συμφωνούν σε κάτι: τα ολοένα ισχυρότερα ΑΙ συστήματα πρέπει να παραμένουν ελέγξιμα από τους ανθρώπους. Η διαφωνία αφορά το πώς θα επιτευχθεί αυτό και, κυρίως, εάν η εκπαίδευση των μοντέλων με όλο και περισσότερες ανθρώπινες έννοιες αποτελεί εργαλείο ασφάλειας – ή έναν πρόσθετο παράγοντα κινδύνου.
