Η συζήτηση για το πόσο μακριά και πόσο γρήγορα μπορεί να φτάσει η τεχνητή νοημοσύνη φέρνει αντιμέτωπους τους κορυφαίους τεχνολογικούς ομίλους με ένα τρομερό δίλημμα.
Από τη μία πλευρά, ολοένα και περισσότερα στελέχη (νύν και πρώην) προειδοποιούν για τους πιθανούς κινδύνους της ΑΙ (μερικά φθάνοντας στο σημείο να λένει ότι «σε μερικά χρόνια ίσως μας σκοτώσει όλους») και ζητούν αυστηρότερη εποπτεία, ανεξάρτητους ελέγχους και μεγαλύτερη προσοχή στην ανάπτυξη των νέων μοντέλων.
Από την άλλη, οι ίδιες εταιρείες έχουν επενδύσει ήδη εκατοντάδες δισεκατομμύρια δολάρια στην τεχνητή νοημοσύνη και δεν έχουν κανένα συμφέρον να δημιουργήσουν πανικό στους επενδυτές ή στους πελάτες τους.
Η περίπτωση Coxon από την Anthropic
Η συζήτηση πήρε νέα διάσταση την περασμένη εβδομάδα, μετά την παραίτηση του ερευνητή της Anthropic, Jacob Coxon, ο οποίος προειδοποίησε ότι οι ερευνητές που κατασκευάζουν τα νέα συστήματα τεχνητής νοημοσύνης πιστεύουν σοβαρά πως η τεχνολογία θα μπορούσε ακόμη και να οδηγήσει στην καταστροφή της ανθρωπότητας («ίσως το ΑΙ μας σκοτώσει όλους») έως το τέλος της δεκαετίας.
Ακόμη πιο έντονη ήταν η παρέμβαση του Evan Hubinger, επικεφαλής της ομάδας alignment science της Anthropic, ο οποίος δήλωσε ότι θεωρεί πως υπάρχει πιθανότητα -άνω του 10%- η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Ο Ντάριο Αμοντέι ζητά μεγαλύτερη εποπτεία
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, υποστήριξε ότι οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται ταχύτερα από τις δικλίδες ασφαλείας που έχουν αναπτυχθεί για να τις ελέγξουν.
Σε ανάρτησή του πρότεινε μεγαλύτερη ανεξάρτητη εποπτεία, καθώς και στενότερο συντονισμό μεταξύ των εταιρειών τεχνολογίας και των κυβερνήσεων.
Οι δηλώσεις του προκάλεσαν πολιτικές αντιδράσεις στις ΗΠΑ. Ο πρόεδρος Τραμπ απέρριψε την ανάγκη για πρόσθετους περιορισμούς στην τεχνητή νοημοσύνη και στράφηκε προσωπικά εναντίον του Aμοντέι.
Σε ανάρτησή του στο Truth Social, ο Tραμπ έκανε λόγο για «άρρωστη συνωμοσία» αναφορικά με τις αντιδράσεις των ψηφοφόρων στα data centers που απαιτούνται για την ανάπτυξη της AI και την αυξανόμενη ανησυχία για τα προηγμένα μοντέλα.
Υποστήριξε, μάλιστα, ότι ο μόνος που επωφελείται από αυτή την κατάσταση είναι η Κίνα.
Mασκ και Aλτμαν συμφωνούν με την επιβράδυνση
Ο Ίλον Μασκ τάχθηκε δημόσια υπέρ της άποψης του Amodei. «Ο Dario έχει δίκιο», έγραψε σε ανάρτησή του στο X.
Στο ίδιο μήκος κύματος κινήθηκε και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν. Ο Άλτμαν δήλωσε ότι συμφωνεί πως η ανάπτυξη των πλέον προηγμένων μοντέλων θα πρέπει να ακολουθεί έναν πιο ελεγχόμενο ρυθμό.
Ο επικεφαλής της OpenAI αποκάλυψε ότι η εταιρεία έχει συζητήσει εκτενώς το ζήτημα τις τελευταίες εβδομάδες και τάχθηκε υπέρ της χρήσης ανεξάρτητων αξιολογητών, οι οποίοι θα έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων στις εταιρείες που αναπτύσσουν τα μοντέλα.
Όπως ανέφερε, η OpenAI προτίθεται να υιοθετήσει και η ίδια μια αντίστοιχη διαδικασία και αναμένεται να παρουσιάσει περισσότερες λεπτομέρειες.
Οι αντιρρήσεις για ένα παγκόσμιο «φρένο»
Δεν συμφωνούν, ωστόσο, όλοι με την ιδέα μιας γενικευμένης επιβράδυνσης της ανάπτυξης της τεχνητής νοημοσύνης.
Ο Aidan Gomez, διευθύνων σύμβουλος της Cohere, υποστήριξε ότι ένας μηχανισμός ο οποίος θα επιβραδύνει όλους τους παίκτες, διατηρώντας παράλληλα τα υφιστάμενα εμπορικά πλεονεκτήματα, δεν καθιστά αυτομάτως την AI ασφαλέστερη.
Ο Gomez τάχθηκε υπέρ της ύπαρξης δικλίδων ασφαλείας, αλλά υποστήριξε ότι η ανάπτυξη της τεχνολογίας πρέπει να γίνεται με ρυθμό τον οποίο μπορεί να παρακολουθήσει και να διαχειριστεί η κοινωνία.
Η θέση αυτή αντανακλά ένα από τα μεγαλύτερα διλήμματα της σημερινής κούρσας για την τεχνητή νοημοσύνη: πόσο αυστηροί πρέπει να είναι οι κανόνες χωρίς να περιορίζεται η καινοτομία ή να αποκτούν πλεονέκτημα ανταγωνιστές από άλλες χώρες (πχ Κίνα);
H θέση του Σάτια Ναντέλα της Microsoft
Ο Σάτια Ναντέλα της Microsoft υποστηρίζει ότι κάθε προσπάθεια ανάπτυξης υπερνοημοσύνης θα πρέπει να βασίζεται στην αρχή ότι η ΑΙ αξίζει να αναπτύσσεται μόνο εφόσον βοηθά την ανθρωπότητα και παραμένει υπό ανθρώπινο έλεγχο.
Η θέση του Nαντέλα δείχνει ότι η συζήτηση μετακινείται σταδιακά από το ερώτημα του αν θα πρέπει να συνεχιστεί η ανάπτυξη της AI στο ερώτημα των ορίων μέσα στα οποία θα πρέπει να πραγματοποιηθεί.
Η Hugging Face ζητά ανοιχτή προσέγγιση
Ο Clément Delangue, επικεφαλής της Hugging Face, υποστήριξε ότι πλέον είναι ξεκάθαρο πως η ευθυγράμμιση της συμπεριφοράς των συστημάτων AI με τις ανθρώπινες αξίες και τους στόχους, είναι κρίσιμο ζήτημα.
Παράλληλα, προειδοποίησε ότι το πρόβλημα δεν μπορεί να λυθεί πίσω από κλειστές πόρτες από μια μικρή ομάδα κορυφαίων εργαστηρίων τεχνητής νοημοσύνης.
Η Hugging Face ανακοίνωσε την Open Alignment Initiative και εξέφρασε την πρόθεσή της να συμμετάσχει στο πρόγραμμα «embedded evaluators» που προτείνει η Anthropic.
Η CrowdStrike προτιμά την άμυνα από την επιβράδυνση
Ο George Kurtz, διευθύνων σύμβουλος της CrowdStrike, διατύπωσε μια διαφορετική προσέγγιση.
Όπως υποστήριξε, η επιβράδυνση της επόμενης γενιάς τεχνολογίας δεν προστατεύει από τους κινδύνους που υπάρχουν ήδη.
Για τον Kurtz, η κυβερνοασφάλεια θα πρέπει να επικεντρωθεί στην ανάπτυξη μηχανισμών άμυνας που μπορούν να συμβαδίσουν με ολοένα και πιο αυτόνομα συστήματα τεχνητής νοημοσύνης.
Αυτό σημαίνει περισσότερες ανεξάρτητες δοκιμές, ισχυρότερους μηχανισμούς ασφαλείας και ανθρώπινη εποπτεία στις αποφάσεις που έχουν σημαντικές επιπτώσεις.
Ο Μαρκ Zούκερμπεργκ φοβάται τη συγκέντρωση της δύναμης
Ο Mαρκ της Meta εστίασε σε έναν διαφορετικό κίνδυνο: τη συγκέντρωση της τεχνολογικής ισχύος σε λίγες εταιρείες ή ακόμη και σε λίγους ανθρώπους.
Μιλώντας στο podcast Sources, δήλωσε ότι τον ανησυχεί περισσότερο το ενδεχόμενο ένας μικρός αριθμός εργαστηρίων ή ανθρώπων να αποκτήσει τον έλεγχο μιας τεχνολογίας τόσο ισχυρής.
Ο Μαρκ υποστήριξε ότι η τεχνητή νοημοσύνη μπορεί να είναι ασφαλέστερη όταν η πρόσβαση σε αυτήν είναι ευρύτερα κατανεμημένη και δεν περιορίζεται σε μια μικρή ομάδα εταιρειών.
Παράλληλα, επέκρινε τα εργαστήρια που αναπτύσσουν ολοένα ισχυρότερα μοντέλα αλλά επιλέγουν να μην τα διαθέτουν στο κοινό, χαρακτηρίζοντας αυτή την προσέγγιση «αρκετά επικίνδυνη».
Η δύσκολη ισορροπία της AI
Οι διαφορετικές τοποθετήσεις των κορυφαίων στελεχών αποτυπώνουν τη δύσκολη ισορροπία στην οποία βρίσκεται σήμερα ο κλάδος.
Οι εταιρείες γνωρίζουν ότι η τεχνητή νοημοσύνη μπορεί να δημιουργήσει τεράστια οικονομική αξία, ενώ ταυτόχρονα αναγνωρίζουν ότι η ταχύτητα με την οποία εξελίσσεται δημιουργεί κινδύνους που οι υφιστάμενοι μηχανισμοί ασφαλείας ενδέχεται να μην μπορούν να αντιμετωπίσουν.
Το πρόβλημα είναι ότι οποιαδήποτε δημόσια παραδοχή για σοβαρούς κινδύνους μπορεί να κλονίσει την εμπιστοσύνη των επενδυτών, των πελατών και των κυβερνήσεων.
Έτσι, οι ηγέτες της τεχνολογίας επιχειρούν να στείλουν ένα διπλό μήνυμα: η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να γίνει πιο ασφαλής και ελεγχόμενη, αλλά η ίδια η κούρσα δεν πρόκειται να σταματήσει.
