Σε άρθρο του, ο επικεφαλής της Anthropic περιέγραψε τις ραγδαία εξελισσόμενες δυνατότητες της τεχνητής νοημοσύνης και τόνισε την ανάγκη για αυστηρότερους ελέγχους ασφαλείας σε ολόκληρο τον κλάδο.
Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, ζήτησε την παγκόσμια επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης σε ένα άρθρο 3.800 λέξεων που δημοσιεύτηκε το Σάββατο, λίγες μόλις ημέρες αφότου ένας υπάλληλος της εταιρείας παραιτήθηκε εκφράζοντας ανησυχίες για την ασφάλεια της τεχνολογίας.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.
You can read the full post here: https://t.co/OGyPb7yaYt
— Dario Amodei (@DarioAmodei) September 12, 2026
Κορυφαία στελέχη άλλων μεγάλων εταιρειών τεχνητής νοημοσύνης τάχθηκαν άμεσα υπέρ αυτής της πρωτοβουλίας. Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, ο Έλον Μασκ —η εταιρεία πυραύλων του οποίου, η SpaceX, αυξάνει τις επενδύσεις στην τεχνητή νοημοσύνη— και ο Ντέμης Χασάμπης, επικεφαλής της Google DeepMind, δήλωσαν μέσω αναρτήσεων στα μέσα κοινωνικής δικτύωσης ότι συμφωνούν με την ανάγκη για πιο αργούς ρυθμούς.
Ο Αμοντέι, ο οποίος συνίδρυσε την Anthropic με στόχο την ασφαλή και προσεκτική ανάπτυξη της τεχνητής νοημοσύνης, έγραψε στο άρθρο του ότι, αν και πιστεύει πως η τεχνολογία μπορεί να αποφέρει πολλαπλά οφέλη, εξελίσσεται με υπερβολικά γρήγορους ρυθμούς, καθιστώντας δύσκολη τη συνέχιση της έρευνας με ασφάλεια.
«Τους τελευταίους μήνες, πείστηκα ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση: δεν αρκεί μόνο η επένδυση στην πρόληψη κινδύνων, αλλά πρέπει να ρυθμίσουμε τον ρυθμό εξέλιξης των δυνατοτήτων, ώστε τα μέτρα πρόληψης να προλαβαίνουν να συμβαδίζουν», έγραψε ο Αμοντέι. «Πρέπει να επιβραδύνουμε τον ρυθμό βελτίωσης των δυνατοτήτων των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται ταχύτατη και οφείλουμε να αξιοποιήσουμε συνετά τον χρόνο που κερδίζουμε».
Ο Αμοντέι προειδοποιεί εδώ και χρόνια για τους κινδύνους ασφαλείας που ενέχει η τεχνητή νοημοσύνη. Ωστόσο, το άρθρο του αποτέλεσε μία από τις πιο σθεναρές εκκλήσεις για άμεση δράση που έχουν διατυπωθεί μέχρι σήμερα από κορυφαίο στέλεχος εταιρείας του κλάδου.
Ζήτησε τη διενέργεια ελέγχων από ανεξάρτητους φορείς για τη διαπίστωση της τήρησης των προτύπων ασφαλείας από τις εταιρείες και απηύθυνε έκκληση για παγκόσμια συνεργασία με στόχο τη θέσπιση κανόνων που θα διέπουν την ανάπτυξη της τεχνητής νοημοσύνης.
Η έκκληση για μια παύση των εξελίξεων σε ολόκληρο τον κλάδο έρχεται μετά από μήνες αυξανόμενων ανησυχιών στον χώρο της τεχνολογίας, καθώς η τεχνητή νοημοσύνη… Η ανάπτυξη μοντέλων έχει σημειώσει σημαντική πρόοδο σε εταιρείες όπως η Anthropic (δημιουργός του chatbot Claude), η OpenAI (δημιουργός του ChatGPT) και η DeepMind της Google.
Η ένταση κλιμακώθηκε περαιτέρω όταν κορυφαία εργαστήρια τεχνητής νοημοσύνης διαπίστωσαν παραβιάσεις ασφαλείας που είχαν πραγματοποιηθεί από τα ίδια τους τα προγράμματα, εν αγνοία τους. Σε ένα περιστατικό που σημειώθηκε φέτος, τα συστήματα της OpenAI παραβίασαν την HuggingFace —μια νεοφυή επιχείρηση (start-up) στον τομέα της τεχνητής νοημοσύνης—, γεγονός που δεν έγινε αντιληπτό παρά μόνο όταν η HuggingFace ενημέρωσε την OpenAI, εβδομάδες μετά τη συμβάν. Έκτοτε, ερευνητές του κλάδου διαβουλεύονται για τα επόμενα βήματα.
Η παραίτηση που επιτάχυνε τις αντιδράσεις
Την Τρίτη, ο Τζέκομπ Κόξον, ερευνητής της Anthropic, παραιτήθηκε και δημοσίευσε μια σειρά αναρτήσεων στα μέσα κοινωνικής δικτύωσης, υποστηρίζοντας ότι τα κορυφαία εργαστήρια τεχνητής νοημοσύνης δεν ανέπτυσσαν την τεχνολογία με υπευθυνότητα και έθεταν σε κίνδυνο ανθρώπινες ζωές, προκαλώντας έντονες αντιδράσεις. Άλλοι ερευνητές έχουν ζητήσει από τις ηγεσίες των εταιρειών τους να αναστείλουν την ανάπτυξη της τεχνητής νοημοσύνης, ενώ ορισμένοι σχηματίζουν ανεξάρτητες ομάδες για να ευαισθητοποιήσουν το κοινό σχετικά με τους κινδύνους της τεχνολογίας αυτής.
Οι ηγέτες του κλάδου προετοιμάζονται για την ημέρα που ένα σύστημα τεχνητής νοημοσύνης θα μπορεί να εξελίσσεται και να γίνεται πιο προηγμένο βασιζόμενο αποκλειστικά στον εαυτό του, χωρίς να απαιτείται η συνδρομή ανθρώπων ερευνητών. Αυτή η δυναμική —την οποία οι επιστήμονες πληροφορικής αποκαλούν «αναδρομική αυτο-βελτίωση» (recursive self-improvement)— είναι εκείνη που, κατά την άποψη ορισμένων κορυφαίων προγραμματιστών, ενδέχεται να οδηγήσει το λογισμικό εκτός του ανθρώπινου ελέγχου.
«Αν αφεθεί ανεξέλεγκτη, η διαδικασία αυτή θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα· επομένως, πρέπει να προσεγγίζεται με εξαιρετική προσεκτικότητα —ή και καθόλου», δήλωσε ο κ. Amodei.
Λίγες ώρες αφότου ο Αμοντέι δημοσίευσε το κείμενό του, ο Άλτμαν ανήρτησε δήλωση στα μέσα κοινωνικής δικτύωσης, συμφωνώντας ότι κρίνεται απαραίτητη η επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.
«Αυτό αποτελεί βασικό θέμα συζήτησης στην OpenAI τις τελευταίες εβδομάδες», έγραψε ο Άλτμαν . «Η δέσμευση για τη συμμετοχή ανεξάρτητων αξιολογητών, οι οποίοι θα έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, είναι εξαιρετική ιδέα και θα πράξουμε το ίδιο. Θα έχουμε περισσότερα να ανακοινώσουμε σύντομα».
Ο Μασκ, σε ανάρτησή του στην πλατφόρμα κοινωνικής δικτύωσης X, περιορίστηκε στη φράση: «Ο Ντάριο έχει δίκιο».
Το βράδυ του Σαββάτου, ο Ντέμης Χασάμπης is δήλωσε ότι το κείμενο του Αμοντέι αποτελούσε βήμα προς τη σωστή κατεύθυνση. «Οι λεπτομέρειες χρήζουν επεξεργασίας, αλλά η κατεύθυνση είναι η σωστή για την αντιμετώπιση αυτής της κρίσιμης στιγμής», δήλωσε ο κ. Χασάμπης σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης.
Επί χρόνια, πολλά από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης (A.I.) βρίσκονται σε σφοδρό ανταγωνισμό μεταξύ τους. Ωστόσο, καθώς τα συστήματα αυτά εξελίσσονται, έχει διαμορφωθεί μια ευρύτερη συναίνεση μεταξύ των στελεχών των ανταγωνιστικών εταιρειών ότι πρέπει να αναληφθεί δράση.
Τον περασμένο μήνα, καθώς η OpenAI ετοιμαζόταν να κυκλοφορήσει ένα προηγμένο μοντέλο τεχνητής νοημοσύνης με την ονομασία Astra, η εταιρεία ανακοίνωσε ότι είχε επιβραδύνει σκόπιμα τον ρυθμό ανάπτυξής του, επικαλούμενη προόδους στις δυνατότητες κυβερνοασφάλειας. Τον Ιούλιο, ο Χασάμπης της Google δημοσίευσε ένα ανοιχτό πλαίσιο για αυτό που θεωρούσε ασφαλή τρόπο συνεργατικής ανάπτυξης της επόμενης γενιάς τεχνητής νοημοσύνης.
Υπάρχουν ελάχιστοι κανόνες για την ανάπτυξη της τεχνητής νοημοσύνης, αν και ο πρόεδρος των ΗΠΑ υπέγραψε εκτελεστικό διάταγμα τον Ιούνιο, ζητώντας από τα εργαστήρια τεχνητής νοημοσύνης να υποβάλλουν οικειοθελώς τα μοντέλα τους για έλεγχο πριν από τη δημόσια κυκλοφορία τους.
Τι προτείνει ο επικεφαλής της Anthropic
Στο άρθρο που δημοσίευσε το Σάββατο, ο Αμοντέι πρότεινε ενέργειες που θα μπορούσε να υιοθετήσει ο κλάδος για την επιβράδυνση του ρυθμού ανάπτυξης.
Ο Αμοντέι δήλωσε ότι όλα τα εργαστήρια τεχνητής νοημοσύνης θα μπορούσαν να συμφωνήσουν σε αξιολογήσεις τεχνολογίας από τρίτους —«ενσωματωμένους αξιολογητές» ή εξωτερικούς ειδικούς— οι οποίοι θα επαλήθευαν την τήρηση των βέλτιστων πρακτικών ασφαλείας σε όλες τις εταιρείες. Πρότεινε επίσης τον συντονισμό χωρών με δημοκρατικά συστήματα διακυβέρνησης για τη θέσπιση προτύπων ασφαλείας, τα οποία θα μπορούσαν να λάβουν τη μορφή ρυθμιστικών μέτρων.
Πρόσθεσε ότι πιθανότατα θα απαιτηθεί μια παγκόσμια προσπάθεια σε συνεργασία με άλλα κράτη —συμπεριλαμβανομένων αυταρχικών καθεστώτων— προκειμένου να συντονιστεί σωστά μια τέτοια επιβράδυνση.
Δεν πιστεύουν όλοι στη Silicon Valley ότι οι προθέσεις του Αμοντέι είναι καθαρά αλτρουιστικές. Ορισμένοι επικριτές υποστηρίζουν ότι η Anthropic και η OpenAI επιδιώκουν να εδραιώσουν τη θέση τους ως ηγέτες στην αγορά της τεχνητής νοημοσύνης, καλλιεργώντας τον φόβο και ζητώντας από την ομοσπονδιακή κυβέρνηση να θεσπίσει ρυθμιστικά πλαίσια που θα καθιστούσαν δυσκολότερο για τις μικρότερες εταιρείες να ανταγωνιστούν τις ίδιες.
Σε συνέδριο τεχνολογίας που πραγματοποιήθηκε στο Σαν Φρανσίσκο την περασμένη εβδομάδα, ο Γιένσεν Χουάνγκ, διευθύνων σύμβουλος της Nvidia (εταιρείας κατασκευής τσιπ για τεχνητή νοημοσύνη), δήλωσε ότι τα εργαστήρια τεχνητής νοημοσύνης εντείνουν τις ανησυχίες για την ασφάλεια επειδή σχεδιάζουν να λανσάρουν νέα «Ποιος δεν θα ήθελε το κοινό του να εκδηλώνει ενθουσιασμό που αγγίζει την υστερία για το προϊόν του και να σχηματίζει ουρές που φτάνουν μέχρι τη γωνία του δρόμου για να το αποκτήσει;»
Το Σάββατο, λίγο αφότου ο Αμοντέι δημοσίευσε το κείμενό του, ο Κλεμάν Ντε Λανγκ, διευθύνων σύμβουλος της HuggingFace, δήλωσε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης ότι είναι επιτακτική ανάγκη τα ζητήματα ασφάλειας της Τεχνητής Νοημοσύνης να μην «επιλύονται πίσω από τις κλειστές πόρτες μιας χούφτας εργαστηρίων που πρωτοπορούν στον τομέα». Η Nvidia συμφώνησε να εξαγοράσει τη HuggingFace αυτόν τον μήνα έναντι 12,9 δισεκατομμυρίων δολαρίων.
Στο κείμενό του, ο Αμοντέι τόνισε ότι εξακολουθεί να θεωρεί πως η Τεχνητή Νοημοσύνη έχει τη δυνατότητα να προσφέρει «τεράστια οφέλη» στην ανθρωπότητα, συμπεριλαμβανομένης της πιθανής θεραπείας ασθενειών και της επιτάχυνσης της οικονομικής ανάπτυξης. Ωστόσο, επισήμανε ότι οι κίνδυνοι που ενέχει η Τεχνητή Νοημοσύνη είναι πολύ μεγάλοι για να μην προχωρήσουμε με εξαιρετική προσοχή.
«Τα μέτρα που προτείνω για την πρόοδο της τεχνολογίας αιχμής με ασφαλή ρυθμό δεν θα είναι εύκολα», έγραψε ο επικεφαλής της Antropic. «Πιστεύω όμως ότι οφείλουμε στην ανθρωπότητα να προσπαθήσουμε».
