Συναγερμό για τους κινδύνους από την ταχεία εξέλιξη της τεχνητής νοημοσύνης εκπέμπουν ορισμένοι από τους πιο γνωστούς επιστήμονες του κλάδου, με τις προειδοποιήσεις να γίνονται πλέον πιο συγκεκριμένες και πιο δραματικές. Σύμφωνα με το Semafor, κορυφαίοι πρωτοπόροι της AI συντάσσονται με τις ανησυχίες ερευνητών της Anthropic για το ενδεχόμενο ακόμη και ανθρώπινης εξαφάνισης, εάν η ανάπτυξη υπερνοημοσύνης προχωρήσει χωρίς επαρκείς δικλίδες ασφαλείας.
Ο Paul Christiano, ένας από τους γνωστότερους ερευνητές στον τομέα της ασφάλειας και της ευθυγράμμισης της AI. Ο Christiano είχε συνυπογράψει το 2016, μαζί με τον μετέπειτα ιδρυτή της Anthropic Dario Amodei και άλλους ερευνητές, τη μελέτη «Concrete Problems in AI Safety», η οποία εξέταζε πρακτικούς κινδύνους που θα μπορούσαν να προκύψουν από την κακή σχεδίαση προηγμένων συστημάτων AI.
Για χρόνια ο ίδιος θεωρούσε ότι η τεχνολογία θα εξελισσόταν σχετικά σταδιακά, αφήνοντας περιθώριο για την ανάπτυξη αποτελεσματικών μηχανισμών ασφαλείας. Πλέον, όμως, δηλώνει ότι βλέπει «ουσιαστικό κίνδυνο» μιας «καταστροφικής και μη αναστρέψιμης απώλειας ελέγχου στο πολύ εγγύς μέλλον».
Ο Christiano ανακοίνωσε παράλληλα ότι εντάσσεται στο μη κερδοσκοπικό διοικητικό συμβούλιο της OpenAI και στην Επιτροπή Ασφάλειας και Προστασίας, με στόχο να συμβάλει στην εποπτεία των κινδύνων από τα πλέον προηγμένα συστήματα AI. Όπως υποστηρίζει, η σημερινή πορεία του κλάδου δεν οδηγεί ακόμη σε μείωση των κινδύνων σε αποδεκτά επίπεδα.
— Paul Christiano (@paulfchristiano) September 9, 2026
Ο φόβος της «έκρηξης νοημοσύνης» -«Οι περισσότεροι άνθρωποι θα μπορούσαν να πεθάνουν»
Βασική ανησυχία του Christiano είναι η πιθανότητα η AI να φτάσει σύντομα στο σημείο όπου θα μπορεί να αυτοματοποιήσει την ίδια την έρευνα και ανάπτυξη νέων συστημάτων.
Εάν τα μοντέλα καταστούν ικανά να βελτιώνουν τις μεθόδους εκπαίδευσης και τους αλγορίθμους τους, θα μπορούσε να δημιουργηθεί ένας κύκλος συνεχούς αυτοβελτίωσης. Σε ένα τέτοιο σενάριο, η πρόοδος θα μπορούσε να επιταχυνθεί απότομα, οδηγώντας σε αυτό που ο ίδιος περιγράφει ως «έκρηξη νοημοσύνης».
Ο Christiano παραπέμπει μάλιστα σε εκτιμήσεις ότι η πλήρης αυτοματοποίηση της έρευνας AI θα μπορούσε να καταστεί εφικτή μέσα σε διάστημα από μερικούς μήνες έως λίγα χρόνια. Αν ακολουθούσε ταχεία αυτοβελτίωση, θεωρεί πιθανό μέσα σε περίπου έξι μήνες να σημειωθεί μεγαλύτερη αλγοριθμική πρόοδος από εκείνη που έχει καταγραφεί από την εμφάνιση του Transformer πριν από σχεδόν μία δεκαετία.
Το κρίσιμο ζήτημα είναι η λεγόμενη «ευθυγράμμιση»: κατά πόσο δηλαδή τα ολοένα ισχυρότερα συστήματα θα συνεχίσουν να υπηρετούν ανθρώπινους στόχους και να παραμένουν υπό ανθρώπινο έλεγχο.
Ο Christiano προειδοποιεί ότι, εάν δημιουργηθεί υπερνοημοσύνη χωρίς ισχυρότερους μηχανισμούς ασφαλείας, ο έλεγχος θα μπορούσε να χαθεί οριστικά. Σε μια από τις πιο δραματικές διατυπώσεις του, σημειώνει ότι σε ένα τέτοιο ενδεχόμενο «οι περισσότεροι άνθρωποι θα μπορούσαν να πεθάνουν».
Οι φόβοι δεν περιορίζονται στον Christiano. Ο Geoffrey Hinton, ένας από τους αποκαλούμενους «Νονούς της AI» και βραβευμένος με Νόμπελ, δήλωσε στο BBC ότι μια πιθανότητα της τάξης του 10% να οδηγήσει η AI στην εξαφάνιση του ανθρώπινου είδους «δεν φαίνεται παράλογη εκτίμηση».
“You just said that 10% doesn’t seem an unreasonable estimate that AI could kill all humans”
“Yes”
“Wow… oh my God.”@vicderbyshire speaks to Nobel Prize Winner and so-called ‘Godfather of AI’ Geoffrey Hinton about predictions by an Anthropic researcher that there’s a more… pic.twitter.com/sGYQI57REF
— BBC Newsnight (@BBCNewsnight) September 9, 2026
Ακόμη πιο συγκεκριμένος ήταν ο Evan Hubinger, ερευνητής της Anthropic που ειδικεύεται στην ευθυγράμμιση προηγμένων συστημάτων. Ο ίδιος έγραψε δημόσια ότι θεωρεί την πιθανότητα η AI να προκαλέσει ανθρώπινη εξαφάνιση μέσα στην επόμενη δεκαετία μεγαλύτερη από 10%.
Ο Hubinger υποστήριξε ότι η Anthropic καταβάλλει προσπάθειες για να περιορίσει τους κινδύνους, αλλά ο κλάδος δεν διαθέτει ακόμη σαφές σχέδιο για το πώς θα επιτευχθεί ασφαλής ευθυγράμμιση μιας μελλοντικής υπερνοημοσύνης.
Στην ίδια γραμμή κινήθηκε και ο Jacob Coxon, ο οποίος παραιτήθηκε από την Anthropic και υποστήριξε ότι οι κορυφαίες εταιρείες της AI «παίζουν τζόγο με τις ζωές μας». Όπως έγραψε, οι φόβοι αυτοί δεν αποτελούν «κάποιο μάρκετινγκ κόλπο», αλλά πραγματικές ανησυχίες ανθρώπων που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της τεχνολογίας.
Οι προειδοποιήσεις φτάνουν στο αμερικανικό Κογκρέσο
Η συζήτηση περνά πλέον και στο πολιτικό πεδίο. Όπως αναφέρει η Washington Post, ο γερουσιαστής Μπέρνι Σάντερς και ο βουλευτής Γκρεγκ Κάζαρ παρουσίασαν νομοθετική πρόταση που προβλέπει την απαγόρευση της παραγωγής τεχνητής υπερνοημοσύνης και τη δημιουργία νέας ομοσπονδιακής υπηρεσίας για την εποπτεία της τεχνολογίας.
Ο Σάντερς κάλεσε επίσης συναδέλφους του σε κλειστή ενημέρωση για τους «εξαιρετικούς κινδύνους» της AI, με τη συμμετοχή ειδικών όπως ο Geoffrey Hinton. «Οι ίδιοι οι άνθρωποι που κατασκευάζουν αυτή την τεχνολογία παραδέχονται ότι θα μπορούσε να απειλήσει το μέλλον της ανθρωπότητας», υποστήριξε.
Το θέμα δεν περιορίζεται στους Δημοκρατικούς. Ο Ρεπουμπλικανός γερουσιαστής Ted Cruz, πρόεδρος της αρμόδιας επιτροπής για την AI, δήλωσε ότι εργάζεται και ο ίδιος πάνω σε νομοθεσία για την αντιμετώπιση καταστροφικών κινδύνων. Τόνισε ότι απαιτούνται προστατευτικές δικλίδες, υποστηρίζοντας παράλληλα ότι οι ΗΠΑ πρέπει να διατηρήσουν την τεχνολογική πρωτοκαθεδρία.
Ο φόβος της σταδιακής απώλειας ελέγχου
Μια διαφορετική διάσταση παρουσιάζει στη Washington Post ο Anthony Aguirre, επικεφαλής του Future of Life Institute. Ο Aguirre φοβάται λιγότερο ένα στιγμιαίο καταστροφικό γεγονός και περισσότερο μια «σταδιακή αποδυνάμωση» της ανθρώπινης εξουσίας.
Στο σενάριο αυτό, όλο και περισσότερες κρίσιμες αποφάσεις θα παραδίδονται σταδιακά σε συστήματα AI, μέχρι οι άνθρωποι να εξαρτώνται από αυτά για τη λειτουργία βασικών υποδομών και την κατανομή πόρων.
Η ίδια η Anthropic, σε έκθεση κινδύνου 186 σελίδων που δημοσίευσε τον Αύγουστο, αναγνώρισε την πιθανότητα τα συστήματά της να προκαλέσουν καταστροφικές συνέπειες, αν και εκτίμησε ότι ο σημερινός κίνδυνος παραμένει χαμηλός.
Η Washington Post υπενθυμίζει επίσης ότι ο Dario Amodei είχε τοποθετήσει πέρυσι περίπου στο 25% την πιθανότητα η εξέλιξη της AI να οδηγήσει το μέλλον σε μια «πολύ, πολύ κακή» κατεύθυνση.
Κάποιοι αμφισβητούν τα καταστροφικά σενάρια
Η συζήτηση, πάντως, κάθε άλλο παρά ομόφωνη είναι. Ένα σημαντικό τμήμα της τεχνολογικής κοινότητας θεωρεί τις προβλέψεις περί εξαφάνισης υπερβολικές και υποστηρίζει ότι η επιτάχυνση της AI μπορεί να αποφέρει τεράστια οικονομικά, επιστημονικά και στρατηγικά οφέλη.
Ο Perry Metzger, πρόεδρος της Alliance for the Future, αμφισβήτησε ευθέως τα πλέον καταστροφικά σενάρια, υποστηρίζοντας στη Washington Post ότι οι σχετικές προβλέψεις στερούνται συνοχής.
Το βέβαιο είναι ότι η συζήτηση για την ασφάλεια της AI έχει πλέον μετακινηθεί από το πεδίο της θεωρίας στο επίκεντρο της πολιτικής ατζέντας. Και όσο περισσότεροι ερευνητές που βρίσκονται στον πυρήνα της ανάπτυξης των πιο ισχυρών μοντέλων μιλούν ανοιχτά για υπαρξιακούς κινδύνους, τόσο μεγαλύτερη γίνεται η πίεση για κανόνες, μηχανισμούς ελέγχου και διεθνή συντονισμό πριν οι δυνατότητες της τεχνολογίας ξεπεράσουν τις υπάρχουσες δικλίδες ασφαλείας.
