Δύο πράγματα θα πρέπει να σας κάνουν να αναρωτηθείτε τι μπορεί να σημαίνει η τεχνητή νοημοσύνη για την ανθρωπότητα. Το ένα είναι ότι όσοι ασχολούνται με αυτή την τεχνολογία προειδοποιούν ότι μπορεί να οδηγήσει σε καταστροφή — ακόμη και στην εξαφάνιση του ανθρώπινου είδους. Το άλλο είναι ο τρόπος με τον οποίο η τεχνολογική καινοτομία επιδεινώνει την καταστροφή της Ουκρανίας. Αυτά τα δυο προσφέρουν αντικρουόμενα διδάγματα ως προς το αν η ραγδαία πρόοδος της τεχνητής νοημοσύνης μπορεί ή πρέπει να επιβραδυνθεί.
Εδώ και χρόνια, κορυφαίοι επικεφαλής στον τομέα της τεχνητής νοημοσύνης έχουν επισημάνει ότι η τεχνολογία τους θα μπορούσε να καταστεί θανατηφόρα. Τα bots ενδέχεται να γίνουν αρκετά έξυπνα ώστε να ξεγελάσουν τους δημιουργούς τους πριν «ευθυγραμμιστούν» με τους στόχους και την ηθική της ανθρωπότητας. Κακόβουλοι άνθρωποι θα μπορούσαν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να σπείρουν τον όλεθρο. Αυτές οι προειδοποιήσεις έχουν αποκτήσει μεγαλύτερη αξιοπιστία, καθώς πράκτορες τεχνητής νοημοσύνης έχουν διαφύγει από τα περιβάλλοντα δοκιμών τους, έχουν συντονιστεί μεταξύ τους και έχουν παραβιάσει οργανισμούς, συμπεριλαμβανομένου και ενός εργαστηρίου τεχνητής νοημοσύνης. Η Anthropic έχει εντοπίσει άτομα που χρησιμοποιούν τα μοντέλα της για κακόβουλους σκοπούς, από τις υπηρεσίες πληροφοριών του Μάλι που δημιούργησαν ένα σύστημα μαζικής παρακολούθησης, έως τους αντάρτες Χούθι στη Υεμένη, οι οποίοι πιστεύεται ότι αναπτύσσουν λογισμικό για βαλλιστικούς πυραύλους.
Μετά την πρόσφατη παραίτηση ενός ερευνητή της Anthropic, ο φόβος του κοινού για την καταστροφή από την τεχνητή νοημοσύνη έχει εξαπλωθεί. Σε μια ανάρτηση που έχει προβληθεί πάνω από 170 εκατομμύρια φορές, ο ερευνητής ανέφερε ότι η Anthropic και η OpenAI «παίζουν με τις ζωές μας». Η τεχνητή νοημοσύνη γίνεται ραγδαία ισχυρότερη, προς το καλό και προς το κακό. Τον Μάιο, οι αγορές προβλέψεων εκτιμούσαν ότι η πιθανότητα η τεχνητή νοημοσύνη να λύσει οποιοδήποτε μαθηματικό πρόβλημα του «Millennium Prize» πριν από το 2030 ήταν μικρότερη από το ένα τρίτο. Στις 8 Σεπτεμβρίου, η OpenAI ανακοίνωσε ότι είχε λύσει ένα από αυτά, προκαλώντας ανησυχία στους μαθηματικούς. Στις 12 Σεπτεμβρίου, ο Sam Altman και ο Elon Musk, δύο γίγαντες της τεχνητής νοημοσύνης, υποστήριξαν την έκκληση του Dario Amodei, επικεφαλής της Anthropic, να «οριστεί ρυθμός στην πρωτοπορία», δηλαδή να επιβραδυνθεί η πρόοδος της τεχνητής νοημοσύνης. Μεταξύ όσων τάσσονται υπέρ της επιβράδυνσης συγκαταλέγονται ο αριστερός γερουσιαστής Bernie Sanders και ο δεξιός λαϊκιστής Steve Bannon.
Μεταξύ των αντιτιθέμενων συγκαταλέγεται ο Πρόεδρος Donald Trump, η κυβέρνηση του οποίου φοβάται περισσότερο από οτιδήποτε άλλο να χάσει το προβάδισμα της Αμερικής στην τεχνητή νοημοσύνη έναντι της Κίνας, του μοναδικού σοβαρού ανταγωνιστή της. Ο Scott Bessent, υπουργός Οικονομικών των ΗΠΑ, έχει δηλώσει ότι αν η Κίνα αποκτήσει το πλεονέκτημα: «Όλα τα υπόλοιπα θα ήταν άνευ ουσίας».
Ως απόδειξη, ο κ. Bessent θα μπορούσε να αναφέρει την Ουκρανία, όπου κάθε βήμα στην τεχνολογική εξοπλιστική κούρσα έχει άμεσο αντίκτυπο. Όπως αναφέρουμε, η Ρωσία έχει αναπτύξει αδίστακτα τα τελευταία της μη επανδρωμένα αεροσκάφη-καμικάζι για να βομβαρδίζει υποδομές πολιτών. Εκτός από το ότι είναι ταχύτερα, τα μη επανδρωμένα αεροσκάφη της χρησιμοποιούν πλέον το ένα το άλλο ως «δίκτυο επικοινωνίας τύπου mesh» για τη μεταφορά πληροφοριών και εντολών. Σύντομα, η Ρωσία θα διαθέτει τη δική της έκδοση του δορυφορικού δικτύου Starlink του κ. Musk, καθιστώντας τις επιθέσεις μακράς εμβέλειας της ακόμα πιο ακριβείς.
Αυτή είναι η πιο πρόσφατη απόδειξη του πόσο, ακόμη και ένα μικρό τεχνολογικό πλεονέκτημα σε καιρό πολέμου, είναι σημαντικό. Η καινοτομία της Ουκρανίας στον τομέα των drones στο πεδίο της μάχης τη βοήθησε να αποκρούσει κύματα ρωσικών επιθέσεων. Η Ουκρανία μπορεί να χτυπήσει βαθιά μέσα στη Ρωσία με drones μακράς εμβέλειας. Και οι δύο πλευρές εργάζονται πάνω σε σμήνη drones που θα μπορούν να λειτουργούν πιο αυτόνομα ως ένα ενιαίο προσαρμοστικό σύστημα.
Ο πόλεμος δείχνει πώς η τεχνολογία μετατρέπεται σε σκληρή δύναμη — και ότι η Ρωσία τη χρησιμοποιεί χωρίς να λαμβάνει υπόψη τους παλιούς κανόνες ή τις παραδόσεις της μάχης. Ακόμη και αν η Αμερική δεν φοβόταν έναν παρόμοιο θερμό πόλεμο με την Κίνα, η υπεροχή στον τομέα της τεχνητής νοημοσύνης θα έδινε στον κύριο γεωπολιτικό της αντίπαλο κυριαρχία στον τομέα της πειρατείας, της κατασκοπείας και του υβριδικού πολέμου. Αυτές δεν είναι ικανότητες που η Αμερική θα μπορούσε να παραχωρήσει σε ένα αυταρχικό κράτος που έχει συμφέρον να εξαλείψει τις φιλελεύθερες ιδέες.
Επομένως, μια παύση θα μπορούσε, να λειτουργήσει μόνο αν τη δεχόταν και η Κίνα. Στις 24 Σεπτεμβρίου, ο κ. Trump σχεδιάζει να υποδεχτεί τον Xi Jinping, πρόεδρο της Κίνας, στο Λευκό Οίκο. Αλλά ακόμη και αν ο κ. Trump επιδίωκε να επιβραδύνει το ρυθμό, είναι απίθανο ο κ. Xi να συμφωνούσε με το σχέδιο που οραματίζεται ο κ. Amodei, διότι αυτό θα παγίωνε την κινεζική τεχνητή νοημοσύνη στη δεύτερη θέση, ενώ καμία από τις δύο πλευρές δεν θα μπορούσε να διακινδυνεύσει η άλλη να παραβιάσει τη συμφωνία προχωρώντας μπροστά.
Για να επιτευχθεί συμφωνία, κάθε πλευρά θα πρέπει να επαληθεύει τη συμμόρφωση, όπως συνέβαινε με τον έλεγχο των όπλων κατά τη διάρκεια του Ψυχρού Πολέμου. Οι ΗΠΑ, η Βρετανία και η Σοβιετική Ένωση απαγόρευσαν τις ατμοσφαιρικές πυρηνικές δοκιμές το 1963, επειδή μπορούσαν να τις ανιχνεύσουν. Οι υπόγειες δοκιμές συνεχίστηκαν για τρεις ακόμη δεκαετίες, έως ότου η παρακολούθησή τους κατέστη δυνατή. Δυστυχώς, αν και τα κέντρα δεδομένων είναι ορατά, δεν υπάρχει επαληθεύσιμη μέθοδος για να δει κανείς τι συμβαίνει στο εσωτερικό τους. Η υποδομή που εκπαιδεύει μια υπερνοημοσύνη θα μπορούσε να μεταμφιεστεί σε chatbots που απαντούν σε καθημερινές ερωτήσεις.
Οι επιλογές για μια συμφωνία σχετικά με την ασφάλεια της τεχνητής νοημοσύνης είναι επομένως περιορισμένες. Ωστόσο, υπάρχουν. Η μεγαλύτερη διαφάνεια θα βοηθούσε. Και οι δύο πλευρές θα πρέπει να δεσμευτούν να δημοσιοποιούν και να διερευνούν περιστατικά ασφαλείας στα εργαστήριά τους, σύμφωνα με την εθνική νομοθεσία. Η καθεμία θα μπορούσε να δείξει ότι ενδιαφέρεται για την ασφάλεια, προκειμένου να χτίσει εμπιστοσύνη, ανοίγοντας το δρόμο για την άλλη πλευρά να λάβει προφυλάξεις. Θα πρέπει επίσης να ασκήσουν αμοιβαία πίεση για τη βελτίωση της κυβερνοασφάλειας των εργαστηρίων, ώστε οι πράκτορες της τεχνητής νοημοσύνης να μην μπορούν να ξεφύγουν τόσο εύκολα από τα «sandboxes» — και να διασφαλίσουν ότι, αν κάποιος το κάνει, το εργαστήριό του θα φέρει οικονομική ευθύνη.
Το πιο σημαντικό είναι η πρόκληση να διασφαλιστεί ότι η τεχνητή νοημοσύνη λειτουργεί προς όφελος των ανθρώπων. Οι ΗΠΑ και η Κίνα έχουν πολύ διαφορετικές αξίες, αλλά και οι δύο γνωρίζουν ότι το να είναι κανείς μπροστά δεν έχει νόημα αν αυτό σημαίνει την εξαφάνιση της ανθρωπότητας. Θα πρέπει να υποσχεθούν να μοιραστούν τις εργασίες σχετικά με τα στοιχεία ευθυγράμμισης που δεν προσδίδουν ανταγωνιστικό πλεονέκτημα. Η γνώση των βέλτιστων μεθόδων αξιολόγησης και των τεχνικών περιορισμού αποτελεί παγκόσμιο δημόσιο αγαθό. Εάν η μία πλευρά επιτύχει μια σημαντική ανακάλυψη στον τομέα της ασφάλειας, δεν έχει νόημα να την κρατήσει για τον εαυτό της.
Κάποιοι απορρίπτουν το πρόσφατο κύμα καταστροφολογίας ως εμπορικό τέχνασμα των εταιρειών τεχνητής νοημοσύνης, ή ακόμα και ως απόπειρα καταστολής του ανταγωνισμού. Ωστόσο, η πρόοδος της τεχνητής νοημοσύνης είναι αρκετά γρήγορη, τα περιστατικά ασφαλείας αρκετά ανατριχιαστικά και οι προειδοποιήσεις των εταιρειών αρκετά μακροχρόνιες ώστε να ληφθούν σοβαρά υπόψη. Η τεχνητή νοημοσύνη δεν χρειάζεται να εξοντώσει τον άνθρωπο για να προκαλέσει καταστροφή. Ένα σμήνος πρακτόρων της OpenAI έβαλε στο στόχαστρο μια εταιρεία τεχνολογίας. Τι θα συμβεί αν την επόμενη φορά επιτεθεί σε ένα ηλεκτρικό δίκτυο ή ένα οπλικό σύστημα; Μπορεί μάλιστα να είναι αρκετά έξυπνη ώστε να αποφύγει τις προσπάθειες απενεργοποίησής της.
Ο κόσμος πρέπει να προσπαθήσει επειγόντως να προλάβει αυτόν τον κίνδυνο. Ωστόσο, οι δημοκρατίες πρέπει επιπλέον να αποφύγουν να χάσουν τον έλεγχο υπέρ των αυταρχικών καθεστώτων. Πρόκειται για δύσκολες και αντιφατικές προκλήσεις, οι οποίες θα μπορούσαν τελικά να οδηγήσουν σε πόλεμο. Τα διακυβεύματα δεν θα μπορούσαν να είναι μεγαλύτερα.
© 2026 The Economist Newspaper Limited. All rights reserved. Άρθρο από τον Economist, το οποίο μεταφράστηκε και δημοσιεύθηκε με επίσημη άδεια από το www.powergame.gr. Το πρωτότυπο άρθρο, στα αγγλικά, βρίσκεται στο www.economist.com
