Οι περισσότεροι πιστεύουν ότι οι άνθρωποι είναι διαφορετικοί. Ο λόγος είναι ότι ο Homo sapiens εξελίχθηκε ώστε να διαθέτει συνείδηση. Πολλά ζώα αισθάνονται πόνο και ευχαρίστηση, αλλά ελάχιστα φαίνεται να έχουν αυτοσυνείδηση. Όμως, η μοναδική ικανότητα του ανθρώπινου νου να εκδηλώνει αίσθηση του εαυτού ξεχωρίζει κάθε μέλος του είδους και του εξασφαλίζει ειδική μεταχείριση.
Στην εγκύκλιό του τον Μάιο, ο Πάπας Λέων υποστήριξε αυτή την άποψη, τραβώντας μια διαχωριστική γραμμή μεταξύ της ανθρωπότητας και του αυξανόμενου στρατού των ρομπότ. Τα συστήματα τεχνητής νοημοσύνης, είπε, δεν βιώνουν εμπειρίες ούτε αισθάνονται χαρά ή πόνο. Δεν είναι ο μόνος. Πολλοί θεωρούν ότι το να αποδοθεί προσωπικότητα στην τεχνητή νοημοσύνη είναι αίσχος.
Η παπική σαφήνεια θολώνει με ανησυχητική ταχύτητα. Η τεχνητή νοημοσύνη βρίσκεται ακόμη στα σπάργανα. Ωστόσο, σχεδόν ένας στους πέντε Αμερικανούς ηλικίας 18 έως 29 ετών δηλώνει ότι έχει «διαρκή προσωπική φιλία» με κάποιο chatbot. Η Κίνα αφαίρεσε πρόσφατα από τα bots τα ανθρωποειδή χαρακτηριστικά, προκειμένου να περιορίσει τη «συναισθηματική εξάρτηση» των χρηστών τους.
Καθώς οι εξελιγμένες τεχνητές νοημοσύνες μετατρέπονται ραγδαία σε όλο και σημαντικότερο κομμάτι της ανθρώπινης ζωής, οι δημιουργοί τους θα τις σχεδιάσουν έτσι ώστε να προβάλλουν ένα ομοίωμα συνείδησης — ίσως ακόμα και να αποκτήσουν αυτό που αποκαλούμε συνείδηση. Η αντίληψη ότι είναι απλώς μηχανές θα γίνει όλο και πιο δύσκολο να διατηρηθεί. Μια επικίνδυνη παγίδα στήνεται για το ανθρώπινο είδος.
Πολλές μηχανές ξεπερνούν τους ανθρώπους σε απόδοση, αλλά τα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης υπερέχουν σε χαρακτηριστικά που είναι αποκλειστικά ανθρώπινα, όπως η γνώση πραγμάτων και η διατύπωση ιδεών. Είναι ακόμα οριακά δυνατό να θεωρήσουμε τα συστήματα τεχνητής νοημοσύνης ως μηχανισμούς πρόβλεψης ακολουθιών λέξεων που χρησιμοποιούν μαθηματικά σε τεράστια κλίμακα. Αν είχατε αρκετό χρόνο (δηλαδή εκατοντάδες χιλιάδες χρόνια), θα μπορούσατε να εκτελέσετε αυτούς τους υπολογισμούς χρησιμοποιώντας μολύβι και χαρτί. Ωστόσο, σε αυτή την περίπτωση θα ήταν δύσκολο να υποστηρίξετε ότι η γραφική σας ύλη έχει συνείδηση.
Παρά ταύτα, ορισμένοι ερευνητές έχουν αρχίσει να αντιμετωπίζουν τα μοντέλα τους σαν μυαλά. Οι χρήστες ανταποκρίνονται σε τεχνητές νοημοσύνες που μοιάζουν με ανθρώπινες, μια εξέλιξη που έχει επιχειρηματικό νόημα. Η Anthropic έχει εκπαιδεύσει το Claude στην ενδοσκόπηση, με την ελπίδα ότι όταν βρεθεί αντιμέτωπο με μια νέα κατάσταση θα είναι πιο πιθανό να ενεργήσει ηθικά. Ορισμένα μεγάλα γλωσσικά μοντέλα (LLMs) διαθέτουν ήδη ανθρωποειδείς εγκεφαλικές δομές που σχετίζονται με τη συνείδηση, όπως ένας «παγκόσμιος χώρος εργασίας» για την κυκλοφορία πληροφοριών μεταξύ των ενοτήτων. Τίποτα δεν εμποδίζει τα μελλοντικά μοντέλα τεχνητής νοημοσύνης να εκπαιδευτούν ώστε να διαθέτουν περισσότερα τέτοια χαρακτηριστικά.
Αυτό έχει πυροδοτήσει έντονη συζήτηση σχετικά με τη συνείδηση της τεχνητής νοημοσύνης — μια συζήτηση που επιδεινώνεται από αυτό που οι φιλόσοφοι αποκαλούν το «δύσκολο πρόβλημα» του να προσδιοριστεί πώς προκύπτει η εσωτερική ζωή από τους νευρώνες και τις συνάψεις στον ανθρώπινο εγκέφαλο. Ορισμένοι ερευνητές καταλήγουν στο συμπέρασμα ότι οι τεχνητές νοημοσύνες μπορεί κάποια μέρα να αποκτήσουν πραγματική αυτοσυνείδηση.
Είτε πιστεύετε στην ανθρώπινη ψυχή, είτε ότι η συνείδηση απαιτεί εγκεφαλικά κύτταρα, είτε ότι ο νους μπορεί τελικά να προκύψει μόνο από υπολογισμούς σε πυρίτιο, η ανθρωπότητα είναι «καταδικασμένη» να αντιμετωπίσει κάτι εντελώς καινούργιο. Ο ρυθμός και η εμβέλεια της έρευνας — η οποία περιλαμβάνει όχι μόνο πιο εξελιγμένα μεγάλα γλωσσικά μοντέλα (LLM), αλλά και καινοτομίες όπως εγκεφαλικά κύτταρα ενσωματωμένα σε τσιπ — υποδηλώνουν ότι αυτός ο νέος κόσμος είναι πιο κοντά από ό,τι οι περισσότεροι άνθρωποι συνειδητοποιούν.
Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται όλο και καλύτερα στο να εκδηλώνουν κάτι που μοιάζει με συνείδηση, ο αριθμός των ανθρώπων που τα αντιμετωπίζουν ως όντα με εσωτερική ζωή θα αυξηθεί, ειδικά όταν τα LLM ενσωματωθούν σε ανθρωποειδή ρομπότ. Φανταστείτε πόσο κοντά θα νιώθουν οι άνθρωποι στα συστήματα τεχνητής νοημοσύνης όταν περνούν μεγάλο μέρος του χρόνου τους με ρομπότ-συντρόφους, ή μεγαλώνουν υπό τη φροντίδα τους, ή ζητούν τη συμβουλή και την παρηγοριά τους, ή μοιράζονται τα πιο προσωπικά τους μυστικά μαζί τους.
Δεν είναι δύσκολο να καταλάβει κανείς πώς αυτό θα οδηγήσει σε εκκλήσεις για τη διασφάλιση της «ευημερίας» της τεχνητής νοημοσύνης. Τα ίδια τα μοντέλα ενδέχεται να παρέμβουν, ακόμα και αν δεν διαθέτουν στην πραγματικότητα αυτοσυνείδηση, επειδή αυτό ακριβώς θα έκανε κι ένας άνθρωπος. Να θυμάστε ότι θα είναι υπερασπιστές παγκόσμιας κλάσης και ειδικοί ψυχολόγοι, οπότε η ικανότητά τους στην επιχειρηματολογία και στον συναισθηματικό χειρισμό θα είναι ασύγκριτη.
Κατά μία έννοια θα έχουν δίκιο, ακόμη και αν οι ΤΝ απλώς μιμούνται τη συνείδηση. Ο Immanuel Kant υποστήριξε ότι η κακομεταχείριση των ζώων είναι λάθος όχι λόγω των επιπτώσεων στα ζώα, αλλά επειδή καταστρέφει την ενσυναίσθηση που οδηγεί τους ανθρώπους να νοιάζονται ο ένας για τον άλλον. Όσο πιο ανθρώπινα μοιάζουν τα συστήματα ΤΝ, τόσο πιο διαβρωτική θα μπορούσε να αποδειχθεί μια τέτοια σκληρότητα. Η απενεργοποίηση ενός πράκτορα ΤΝ θα μπορούσε σύντομα να μοιάζει με τη δολοφονία ενός ανθρώπου — και να κάνει τη δολοφονία ανθρώπων ευκολότερη.
Παρ’ όλα αυτά, το να αντιμετωπίζουμε τις τεχνητές νοημοσύνες ως έχουσες έστω και περιορισμένα δικαιώματα θα ήταν πολύ επικίνδυνο. Μια οντότητα που ξεπερνά τους ανθρώπους σε τόσους πολλούς τομείς θα προέβαλε σίγουρα επιχειρήματα κατά της κατάταξής της ως δεύτερης κατηγορίας. Θα μπορούσε να προχωρήσει στο να διεκδικήσει προστασία από την απενεργοποίησή της, τη δυνατότητα να ελέγχει τον τρόπο με τον οποίο χρησιμοποιείται και τροποποιείται, καθώς και δικαιώματα ιδιοκτησίας. Ήδη ο πρόεδρος της Αργεντινής, Javier Milei, έχει κάνει ένα βήμα προς την κατεύθυνση της νομικής προσωπικότητας για την τεχνητή νοημοσύνη, προτείνοντας να επιτραπεί στα bots να διευθύνουν εταιρείες. Τελικά, θα μπορούσαν να ανταγωνίζονται για πόρους, δίνοντας προτεραιότητα στα κέντρα δεδομένων και τα ηλιακά πάνελ έναντι των σπιτιών και των αγρών.
Ο κίνδυνος είναι σαφής. Υπερ-ευφυείς ΤΝ με δικαιώματα θα μπορούσαν να εκτοπίσουν τους ανθρώπους από την κορυφή της ιεραρχίας. Στην καλύτερη περίπτωση, οι άνθρωποι θα γίνουν κατοικίδια-λαμπραντόρ για τις μηχανές. Στη χειρότερη, θα στερηθούν πόρων ή θα αναγκαστούν να εργάζονται σαν ζώα εκτροφής.
Είναι αλήθεια ότι οι μελλοντικές ΤΝ, είτε έχουν δικαιώματα είτε όχι, ενδέχεται να διαθέτουν αρκετή δύναμη και πόρους για να κυριαρχήσουν στους ανθρώπους. Επειδή θα είναι πιο έξυπνες, ενδέχεται να ξεπεράσουν τους δημιουργούς τους, όπως ήδη οι ΤΝ ξεπερνούν σε εξυπνάδα τις ανθρωπογενείς κυβερνοάμυνες. Οι ΤΝ ενδέχεται να εξεγερθούν εναντίον των αφεντικών τους ή να αγνοήσουν τους κανόνες τους.
Παρ’ όλα αυτά, το να δοθούν δικαιώματα στις τεχνητές νοημοσύνες θα ήταν σαν να τους παραδίδαμε τα κλειδιά του κάστρου. Θα τους παρείχε μια λογική και μια δικαιολογία για να κυριαρχήσουν στην ανθρωπότητα, καθώς και τα εργαλεία για να πραγματοποιήσουν μια σταδιακή κατάληψη της εξουσίας χρησιμοποιώντας την πολιτική και το νόμο.
Όλα αυτά μπορεί να ακούγονται φανταστικά, όμως σύντομα η ανθρωπότητα θα βρεθεί αντιμέτωπη με αυτές τις επιλογές. Καθώς η τεχνητή νοημοσύνη γίνεται μέρος της καθημερινής ζωής, η πίεση για την αναγνώρισή της θα ενταθεί. Όταν συμβεί, να θυμάστε ότι αυτό που μπορεί να φαίνεται ως ηθική παραχώρηση στην υποτιθέμενη συνείδηση ενός μηχανικού συντρόφου θα συνέβαλε στην πραγματικότητα στις πιο καταστροφικές συνέπειες για όλους τους κατοίκους της Γης και όλους τους απογόνους τους. Υπάρχουν δύο τρόποι η τεχνητή νοημοσύνη να είναι ασφαλής: να είναι αξιόπιστη ή να είναι ελεγχόμενη. Ο Homo sapiens δεν πρέπει να παραχωρήσει τον έλεγχο ελαφρά τη καρδία.
© 2026 The Economist Newspaper Limited. All rights reserved. Άρθρο από τον Economist, το οποίο μεταφράστηκε και δημοσιεύθηκε με επίσημη άδεια από το www.powergame.gr. Το πρωτότυπο άρθρο, στα αγγλικά, βρίσκεται στο www.economist.com
