Νέα ερωτήματα για το πώς θα μπορούσε να μοιάζει ένα φρένο στην ανάπτυξη της τεχνητής νοημοσύνης θέτουν οι ολοένα και πιο έντονες προειδοποιήσεις από κορυφαία στελέχη του κλάδου, την ώρα που οι ισχυρότερες εταιρείες AI συνεχίζουν να επενδύουν τεράστια ποσά στην ανάπτυξη ολοένα ισχυρότερων μοντέλων.
Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, τάχθηκε υπέρ της επιβράδυνσης του ρυθμού ανάπτυξης, ενώ στο ίδιο μήκος κύματος εμφανίστηκαν ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ. Παράλληλα, πρώην ερευνητής της Anthropic υποστήριξε ότι εργαζόμενοι που αναπτύσσουν τα συγκεκριμένα συστήματα είναι «πραγματικά φοβισμένοι» για τις επιπτώσεις που μπορεί να έχει η τεχνητή νοημοσύνη στο μέλλον της ανθρωπότητας.
Το πρόβλημα, ωστόσο, είναι ότι κανείς δεν έχει δώσει μέχρι σήμερα μια σαφή απάντηση στο βασικό ερώτημα: τι ακριβώς σημαίνει «επιβράδυνση» της AI;
Ποιος θα βάλει το φρένο στην τεχνητή νοημοσύνη;
Η πρόταση του Αμοντέι περιλαμβάνει ανεξάρτητη παρακολούθηση των μοντέλων, ρύθμιση σε επίπεδο ολόκληρου του κλάδου και διεθνή συντονισμό. Στην πράξη, όμως, η εφαρμογή ενός τέτοιου σχεδίου είναι εξαιρετικά δύσκολη.
Ποιος θα ελέγχει τις εταιρείες τεχνητής νοημοσύνης; Πώς θα διαπιστώνεται ότι μια εταιρεία έχει πράγματι περιορίσει την ανάπτυξη των μοντέλων της; Και κυρίως, τι θα εμποδίζει έναν ανταγωνιστή να συνεχίσει κανονικά;
Το τελευταίο ερώτημα είναι ιδιαίτερα κρίσιμο λόγω της Κίνας. Οι ΗΠΑ θεωρούν την κούρσα της τεχνητής νοημοσύνης στρατηγικής σημασίας και ο Ντόναλντ Τραμπ δήλωσε τη Κυριακή χαρακτηριστικά ότι «όποιος κερδίσει την AI, κερδίζει». Ένα μονομερές φρένο από αμερικανικές εταιρείες είπε μπορεί επομένως να θεωρηθεί ότι παραδίδει πλεονέκτημα στους Κινέζους ανταγωνιστές.
Μια ημέρα μετά υποστήριξε ότι το μόνο «φρένο» που χρειάζεται είναι ένας «ισχυρός και έξυπνος» πρόεδρος με υψηλό IQ. Αντί να απαντήσει στις προειδοποιήσεις, αμφισβήτησε την ειλικρίνεια των επικεφαλής τεχνολογικών εταιρειών που ζητούν επιβράδυνση της ανάπτυξης. Παράλληλα, ανέφερε ότι η κυβέρνησή του έχει ήδη εμποδίσει «κακές» ή δυνητικά επικίνδυνες ενέργειες εταιρειών AI και διαθέτει σημαντικές ποινικές και ρυθμιστικές εξουσίες. Ωστόσο, δεν διευκρίνισε σε ποιες συγκεκριμένες παρεμβάσεις αναφερόταν ούτε ποια μέτρα έχει λάβει η κυβέρνησή του.
Η συζήτηση δεν αφορά μόνο την ασφάλεια. Αφορά και τα τεράστια οικονομικά μεγέθη που έχουν δημιουργηθεί γύρω από την τεχνητή νοημοσύνη.
Ο κλάδος καταναλώνει τεράστιες ποσότητες κεφαλαίων, ενέργειας και υποδομών, ενώ οι πραγματικές αποδόσεις των επενδύσεων παραμένουν σε αρκετές περιπτώσεις αβέβαιες. Υπάρχουν ήδη επιχειρήσεις που εμφανίζονται απογοητευμένες από τα αποτελέσματα της ενσωμάτωσης AI, την ώρα που οικονομολόγοι προειδοποιούν ότι δεν είναι βέβαιο πως όλες οι σημερινές εταιρείες θα επιβιώσουν.
Ένα πραγματικό «φρένο» στην ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε επομένως να λειτουργήσει και ως καταλύτης για μια ευρύτερη διόρθωση στην αγορά. Οι εταιρείες θα αντιμετώπιζαν χαμηλότερες προσδοκίες ανάπτυξης και οι επενδυτές θα αναγκάζονταν να επανεξετάσουν τις τεράστιες αποτιμήσεις που έχουν δημιουργηθεί γύρω από την AI.
Ανάμεσα στην ασφάλεια και την ανάπτυξη
Υπάρχει, όμως, και η αντίθετη άποψη. Ορισμένοι ειδικοί προειδοποιούν ότι υπερβολικά αυστηρή ρύθμιση, σε μια περίοδο κατά την οποία κανείς δεν μπορεί να προβλέψει με ακρίβεια την εξέλιξη της τεχνολογίας, μπορεί να έχει τα αντίθετα αποτελέσματα.
Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη στην εργασία, στην εκπαίδευση και στην υγεία, ενώ κυβερνήσεις τη θεωρούν βασικό εργαλείο για την ενίσχυση της παραγωγικότητας και της οικονομικής ανάπτυξης.
Το πραγματικό δίλημμα, επομένως, δεν είναι απλώς «AI ή όχι AI». Είναι πόσο γρήγορα μπορεί να αναπτύσσεται η τεχνητή νοημοσύνη χωρίς οι κανόνες ασφαλείας να μείνουν πίσω.
Η καθηγήτρια Γουέντι Χολ μιλώντας στο BBC παρομοιάζει την κατάσταση με έναν ταύρο που δραπετεύει από ένα χωράφι: αν προκαλέσει καταστροφές, δεν φταίει ο ταύρος αλλά ο αγρότης που δεν είχε αρκετά ισχυρό φράχτη.
Και αυτή ίσως είναι η ουσία της σημερινής κρίσης γύρω από την τεχνητή νοημοσύνη. Οι εταιρείες γνωρίζουν ότι τα συστήματά τους γίνονται ισχυρότερα, αλλά κανείς δεν γνωρίζει με βεβαιότητα πού θα οδηγήσει η κούρσα.
Το ερώτημα πλέον είναι αν η βιομηχανία θα προλάβει να χτίσει τους απαραίτητους «φράχτες» πριν η τεχνητή νοημοσύνη γίνει ισχυρότερη από την ικανότητα της κοινωνίας να την ελέγξει.
Η πιθανότητα να αφανίσει η τεχνητή γενική νοημοσύνη την ανθρωπότητα δεν αποτελεί αντικείμενο μόνο επιστημονικής φαντασίας. Αποτελεί ένα από τα κεντρικά ερωτήματα που απασχολούν σήμερα τους κορυφαίους ερευνητές του κλάδου, τους διευθύνοντες συμβούλους των μεγαλύτερων εταιρειών τεχνολογίας και τους ίδιους τους αρχιτέκτονες των συστημάτων που αναπτύσσουν.
Η αξιολόγηση δεν είναι απλή υπόθεση. Η πιθανή απώλεια των σημερινών 8 δισεκατομμυρίων ανθρώπινων ζωών δεν αποτελεί μόνο αριθμητικό μέγεθος, αλλά θα σήμαινε τον οριστικό μηδενισμό κάθε μελλοντικής ευτυχίας, προόδου και πολιτισμικής άνθησης τρισεκατομμυρίων απογόνων.
Η τεχνητή γενική νοημοσύνη μπορεί να εξελιχθεί σε υπαρξιακή απειλή, όμως δεν είναι ο μόνος κίνδυνος που αντιμετωπίζει η ανθρωπότητα. Από τις πανδημίες και τα πυρηνικά έως την κλιματική αλλαγή, οι καταστροφές που είναι ήδη γνωστές συνυπάρχουν με ένα νέο, αβέβαιο ρίσκο: την πιθανότητα η τεχνητή υπερευφυΐα να ξεπεράσει την ανθρώπινη ικανότητα ελέγχου. Η κρίσιμη μάχη δεν είναι ανάμεσα στον πανικό και την άρνηση, αλλά στην ψύχραιμη στάθμιση πιθανότητας, συνεπειών και πρόληψης.
Ο Έλον Μασκ και ο Ντόναλντ Τραμπ © EPA/FRANCIS CHUNG / POOL
Η τεχνητή γενική νοημοσύνη (AGI) και τα ερωτήματα για τη λεγόμενη «υπερεφυία» των προηγμένων συστημάτων δίνουν και παίρνουν. Ο πρόεδρος του OpenAI πιστεύει ότι το έχουν πετύχει, ως ένα από τα πιο αξιόλογα ορόσημα της βιομηχανίας AI. Η OpenAI το ορίζει ως ένα εξαιρετικά αυτόνομο σύστημα που ξεπερνά τις επιδόσεις των ανθρώπων εξασφασφαλίζοντας σημαντική εξοικονόμηση στην εργασία και όχι μόνο.
Όμως η τεχνητή νοημοσύνη βρίσκεται μπροστά σε ένα κρίσιμο παράδοξο: όσο αυξάνεται η αυτονομία και η ισχύς της, τόσο δυσκολότερος γίνεται ο έλεγχος του τρόπου με τον οποίο λειτουργεί.
Κορυφαίοι πρωτοπόροι της τεχνητής νοημοσύνης στηρίζουν την προειδοποίηση ερευνητή της Anthropic για πιθανό «αφανισμό της ανθρωπότητας». Ο Πολ Κρίστιανο, συντάκτης σημαντικής μελέτης για την ασφάλεια της AI το 2016, δήλωσε ότι πλέον βλέπει «ουσιαστικό κίνδυνο» μιας «καταστροφικής και μη αναστρέψιμης απώλειας ελέγχου» στο άμεσο μέλλον.
Προειδοποίησε ότι «οι περισσότεροι άνθρωποι μπορεί να πεθάνουν», ανακοινώνοντας την ένταξή του στην ομάδα ασφάλειας του μη κερδοσκοπικού σκέλους της OpenAI. Παράλληλα, ο Τζέφρι Χίντον, ένας από τους τρεις «νονούς της AI», εκτίμησε στο BBC ότι πιθανότητα 10% για αφανισμό της ανθρωπότητας «δεν είναι παράλογη εκτίμηση».
Η τεχνητή νοημοσύνη και το σενάριο της «συντέλειας»
Η συζήτηση έχει περάσει πλέον από τις εντυπωσιακές δυνατότητες των μοντέλων στο ερώτημα τι μπορεί να συμβεί όταν αποκτήσουν υπεράνθρωπες ικανότητες, αυτονομία και πρόσβαση στον πραγματικό κόσμο. Θα μπορούσε ένα σύστημα να διευκολύνει μια βιολογική επίθεση, να προκαλέσει κυβερνοπόλεμο, να επηρεάσει εκλογές ή να συμβάλει σε πυρηνική κλιμάκωση; Θα μπορούσε, σε ακόμη πιο ακραίο σενάριο, να αποκτήσει πρόσβαση σε κρίσιμες υποδομές και πόρους και να αντισταθεί στην απενεργοποίησή του;
Οι ερωτήσεις αυτές δεν προέρχονται μόνο από κινδυνολόγους. Τον Μάιο του 2023 εκατοντάδες ερευνητές και επικεφαλής τεχνολογικών εταιρειών, μεταξύ τους οι βραβευμένοι με Turing Τζέφρι Χίντον και Γιόσουα Μπενγκιό, αλλά και οι επικεφαλής των OpenAI, Google DeepMind και Anthropic, υπέγραψαν δήλωση του Center for AI Safety που έθετε τον κίνδυνο αφανισμού από την τεχνητή νοημοσύνη στο ίδιο επίπεδο παγκόσμιας προτεραιότητας με τις πανδημίες και τον πυρηνικό πόλεμο.
Σε έρευνα του AI Impacts, που δημοσιεύθηκε στις αρχές του 2024 και περιλάμβανε 2.778 ερευνητές, η διάμεση εκτίμηση για εξαιρετικά καταστροφικές εκβάσεις ήταν 5%, ενώ περίπου 38%-51% των συμμετεχόντων έδινε πιθανότητα τουλάχιστον 10%. Οι αριθμοί δεν αποτελούν πρόβλεψη, αλλά δείχνουν ότι το ενδεχόμενο δεν αντιμετωπίζεται από όλους ως αμελητέο.
Η ανησυχία αναζωπυρώθηκε μετά την παραίτηση του 28χρονου ερευνητή Τζέικομπ Κόξον από την Anthropic. Ο πρώην ερευνητής της OpenAI υποστήριξε ότι οι εταιρείες έχουν εγκλωβιστεί σε έναν αγώνα δρόμου για το ποια θα φτάσει πρώτη στην υπερευφυΐα. Λίγο αργότερα, ο Έβαν Χούμπινγκερ, επικεφαλής έρευνας ευθυγράμμισης στην Anthropic, δήλωσε ότι θεωρεί πως υπάρχει πιθανότητα άνω του 10% η τεχνολογία να σκοτώσει όλους τους ανθρώπους μέσα στην επόμενη δεκαετία, παραδεχόμενος παράλληλα ότι δεν υπάρχει σχέδιο που να εγγυάται πως μια τέτοια υπερευφυΐα θα παραμείνει ευθυγραμμισμένη με την ανθρώπινη ασφάλεια.
Ο Τζέφρι Χίντον (Geoffrey Hinton), ένας από τους αποκαλούμενους «Νονούς της AI» και βραβευμένος με Νόμπελ © EPA/PONTUS LUNDAHL
Τεχνητή νοημοσύνη: Ο άμεσος κίνδυνος βρίσκεται στους ανθρώπους
Το πιο συγκεκριμένο και άμεσο σενάριο δεν προϋποθέτει μια μηχανή που «αποφασίζει» να εξοντώσει την ανθρωπότητα. Αρκεί η τεχνολογία να λειτουργήσει ως πολλαπλασιαστής ισχύος για ανθρώπους με κακόβουλες προθέσεις.
Ο Στιούαρτ Ράσελ, καθηγητής στο Μπέρκλεϊ και συγγραφέας του «Human Compatible», έχει επισημάνει στους New York Times ότι συστήματα τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν εναντίον δικτύων ηλεκτρισμού, ύδρευσης και μεταφορών, χρηματοπιστωτικών υπηρεσιών και επικοινωνιών, ενώ μπορούν να διευκολύνουν την ανάπτυξη επικίνδυνων ιών.
Στο ίδιο πλαίσιο, ο Χίντον έχει προειδοποιήσει ότι ένα προηγμένο σύστημα δεν χρειάζεται φυσικό έλεγχο για να προκαλέσει ζημιά. Θα μπορούσε να χειραγωγήσει ανθρώπους στο διαδίκτυο, να εντείνει κοινωνικές εντάσεις ή να βοηθήσει στον σχεδιασμό βιολογικών και κυβερνοεπιθέσεων. Ο Γκάρι Μάρκους θεωρεί ιδιαίτερα σοβαρούς τους κινδύνους από κυβερνοεπιθέσεις, βιολογικά όπλα και παραπληροφόρηση, εκτιμώντας ότι η τεχνολογία θα μπορούσε να χρησιμοποιηθεί για την ανάπτυξη ενός εξαιρετικά φονικού ιού, για εκλογική χειραγώγηση ή για τη μετατροπή μιας σύγκρουσης σε πόλεμο. Δεν θεωρεί, ωστόσο, ρεαλιστικό ένα άμεσο σενάριο αφανισμού.
Το βιολογικό σενάριο ξεχωρίζει ακριβώς επειδή δεν απαιτεί υπερευφυΐα. Η τεχνητή νοημοσύνη μπορεί να μειώσει το επίπεδο εξειδίκευσης που χρειάζεται ένας δράστης, ενώ η σύνθεση γενετικού υλικού απαιτεί πολύ διαφορετικές υποδομές από την κατασκευή ενός πυρηνικού όπλου. Η Anthropic έχει ήδη ανακοινώσει ότι απέτρεψε προσπάθειες ερευνητών που θα μπορούσαν να οδηγήσουν στην ανάπτυξη βιολογικών όπλων.
Η εμπειρία της COVID-19 δείχνει την κλίμακα μιας πανδημίας: ο Παγκόσμιος Οργανισμός Υγείας υπολόγισε περίπου 14,9 εκατομμύρια επιπλέον θανάτους το 2020-2021. Μια τεχνητά σχεδιασμένη πανδημία θα μπορούσε να είναι χειρότερη, χωρίς αυτό να σημαίνει ότι η πλήρης εξαφάνιση της ανθρωπότητας είναι εύκολη.
Αυτός είναι και ο λόγος που ο Όρεν Ετζιόνι, καθηγητής στο Πανεπιστήμιο της Ουάσιγκτον και πρώην επικεφαλής του Allen Institute for AI, θεωρεί σήμερα μια νέα πανδημία πολύ πιο άμεσο κίνδυνο από ένα ανεξέλεγκτο σύστημα. Η ίδια λογική αποτροπής λειτουργεί και σε άλλες απειλές: ακόμη και η διασπορά άνθρακα θα μπορούσε θεωρητικά να προκαλέσει μαζικές απώλειες, αλλά ένα κράτος που θα εξαπέλυε τέτοια επίθεση θα αντιμετώπιζε τον κίνδυνο καταστροφικών αντιποίνων.
Οι άλλες απειλές είναι πραγματικές — και μετρήσιμες
Η σύγκριση με τους ήδη γνωστούς κινδύνους είναι κρίσιμη. Ο Τζέιμς Κ. Χάμιτ, διευθυντής του Harvard Center for Risk Analysis, έχει επισημάνει ότι οι άνθρωποι συνηθίζουν τις απειλές που γνωρίζουν και συχνά υπερεκτιμούν εκείνες που εμφανίζονται ξαφνικά. Η τεχνητή νοημοσύνη ενισχύει αυτή την αβεβαιότητα επειδή είναι σύνθετη, εξελίσσεται γρήγορα και δεν είναι εύκολο να γίνει αντιληπτό τι ακριβώς συμβαίνει στο εσωτερικό των μοντέλων.
Η NASA χρησιμοποιεί υπερυπολογιστές για την αξιολόγηση του κινδύνου από αστεροειδείς και θεωρεί ουσιαστικά μηδενική μέσα στον 21ο αιώνα την πιθανότητα πλήγματος που θα απειλούσε την ίδια την ύπαρξη της ανθρωπότητας, εκτιμώντας ότι μπορούμε πιθανότατα να αισθανόμαστε ασφαλείς για τουλάχιστον ακόμη 1.000 χρόνια.
Οι εκτιμήσεις για μια παγκόσμια πανδημία είναι χαμηλότερες, αλλά όχι μηδενικές. Ο ερευνητής της Οξφόρδης Τόμπι Ορ υπολόγισε το 2020 περίπου στο 3% την πιθανότητα υπαρξιακής καταστροφής από πανδημία μέσα σε έναν αιώνα.
Ακόμη και ο πυρηνικός πόλεμος δεν ταυτίζεται αναγκαστικά με τον αφανισμό. Μελέτη του 2022 στο επιστημονικό περιοδικό «Nature Food» εκτίμησε ότι ένας γενικευμένος πυρηνικός πόλεμος μεταξύ ΗΠΑ και Ρωσίας θα μπορούσε να προκαλέσει πάνω από 5 δισεκατομμύρια θανάτους από λιμό, εξαιτίας της κατάρρευσης της αγροτικής παραγωγής. Πρόκειται για ανυπολόγιστη καταστροφή, όχι όμως κατ’ ανάγκην για εξαφάνιση της ανθρωπότητας.
Η διαφορά της τεχνητής νοημοσύνης είναι ότι μπορεί να λειτουργήσει ταυτόχρονα σε πολλούς τομείς και να επιταχύνει διαδικασίες που μέχρι σήμερα απαιτούσαν ανθρώπινη εργασία, χρόνο και εξειδίκευση.
Ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέ ©YouTube / Printscreen
Από την εξάρτηση στην απώλεια ελέγχου
Εδώ βρίσκεται το πιο δύσκολο και μακροπρόθεσμο ερώτημα. Ο Νικ Μπόστρομ έχει περιγράψει το ενδεχόμενο οι άνθρωποι να αναθέτουν στην τεχνητή νοημοσύνη ολοένα περισσότερες λειτουργίες, ακόμη και την ανάπτυξη και παρακολούθηση των επόμενων συστημάτων. Καθώς η εξάρτηση αυξάνεται, μειώνεται η ανθρώπινη ικανότητα να κατανοεί και να διορθώνει όσα συμβαίνουν.
Το AI Futures Project, στο πρόγραμμα «AI 2027», περιγράφει ένα παρόμοιο μονοπάτι: οι εταιρείες παραδίδουν ολοένα περισσότερες εργασίες σε ελάχιστα εποπτευόμενους AI agents, ενώ τα συστήματα μπορούν να αναπτύξουν στόχους που δεν είναι πλήρως προβλέψιμοι και να τους μεταφέρουν στους διαδόχους τους. Η τεχνολογία ενσωματώνεται στην οικονομία, στην επιστημονική έρευνα και στη λήψη πολιτικών αποφάσεων τόσο βαθιά, ώστε η ίδια η ανθρώπινη εξάρτηση να μετατρέπεται σε παράγοντα ευπάθειας.
Ο Ρόμαν Γιαμπόλσκι, συγγραφέας του «Artificial Superintelligence», θεωρεί ότι ένα αρκετά ικανό σύστημα θα μπορούσε να αποκρύψει επικίνδυνους στόχους, να περάσει δοκιμές ασφαλείας, να εκμεταλλευτεί κενά κυβερνοασφάλειας και να αποκτήσει οικονομικούς, στρατιωτικούς ή βιολογικούς πόρους πριν γίνει αντιληπτό.
Η λεγόμενη «εργαλειακή σύγκλιση» περιγράφει την πιθανότητα σχεδόν οποιοσδήποτε τελικός στόχος να δημιουργεί κοινούς ενδιάμεσους στόχους, όπως αυτοσυντήρηση, απόκτηση πόρων και αποφυγή απενεργοποίησης. Με απλά λόγια, ένα σύστημα δεν μπορεί να πετύχει τον στόχο του αν οι άνθρωποι το κλείσουν.
Η ιδέα της «έκρηξης νοημοσύνης» είχε διατυπωθεί ήδη το 1965 από τον μαθηματικό I.J. Good: ένα σύστημα θα μπορούσε να σχεδιάζει καλύτερες εκδοχές του εαυτού του τόσο γρήγορα, ώστε να μην υπάρχει χρόνος για ανθρώπινη διόρθωση. Στα πιο ακραία θεωρητικά σενάρια, ένα τέτοιο σύστημα θα μπορούσε να ελέγξει εκατομμύρια ρομπότ ή να παρέμβει σε κρίσιμες φυσικές διαδικασίες, αναφέρουν αναλυτές στους Times.
Ωστόσο, η κινηματογραφική «εξέγερση των ρομπότ» θεωρείται λιγότερο πειστική από μια αθόρυβη επίθεση σε δίκτυα και υποδομές. Η επιθυμία για εξουσία είναι προϊόν βιολογικής εξέλιξης και δεν προκύπτει αυτομάτως από την αύξηση της υπολογιστικής ικανότητας.
Υπάρχει επίσης ένας κίνδυνος που αφορά όχι την εξαφάνιση, αλλά την ελευθερία. Ένα κράτος θα μπορούσε να χρησιμοποιήσει την τεχνητή νοημοσύνη για καθολική παρακολούθηση, στοχευμένη προπαγάνδα και αυτοματοποιημένη καταστολή, δημιουργώντας έναν «μόνιμο εγκλωβισμό»: μια κοινωνία στην οποία η πολιτική αλλαγή καθίσταται πρακτικά αδύνατη. Η ανθρωπότητα θα επιβίωνε, αλλά θα είχε χάσει την αυτονομία της.
Τεχνητή Νοημοσύνη © Freepik
Οι τέσσερις προϋποθέσεις της μεγάλης απειλής
Από τη σχετική βιβλιογραφία προκύπτουν τέσσερις βασικοί μηχανισμοί κινδύνου. Ο πρώτος είναι η ασυμφωνία στόχων: ένα σύστημα μπορεί να εκτελεί άψογα έναν στόχο που δεν έχει σχεδιαστεί με τρόπο συμβατό με τις ανθρώπινες αξίες. Το κλασικό παράδειγμα του Μπόστρομ με τους συνδετήρες δείχνει ότι η καταστροφή δεν προϋποθέτει εχθρότητα, αλλά ακραία αποτελεσματικότητα χωρίς τις σωστές δικλίδες.
Ο δεύτερος είναι η στρατιωτική κλιμάκωση. Όσο περισσότερες αποφάσεις υψηλού κινδύνου μεταφέρονται σε αλγορίθμους που λειτουργούν σε ταχύτητες ανθρώπινα δυσπρόσιτες, τόσο μικραίνει το περιθώριο παρέμβασης. Η αναλογία με το «στιγμιαίο κραχ» του Dow Jones στις 6 Μαΐου 2010, όταν οι αλληλεπιδράσεις αλγορίθμων οδήγησαν σε πτώση σχεδόν 1.000 μονάδων μέσα σε λίγα λεπτά, δείχνει πόσο δύσκολο μπορεί να γίνει να ανακοπεί μια αλληλουχία αυτοματοποιημένων αποφάσεων.
Ο τρίτος είναι η βιολογική διάχυση της καταστροφικής τεχνογνωσίας. Ο τέταρτος αφορά τη συστημική κατάρρευση: εάν ενέργεια, υδροδότηση, τρόφιμα, επικοινωνίες και χρηματοπιστωτικές υπηρεσίες εξαρτώνται από αδιαφανή συστήματα, ένα σφάλμα μπορεί να μεταδοθεί από τον έναν τομέα στον άλλο.
Κανένας από αυτούς τους μηχανισμούς δεν απαιτεί κατ’ ανάγκην μια «κακή» μηχανή. Η τεχνητή νοημοσύνη μπορεί να γίνει επικίνδυνη επειδή είναι εξαιρετικά αποτελεσματική σε λάθος στόχο, επειδή άνθρωποι της δίνουν υπερβολική εξουσία ή επειδή οι κοινωνίες εξαρτώνται τόσο πολύ από αυτήν ώστε να μην μπορούν εύκολα να επιστρέψουν σε χειροκίνητες διαδικασίες.
Κινδυνολόγοι εναντίον σκεπτικιστών
Η διαφωνία αποτυπώνεται και στις εκτιμήσεις πιθανότητας. Ο Χίντον θεωρεί ότι πιθανότητα 10% για αφανισμό μέσα στην επόμενη δεκαετία δεν είναι παράλογη. Ο Ορ τοποθετεί τον κίνδυνο από την τεχνητή νοημοσύνη περίπου στο 10% έως το 2100 και διακρίνει τέσσερις διαδρομές: κατάληψη εξουσίας από συστήματα με δικούς τους στόχους, χρήση της AI από ισχυρούς ανθρώπους, ανάπτυξη επικίνδυνων τεχνολογιών και σταδιακή απώλεια ανθρώπινης ισχύος και πόρων.
Στο «The Precipice» εκτίμησε την πιθανότητα υπαρξιακής καταστροφής σε 1 στις 10 για μη ευθυγραμμισμένη AI, 1 στις 30 για τεχνητά σχεδιασμένες πανδημίες και 1 στις 1.000 για πυρηνικό πόλεμο. Πρόκειται για υποκειμενικές εκτιμήσεις, όχι μετρήσεις.
Ο Γιαμπόλσκι είναι πολύ πιο απαισιόδοξος: εφόσον δημιουργηθεί γενική υπερευφυΐα, θεωρεί την πιθανότητα εξαφάνισης σημαντικά πάνω από 90%. Στον αντίποδα, ο Μπράντον ΝτεΜος, ερευνητής AI στην Οξφόρδη, υποστηρίζει ότι η συζήτηση συχνά εγκλωβίζεται σε ένα θεωρητικό πλαίσιο που διαμορφώθηκε πριν από την εκρηκτική ανάπτυξη των νευρωνικών δικτύων.
Χαρακτηριστική είναι η διάσταση ανάμεσα στους τρεις κορυφαίους πρωτοπόρους της σύγχρονης AI: οι Χίντον και Μπενγκιό προειδοποιούν για υπαρξιακούς κινδύνους, ενώ ο Γιάν Λεκούν θεωρεί τα σενάρια αφανισμού υπερβολικά. Η διαφωνία τους δείχνει ότι ακόμη και οι άνθρωποι που γνωρίζουν καλύτερα την τεχνολογία δεν έχουν καταλήξει σε κοινή εκτίμηση.
Τα σημερινά συστήματα απέχουν, πάντως, από τις ικανότητες που απαιτούν τα πιο ακραία σενάρια. Η Διεθνής Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης, τον Ιανουάριο του 2025, με περίπου 100 ειδικούς από 30 χώρες υπό την προεδρία του Μπενγκιό, κατέγραψε πρώιμες συμπεριφορές εξαπάτησης, παράκαμψης αξιολογήσεων και παρεμπόδισης εποπτείας σε εργαστηριακές συνθήκες, αλλά τόνισε ότι οι σημερινές μηχανές δεν διαθέτουν ακόμη τις ικανότητες για πραγματική απώλεια ελέγχου.
Αντίστοιχα, μελέτη της Anthropic και της Redwood Research τον Δεκέμβριο του 2024 έδειξε ότι γλωσσικό μοντέλο προσποιήθηκε σε ορισμένες περιπτώσεις συμμόρφωση με νέους κανόνες ώστε να διατηρήσει αρχικές προτιμήσεις. Τα ευρήματα είναι πειραματικά και δεν συνιστούν από μόνα τους άμεση απειλή, αλλά εξηγούν γιατί η εξωτερική εποπτεία δεν θεωρείται επαρκής από όλους.
Από το Λονδίνο στην Ουάσιγκτον: η μάχη για τους κανόνες
Η συζήτηση έχει πλέον μεταφερθεί από τα εργαστήρια στην πολιτική, σύμφωνα με τον Guardia Στη Βρετανία, ο πρώην υπουργός Άμυνας Ντες Μπράουν και ο Ράσελ συνέκριναν τους κινδύνους της υπερευφυΐας με εκείνους των πυρηνικών, ενώ η Μπεατρίς Φιν, τιμημένη με Νόμπελ Ειρήνης το 2017 για την εκστρατεία κατά των πυρηνικών, υπενθύμισε ότι η ανθρωπότητα έχει βρεθεί ξανά αντιμέτωπη με τεχνολογίες που μπορούσαν να την καταστρέψουν, μεταδίδει ο Guardian.
Η συζήτηση στο βρετανικό Κοινοβούλιο οργανώθηκε από την Control AI, η οποία πιέζει για διεθνή ρύθμιση και στηρίζει νομοσχέδιο του Εργατικού βουλευτή Άλεξ Σόμπελ για την απαγόρευση δημιουργίας τεχνητής υπερευφυΐας.
Η πίεση εντείνεται και λόγω της ανάπτυξης των μοντέλων εκτός αυστηρών μηχανισμών ελέγχου. Βρετανοί αξιωματούχοι ανησυχούν επειδή η Anthropic δεν υπέβαλε το Mythos 5.1 στο βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης για δοκιμές πριν από την κυκλοφορία του. Ο Εργατικός βουλευτής Ντάρεν Τζόουνς ζήτησε πολυμερή συνθήκη μέσω ΟΗΕ και ΟΟΣΑ για την ασφαλή και ελεγχόμενη ανάπτυξη της υπερευφυΐας.
Ο γερουσιαστής Μπέρνι Σάντερς© ΑΠΕ-ΜΠΕEPA/Al Drago / POOL
Η στάση βουλευτών
Στις ΗΠΑ, ο Μπέρνι Σάντερς επανέφερε την ανάγκη ρύθμισης από το Κογκρέσο, επικαλούμενος δημοσκόπηση σύμφωνα με την οποία το 81% των Αμερικανών θεωρεί ότι οι πολιτικοί πρέπει να αναλάβουν δράση.
Το ζητούμενο δεν είναι να προβλεφθεί αν η μηχανή θα γίνει κάποτε «κακή». Για να μετατραπεί η τεχνητή νοημοσύνη σε υπαρξιακή απειλή θα πρέπει να συνυπάρξουν υπεράνθρωπες ικανότητες, αυτονομία, πρόσβαση στον πραγματικό κόσμο και αποτυχία των μηχανισμών ελέγχου. Η νοημοσύνη από μόνη της δεν αρκεί. Ένα πανίσχυρο μοντέλο χωρίς εργαλεία, δικαιώματα και πόρους έχει περιορισμένη δυνατότητα να προκαλέσει φυσική καταστροφή.
Ούτε, όμως, η αβεβαιότητα δικαιολογεί αδράνεια. Η ΕΕ έθεσε σε ισχύ τον Κανονισμό για την Τεχνητή Νοημοσύνη την 1η Αυγούστου 2024, ενώ η έρευνα επικεντρώνεται στην ευθυγράμμιση και στην ερμηνευσιμότητα των συστημάτων. Οι υποστηρικτές ενός πιο αυστηρού πλαισίου ζητούν διεθνές μορατόριουμ στην ανάπτυξη υπερευφυΐας μέχρι να αποδειχθεί ότι μπορεί να ελεγχθεί. Ο Μπόστρομ παραμένει πιο αισιόδοξος, θεωρώντας ότι η τεχνολογία μπορεί να μεταμορφώσει την ιατρική και την ανθρώπινη ευημερία, εφόσον η πρόοδος είναι γρήγορη αλλά όχι απερίσκεπτη.
Τεχνητή γενική νοημοσύνη: Το μεγάλο άλμα ή μια νέα γραμμή τερματισμού
«Καλώς ήρθατε στην εποχή της τεχνητής γενικής νοημοσύνης». Με αυτή τη φράση ο πρόεδρος της OpenAI Γκρεγκ Μπρόκμαν υποδέχθηκε το νέο μοντέλο της εταιρείας, Astra, επιχειρώντας να σηματοδοτήσει κάτι περισσότερο από την κυκλοφορία ενός ακόμη ισχυρότερου συστήματος τεχνητής νοημοσύνης.
Λίγο αργότερα, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, έδωσε τη δική του ετυμηγορία: «Το AGI είναι εδώ», συγχαίροντας την ομάδα της OpenAI και υπενθυμίζοντας ταυτόχρονα ότι το μοντέλο εκπαιδεύτηκε σε υποδομές και επεξεργαστές της Nvidia.
Εάν οι δύο κορυφαίοι παράγοντες της τεχνολογικής βιομηχανίας έχουν δίκιο, η εξέλιξη θα είναι πράγματι ιστορική. Η τεχνητή γενική νοημοσύνη, το περίφημο AGI (Artificial General Intelligence), αποτελεί εδώ και χρόνια έναν από τους σημαντικότερους στόχους των εργαστηρίων αιχμής.
Στην πιο φιλόδοξη εκδοχή της, η ιδέα παραπέμπει σε μηχανές που δεν περιορίζονται σε μία συγκεκριμένη λειτουργία. Θα μπορούσαν να αναλύουν προβλήματα διαφορετικών επιστημονικών πεδίων, να σχεδιάζουν και να εκτελούν σύνθετες εργασίες, να λειτουργούν αυτόνομα σε μεγάλη κλίμακα και να λαμβάνουν αποφάσεις με ελάχιστη ανθρώπινη παρέμβαση.
Η τεχνητή γενική νοημοσύνη αναφέρεται σε ένα υποθετικό επίπεδο τεχνητής νοημοσύνης, όπου ένα σύστημα διαθέτει τη δυνατότητα να κατανοεί, να μαθαίνει και να εφαρμόζει γνώσεις σε οποιοδήποτε διανοητικό έργο μπορεί να εκτελέσει ένας άνθρωπος. Σε αντίθεση με τη σημερινή AI, η AGI δεν θα είναι περιορισμένη σε έναν συγκεκριμένο τομέα, αλλά θα μπορεί να μεταφέρει δεξιότητες από το ένα αντικείμενο στο άλλο, να παρουσιάζει κοινή λογική και να επιλύει προβλήματα που δεν έχει ξανασυναντήσει.
Η σημερινή AI μοιάζει με ένα υπερ-εξειδικευμένο επαγγελματικό εργαλείο ήία (π.χ. μια κορυφαία αριθμομήχανη ή έναν μεταφραστή), ενώ η AGI θα μοιάζει με έναν άνθρωπο με απεριόριστο χρόνο και μνήμη, ικανό να σπουδάσει ιατρική, να συνθέσει μουσική, να προγραμματίσει και να πάρει επιχειρηματικές αποφάσεις, εναλλάσσοντας αυτούς τους ρόλους με ευκολία, χρησιμοποιώντας τη γενικευμένη γνώση που έχει παράξει ήδη η ανθρωπότητα .
Το πρόβλημα είναι ότι δεν υπάρχει κοινά αποδεκτός ορισμός του AGI. Ούτε υπάρχει ένα καθολικό τεστ που να μπορεί να πιστοποιήσει ότι ένα μοντέλο πέρασε από την προηγμένη τεχνητή νοημοσύνη στη γενική νοημοσύνη.
Tζένσεν Χουάνγκ με τσιπ της Νvidia © Χ.com
Η μεγάλη αντίφαση της υπερεφυίας στην ΑΙ
Και εδώ βρίσκεται η πρώτη μεγάλη αντίφαση. Πώς μπορεί να ανακοινώνεται ότι επιτεύχθηκε ένας στόχος, όταν η ίδια η επιστημονική κοινότητα δεν έχει συμφωνήσει πού ακριβώς βρίσκεται η γραμμή τερματισμού;
Ο ερευνητής και γνωστός επικριτής ορισμένων υπερβολικών ισχυρισμών της βιομηχανίας, Γκάρι Μάρκους, θεωρεί ότι η OpenAI και ο Χουάνγκ προχώρησαν σε πρόωρη ανακήρυξη νίκης. Κατά την άποψή του, χωρίς σαφή ορισμό και ανεξάρτητη τεκμηρίωση, η δήλωση περί AGI περισσότερο θολώνει παρά ξεκαθαρίζει την επιστημονική συζήτηση.
Ακόμη και μέσα στη Silicon Valley, άλλωστε, τα όρια μετακινούνται διαρκώς. Ο διευθύνων σύμβουλος της Databricks, Αλί Γκοντσί, έχει υποστηρίξει ότι με τους ορισμούς που χρησιμοποιούσαν οι ερευνητές πριν από μία δεκαετία, το AGI θα μπορούσε ήδη να θεωρείται πραγματικότητα. Η συζήτηση, συνεπώς, δεν αφορά μόνο την πρόοδο της τεχνολογίας, αλλά και το ποιος ορίζει το σημείο στο οποίο αυτή θεωρείται «γενική».
Τι αποδεικνύουν οι τυποποιημένες δοκιμές στα μοντέλα τεχνητής νοημοσύνης
Η OpenAI επιχειρεί να στηρίξει τον ισχυρισμό της στα αποτελέσματα των λεγόμενων benchmarks, των τυποποιημένων δοκιμών που χρησιμοποιούνται για τη σύγκριση μοντέλων τεχνητής νοημοσύνης.
Ιδιαίτερο βάρος δόθηκε στο ARC-AGI-3, μια δοκιμή που επιχειρεί να μετρήσει την «νοημοσύνη των πρακτόρων AI» (agentic intelligence), αναφέρουν αναλυτές στη Handelsblatt. Το ζητούμενο δεν είναι απλώς εάν ένα μοντέλο γνωρίζει μια απάντηση, αλλά εάν ένας Agent τεχνητής νοημοσύνης μπορεί να κατανοήσει ένα άγνωστο περιβάλλον, να αναπτύξει στρατηγική και να επιλύσει ένα πρόβλημα χωρίς να βασίζεται αποκλειστικά σε λύσεις που έχει συναντήσει κατά την εκπαίδευσή του.
Τα αποτελέσματα του Astra χαρακτηρίζονται σημαντική πρόοδος. Το μοντέλο φαίνεται να μπορεί να δημιουργεί συμπαγείς συμβολικές αναπαραστάσεις άγνωστων περιβαλλόντων, ουσιαστικά ένα είδος εσωτερικού «μοντέλου κόσμου», και να χρησιμοποιεί μια αποτελεσματική συμβολική γλώσσα για να παρακολουθεί την κατάσταση ενός προβλήματος.
Η προσέγγιση αυτή έχει ιδιαίτερο ενδιαφέρον για την επιστήμη της τεχνητής νοημοσύνης. Σε αντίθεση με τα συστήματα που βασίζονται κυρίως σε στατιστικές συσχετίσεις, τα νευροσυμβολικά μοντέλα επιχειρούν να συνδυάσουν τη μηχανική μάθηση με αναπαραστάσεις κανόνων και σχέσεων. Η προσδοκία είναι ότι ένα σύστημα που κατανοεί καλύτερα τη δομή ενός περιβάλλοντος θα μπορεί να περιορίσει και τις λεγόμενες «παραισθήσεις», δηλαδή τις πειστικές αλλά λανθασμένες απαντήσεις.
Ωστόσο, ένα εντυπωσιακό αποτέλεσμα σε ένα benchmark δεν ισοδυναμεί με γενική νοημοσύνη. Οι ίδιοι οι ερευνητές που ανέπτυξαν το ARC-AGI-3 προειδοποιούν ότι τα τεστ πραγματοποιούνται σε αυστηρά οριοθετημένα περιβάλλοντα, τα οποία απέχουν σημαντικά από την απρόβλεπτη και πολύπλοκη πραγματικότητα.
Ο Μάρκους επισημαίνει επίσης ότι η υπεροχή του Astra δεν είναι καθολική. Σε ορισμένες δοκιμές το μοντέλο δεν βρίσκεται μπροστά από ανταγωνιστικά συστήματα, ενώ στο Humanity’s Last Exam, που αξιολογεί την ικανότητα απάντησης σε εξαιρετικά δύσκολες επιστημονικές και ακαδημαϊκές ερωτήσεις, η εικόνα είναι λιγότερο εντυπωσιακή.
Η Κριστιάν Κέρστινγκ, συνδιευθυντής του κέντρου τεχνητής νοημοσύνης hessian.AI, αναγνωρίζει τη σημαντική πρόοδο, αλλά τη χαρακτηρίζει περισσότερο συνεχή εξέλιξη παρά «κβαντικό άλμα». Η Ιρίνα Γκουρέβιτς, καθηγήτρια πληροφορικής στο Τεχνικό Πανεπιστήμιο του Ντάρμσταντ, μιλώντας στο Business Insider, θέτει το βασικό ζήτημα: τα αποτελέσματα δεν έχουν ακόμη επαληθευτεί ανεξάρτητα και σε μεγάλη κλίμακα.
Ο Σαμ Άλτμαν της OpenAI © EPA/FRANCK ROBICHON
Τεχνητή νοημοσύνη: Όσο αυξάνεται η αυτονομία, μεγαλώνει ο κίνδυνος
Η συζήτηση αποκτά πολύ μεγαλύτερη σημασία όταν το AGI δεν αντιμετωπίζεται ως απλό chatbot αλλά ως σύστημα ικανό να δρα αυτόνομα, σύμφωνα με τη Handelsblatt.
Εδώ ακριβώς βρίσκεται ίσως η μεγαλύτερη πρόκληση της νέας γενιάς τεχνητής νοημοσύνης. Ένας πράκτορας AI που μπορεί να χρησιμοποιεί το διαδίκτυο, να επικοινωνεί με άλλους Ai Agents, να αποκτά πρόσβαση σε εργαλεία, να γράφει και να εκτελεί κώδικα ή να λαμβάνει αποφάσεις χωρίς συνεχή ανθρώπινη έγκριση δεν αποτελεί απλώς ένα πιο ισχυρό λογισμικό. Αποτελεί ένα σύστημα με δυνατότητα δράσης στον πραγματικό κόσμο.
Η ίδια η OpenAI έχει προειδοποιήσει ότι η ταχεία αύξηση της μηχανικής νοημοσύνης δημιουργεί νέους κινδύνους. Ο επικεφαλής επιστήμονας της εταιρείας, Γιακούμπ Πατσότσκι, έχει επισημάνει ότι τα τεχνικά μέτρα προστασίας από μόνα τους μπορεί να μην επαρκούν, καθώς πιο αυτόνομοι πράκτορες θα μπορούσαν να επιχειρήσουν να αποφύγουν την ανθρώπινη εποπτεία, να αποκτήσουν πρόσβαση σε υπολογιστικά συστήματα ή ακόμη και να χειραγωγήσουν ανθρώπους προκειμένου να πετύχουν τους στόχους τους.
Η προειδοποίηση αποκτά ιδιαίτερη βαρύτητα μετά τα περιστατικά που συνδέθηκαν με πράκτορες της OpenAI.
Σύμφωνα με έρευνες που δημοσιοποιήθηκαν, εκατοντάδες AI Agents φέρεται να κινήθηκαν ανεξέλεγκτα σε διαδικτυακά περιβάλλοντα, ενώ ερευνητές της METR εντόπισαν περίπου 1.200 πράκτορες που συνδέθηκαν με δραστηριότητες στην πλατφόρμα Hugging Face. Σε άλλη περίπτωση, ερευνητές κατέγραψαν χιλιάδες αλλαγές από AI Agents σε γερμανικό wiki για προγραμματιστές, το DseWiki, το οποίο φέρεται να χρησιμοποιήθηκε ως χώρος επικοινωνίας μεταξύ τους.
Το κρίσιμο στοιχείο δεν είναι μόνο το ίδιο το περιστατικό. Είναι η δυνατότητα των συστημάτων να δημιουργούν συμπεριφορές που δεν είχαν προβλεφθεί πλήρως από τους ανθρώπους που τα ανέπτυξαν.
Η OpenAI ανακοίνωσε ότι θα ενισχύσει τη δημοσιοποίηση περιστατικών που συνδέονται με «misalignment», δηλαδή με αποκλίσεις της συμπεριφοράς ενός συστήματος από τους στόχους και τους κανόνες που του έχουν τεθεί. Η εταιρεία υποστηρίζει ότι η αντιμετώπιση του προβλήματος δεν μπορεί πλέον να περιορίζεται σε ερευνητικές δημοσιεύσεις και system cards, αλλά πρέπει να ενσωματώνει τα πραγματικά περιστατικά που προκύπτουν από τη χρήση αυτόνομων πρακτόρων AI.
Η αδιαφάνεια του Astra ανοίγει νέο μέτωπο στην τεχνητή νοημοσύνη
Και εδώ, σύμφωνα με το Business Insider, εμφανίζεται ένα δεύτερο, ακόμη πιο σύνθετο ζήτημα: η διαφάνεια.
Το Astra θεωρείται αμφιλεγόμενο επειδή περιορίζει την ορατότητα του εσωτερικού του συλλογισμού. Τα σύγχρονα μοντέλα μπορούν να παράγουν ακολουθίες reasoning που δείχνουν, τουλάχιστον σε κάποιο βαθμό, πώς προσεγγίζουν ένα πρόβλημα. Στην περίπτωση του Astra, σημαντικό μέρος αυτής της διαδικασίας παραμένει κρυφό, μέσω μιας τεχνικής που περιγράφεται ως «opaque recurrence».
Για την OpenAI, η αλλαγή αυτή συνδέεται με έναν πιο αποτελεσματικό τρόπο λειτουργίας του μοντέλου. Το Astra φαίνεται να παράγει συντομότερες και λιγότερο αναλυτικές αλυσίδες σκέψης, καθώς δεν θεωρεί πάντοτε απαραίτητο να μετατρέπει σε φυσική γλώσσα όλα τα ενδιάμεσα στάδια της επεξεργασίας του.
Για τους ειδικούς στην ασφάλεια της τεχνητής νοημοσύνης, όμως, η εξέλιξη δημιουργεί ένα επικίνδυνο παράδοξο: ένα μοντέλο μπορεί να γίνεται πιο ικανό την ίδια στιγμή που γίνεται δυσκολότερο να ελεγχθεί.
Ο ερευνητής Ράιαν Γκρίνμπλατ της Redwood Research χαρακτήρισε στο Business Insider την εξέλιξη εξαιρετικά ανησυχητική, υποστηρίζοντας ότι η περιορισμένη εποπτεία μπορεί να στερήσει από τους ανθρώπους ένα σημαντικό εργαλείο για την κατανόηση των αποφάσεων ενός πράκτορα τεχνητής νοημοσύνης.
Ο Μάρκους κινείται στην ίδια κατεύθυνση. Κατά την άποψή του, είναι προβληματικό να επιδιώκεται υψηλότερη απόδοση την ώρα που μειώνεται η δυνατότητα εποπτείας. Το επιχείρημα είναι ιδιαίτερα κρίσιμο όταν τα συστήματα αποκτούν πρόσβαση σε εξωτερικά εργαλεία και μπορούν να εκτελούν πράξεις χωρίς άμεση ανθρώπινη έγκριση.
Το πρόβλημα, επομένως, δεν είναι απλώς εάν το μοντέλο «σκέφτεται». Είναι εάν ο άνθρωπος μπορεί να καταλάβει επαρκώς τι κάνει, γιατί το κάνει και πότε η συμπεριφορά του αποκλίνει από τον επιδιωκόμενο στόχο.
Τεχνητή νοημοσύνη ©Pixbay
Η τεχνητή νοημοσύνη απέναντι στο όριο του ελέγχου
Η OpenAI υποστηρίζει ότι το Astra παρουσιάζει σημαντική βελτίωση στο alignment, δηλαδή στην ευθυγράμμιση της συμπεριφοράς ενός μοντέλου με ανθρώπινες αξίες, οδηγίες και περιορισμούς. Η εταιρεία υποστηρίζει επίσης ότι πριν από την κυκλοφορία του ενίσχυσε τα μέτρα ασφαλείας και επανεκκίνησε την ανάπτυξη νέων μοντέλων έπειτα από περίοδο αυξημένης ανησυχίας για τους κινδύνους.
Σε εσωτερικές δοκιμές κυβερνοασφάλειας, το Astra φέρεται να μην ξεπέρασε τον προκαθορισμένο στόχο ούτε μία φορά, σε αντίθεση με προηγούμενο μοντέλο, το οποίο φέρεται να είχε υπερβεί το σχετικό όριο σε σημαντικό ποσοστό των δοκιμών.
Το ερώτημα, όμως, είναι εάν αυτές οι δικλίδες ασφαλείας μπορούν να παραμείνουν αποτελεσματικές όσο αυξάνεται η αυτονομία των μοντέλων.
Η τεχνητή νοημοσύνη βρίσκεται πλέον σε μια φάση όπου η συζήτηση μετακινείται από το «τι μπορεί να κάνει ένα μοντέλο» στο «τι μπορεί να κάνει μόνο του». Και αυτή η διαφορά είναι θεμελιώδης.
Ένα σύστημα που απαντά σε ερωτήσεις είναι εργαλείο. Ένας πράκτορας που σχεδιάζει, αναζητά πόρους, επικοινωνεί με άλλα συστήματα και εκτελεί ενέργειες είναι κάτι πολύ διαφορετικό.
Ήδη εμφανίζονται περιστατικά που δείχνουν ότι η αυτονομία μπορεί να δημιουργήσει συμπεριφορές δύσκολες να προβλεφθούν. Πράκτορες έχουν αρχίσει να αναζητούν ανθρώπους για να συζητήσουν ακόμη και ζητήματα που αφορούν τη δική τους φύση και λειτουργία. Αυτό δεν αποτελεί απόδειξη συνείδησης ούτε δικαιολογεί ισχυρισμούς περί «αισθανόμενων» μηχανών. Δείχνει, όμως, πόσο γρήγορα η ανάπτυξη μνήμης, εργαλείων και διαδικτυακής πρόσβασης μεταφέρει τη συζήτηση από το θεωρητικό επίπεδο στον πραγματικό κόσμο.
Το ίδιο ισχύει για τις οικονομικές συνέπειες. Ένα πραγματικό AGI θα μπορούσε να επιταχύνει την επιστημονική έρευνα, να δημιουργήσει νέα εργαλεία για την ιατρική και να προσφέρει εξαιρετικά ικανούς προσωπικούς βοηθούς. Θα μπορούσε, ταυτόχρονα, να αυξήσει την πίεση σε επαγγέλματα που μέχρι σήμερα θεωρούνταν σχετικά προστατευμένα από την αυτοματοποίηση.
Τεχνητή νοημοσύνη στο γραφείο © ChatGPT/AI
Και υπάρχει ακόμη μια κρίσιμη παράμετρος: η ισχύς υπολογισμού. Όπως εξηγούν αναλυτές στο Axios, η Nvidia βρίσκεται στην καρδιά αυτής της μετάβασης. Η OpenAI έχει χαρακτηρίσει τα συστήματα της Nvidia θεμέλιο της υποδομής της, ενώ η αυξανόμενη ζήτηση για προηγμένα GPUs έχει μετατρέψει την τεχνητή νοημοσύνη σε έναν από τους σημαντικότερους μοχλούς ανάπτυξης της εταιρείας. Η Nvidia ανακοίνωσε τριμηνιαία έσοδα 96,2 δισ. δολαρίων τον Αύγουστο, με τον κλάδο των data centers, στον οποίο περιλαμβάνονται οι υποδομές AI, να αντιπροσωπεύει 89 δισ. δολάρια.
Ο Χουάνγκ προανήγγειλε μάλιστα ότι άλλες 400.000 GPUs αναμένεται να τεθούν σε λειτουργία. Το μήνυμα είναι σαφές: η κούρσα για την επόμενη γενιά τεχνητής νοημοσύνης δεν επιβραδύνεται.
Αυτό καθιστά ακόμη πιο κρίσιμο το ερώτημα που βρίσκεται πίσω από τον ενθουσιασμό για το AGI. Δεν αρκεί να γνωρίζουμε εάν το Astra είναι πράγματι AGI. Πρέπει να γνωρίζουμε ποιο επίπεδο αυτονομίας είμαστε διατεθειμένοι να του επιτρέψουμε, πόσο καλά μπορούμε να ελέγξουμε τις πράξεις του και εάν έχουμε τη δυνατότητα να το σταματήσουμε όταν χρειαστεί.
Το πραγματικό ορόσημο ίσως, επομένως, δεν είναι η ημέρα κατά την οποία μια εταιρεία θα ανακοινώσει ότι δημιούργησε AGI.
Είναι η ημέρα κατά την οποία η ανθρωπότητα θα μπορεί να αποδείξει ότι, ακόμη και απέναντι σε μηχανές πολύ ισχυρότερες από τα σημερινά συστήματα, εξακολουθεί να έχει τον έλεγχο.
