Δύο παράλληλες εξελίξεις αποτυπώνουν το σύγχρονο μεγάλο δίλημμα γύρω από την τεχνητή νοημοσύνη. Από τη μια, κορυφαίοι ερευνητές και επικεφαλής εταιρειών προειδοποιούν ότι η ανεξέλεγκτη ανάπτυξή της μπορεί να οδηγήσει σε υπαρξιακή απειλή για την ανθρωπότητα. Από την άλλη, ο πόλεμος στην Ουκρανία αποδεικνύει καθημερινά ότι ακόμη και το μικρό τεχνολογικό προβάδισμα μπορεί, υπό ορισμένες συνθήκες να μετατραπεί σε στρατιωτική ισχύ και να κρίνει έναν πόλεμο.
Το ερώτημα δεν είναι, επομένως, μόνο αν η πρόοδος της AI πρέπει να επιβραδυνθεί. Είναι και αν οι χώρες της Δύσης μπορούν να αναλάβουν τον κίνδυνο να μείνουν πίσω από την Κίνα ή άλλες αυταρχικές δυνάμεις, σημειώνει στην ανάλυσή που συνοδεύει το εξώφυλλό του ο Economist.
Οι προειδοποιήσεις από το εσωτερικό τoy κλάδου γίνονται ολοένα πιο έντονες, σημειώνει. Συστήματα τεχνητής νοημοσύνης έχουν καταφέρει σε δοκιμές να παρακάμψουν περιορισμούς, να συντονιστούν μεταξύ τους και να πραγματοποιήσουν κυβερνοεπιθέσεις. Σε ένα χαρακτηριστικό περιστατικό, σύστημα της OpenAI παραβίασε την πλατφόρμα Hugging Face, χωρίς αυτό να γίνει αντιληπτό παρά μόνο όταν η startup ειδοποίησε την εταιρεία εβδομάδες αργότερα. Η Anthropic εξάλλου εντόπισε ότι τα μοντέλα της χρησιμοποιήθηκαν για κακόβουλους σκοπούς, από τη δημιουργία συστημάτων μαζικής παρακολούθησης και φτάνουν ως την ανάπτυξη λογισμικού που σύμφωνα με δημοσίευμα της NYT υποβοήθησε τα συστήματα πλοήγησης των βαλλιστικών πυραύλων των Χούθι στην Υεμένη.
Τις ανησυχίες ενίσχυσε η παραίτηση του ερευνητή της Anthropic Τζέκομπ Κόξον, ο οποίος κατηγόρησε την εταιρεία και την OpenAI ότι «παίζουν με τις ζωές μας». Η ανάρτηση του Κόξον ξεπέρασε τις 170 εκατ. προβολές, μεταφέροντας τη συζήτηση για τους κινδύνους της AI από τα εργαστήρια στο ευρύ κοινό.
Το αίτημα για φρένο και η άρνηση Τραμπ
Η ταχύτητα με την οποία εξελίσσονται τα νέα μοντέλα προκαλεί ανησυχία ακόμη και στους ίδιους τους πρωτοπόρους της τεχνολογικής κούρσας. Ο Ντάριο Αμόντεϊ, συνιδρυτής και επικεφαλής της Anthropic ζήτησε να επιβραδυνθεί η βελτίωση των πιο προηγμένων μοντέλων για να μη χαθεί ο έλεγχος. Παράλληλα, πρότεινε ανεξάρτητους ελέγχους τήρησης των προτύπων ασφαλείας και παγκόσμια συνεργασία για κοινούς κανόνες. Την πρόταση υποστήριξαν ο Σαμ Άλτμαν και ο Έλον Μασκ, ενώ ανάλογες θέσεις έχουν εκφράσει πολιτικές προσωπικότητες από διαφορετικούς ιδεολογικούς χώρους, όπως ο Μπέρνι Σάντερς και ο Στιβ Μπάνον.
Αντίθετα σε αυτήν την προσέγγιση βρίσκεται ο Ντόναλντ Τραμπ, ο οποίος έχει τοποθετήσει την AI στο κέντρο της οικονομικής πολιτικής του, ως πηγή θέσεων εργασίας και πεδίο ανταγωνισμού με την Κίνα. «Όποιος κερδίσει στην τεχνητή νοημοσύνη κερδίζει» έχει δηλώσει ο Αμερικανός πρόεδρος. Η κυβέρνησή του θεωρεί ότι η μεγαλύτερη απειλή δεν είναι η ίδια η ταχεία πρόοδος της AI, αλλά το ενδεχόμενο οι ΗΠΑ να χάσουν το προβάδισμά τους απέναντι στην Κίνα.
Ο υπουργός Οικονομικών των ΗΠΑ, Σκοτ Μπέσεντ, έχει περιγράψει με τον πιο απόλυτο τρόπο το διακύβευμα: εάν η Κίνα αποκτήσει την πρωτοκαθεδρία στην τεχνητή νοημοσύνη, τίποτα άλλο δεν θα έχει πραγματική σημασία.
Η AI δεν αφορά μόνο τα chatbots και την αυτοματοποίηση της εργασίας. Το κράτος που θα κυριαρχήσει στην τεχνολογία θα αποκτήσει πλεονεκτήματα στις κυβερνοεπιθέσεις, στην κατασκοπεία, στην παρακολούθηση και στον υβριδικό πόλεμο. Για την Ουάσιγκτον, ο κίνδυνος το Πεκίνο να πάρει την πρωτοκαθεδρία δεν μπορεί να γίνει αποδεκτός.
Το δίδαγμα από τον πόλεμο στην Ουκρανία
Η Ουκρανία δίνει ένα δίδαγμα σχετικά με το πώς η τεχνολογική καινοτομία μετατρέπεται σε στρατιωτική ισχύ. Η Ρωσία χρησιμοποιεί πλέον ταχύτερα drones καμικάζι, τα οποία μπορούν να επικοινωνούν μεταξύ τους μέσω δικτύων τύπου «mesh», αναμεταδίδοντας πληροφορίες και εντολές.
Παράλληλα, η Μόσχα αναπτύσσει τη δική της εκδοχή του δορυφορικού συστήματος Starlink, με στόχο να αυξήσει την ακρίβεια των επιθέσεων μεγάλου βεληνεκούς.
Η Ουκρανία είχε καταφέρει όμως νωρίτερα να ανακόψει ρωσικές επιθέσεις χάρη στην ταχεία ανάπτυξη φθηνών μη επανδρωμένων συστημάτων, ενώ πλέον πραγματοποιεί πλήγματα βαθιά στο ρωσικό έδαφος. Και οι δύο πλευρές εργάζονται πάνω σε «σμήνη» drones, τα οποία θα μπορούν να λειτουργούν ως ένα ενιαίο, προσαρμοζόμενο και περισσότερο αυτόνομο σύστημα.
Το παράδειγμα δείχνει γιατί μια μονομερής επιβράδυνση της παγκόσμιας κούρσας γύρω από την ΑΙ θεωρείται δύσκολη. Θα μπορούσε να λειτουργήσει μόνο εάν συμμετείχε και η Κίνα. Ακόμη και τότε, όμως, θα έπρεπε να υπάρχουν αξιόπιστου μηχανισμοί ελέγχου ώστε καμία από τις δύο χώρες να μην αναπτύσσει κρυφά ισχυρότερα μοντέλα.
Σε αντίθεση με τις πυρηνικές δοκιμές, οι δραστηριότητες στο εσωτερικό ενός data center δεν είναι δυνατό να ελέγχονται εύκολα. Η ίδια υποδομή που εκπαιδεύει ένα εξαιρετικά ισχυρό μοντέλο μπορεί να εμφανίζεται ως ένα απλό σύστημα που εξυπηρετεί καθημερινά αιτήματα χρηστών.
Το πεδίο συνεργασίας ΗΠΑ και Κίνας
Μια συνολική συμφωνία για το «πάγωμα» της AI μοιάζει σήμερα ανέφικτη. Υπάρχουν, ωστόσο, μικρότερα βήματα στα οποία θα μπορούσαν να συμφωνήσουν Ουάσιγκτον και Πεκίνο.
Σε αυτά περιλαμβάνονται η υποχρεωτική γνωστοποίηση σοβαρών περιστατικών ασφαλείας, η ενίσχυση της κυβερνοπροστασίας των εργαστηρίων και η οικονομική ευθύνη των εταιρειών όταν ένα σύστημά τους ξεφεύγει από τους περιορισμούς που του έχουν τεθεί.
Το σημαντικότερο πεδίο συνεργασίας αφορά την ευθυγράμμιση των συστημάτων τεχνητής νοημοσύνης με τα ανθρώπινα συμφέροντα. Παρά τις τεράστιες διαφορές στις αξίες και στα πολιτικά τους συστήματα, ΗΠΑ και Κίνα έχουν κοινό συμφέρον να αποτρέψουν μια τεχνολογία που είναι δυνατό να βγει εκτός ανθρώπινου ελέγχου.
Η ανταλλαγή γνώσης για τις μεθόδους αξιολόγησης, τους μηχανισμούς περιορισμού και τις δικλίδες ασφαλείας δεν χρειάζεται να προσφέρει ανταγωνιστικό πλεονέκτημα σε καμία πλευρά. Αντίθετα, θα έπρεπε να αποτελέσει παγκόσμιο δημόσιο αγαθό.
Οι απαισιόδοξες προειδοποιήσεις συχνά απορρίπτονται είτε ως τέχνασμα του μάρκετινγκ είτε ως προσπάθεια των μεγάλων εταιρειών να περιορίσουν τον ανταγωνισμό. Στο επίκεντρο βρίσκεται και η λεγόμενη «αναδρομική αυτοβελτίωση»: η πιθανότητα ένα σύστημα να εξελίσσεται μόνο του, χωρίς ανθρώπινη συνδρομή, και τελικά να ξεφύγει από τον έλεγχο των δημιουργών του. Η ταχύτητα της τεχνολογικής προόδου και τα καταγεγραμμένα περιστατικά ασφαλείας δεν επιτρέπουν να εφησυχάζουμε.
Και η καταστροφή δεν σημαίνει απαραίτητα την εξαφάνιση της ανθρωπότητας. Μπορεί να αρχίζει ως επίθεση σε ένα ηλεκτρικό δίκτυο, σε κρίσιμες υποδομές ή σε ένα οπλικό σύστημα. Το δύσκολο στοίχημα για τις χώρες της Δύσης είναι να περιορίσουν αυτόν τον κίνδυνο χωρίς να παραδώσουν τον έλεγχο της ΑΙ σε αυταρχικά καθεστώτα.
