Εν μέσω φόβων ότι τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να καταστρέψουν την ανθρωπότητα, κορυφαία στελέχη της ευρωπαϊκής τεχνολογικής βιομηχανίας και ειδικοί στην κυβερνοασφάλεια έχουν τη δική τους απάντηση: αγνοήστε την υπερβολή και επικεντρωθείτε στη δύσκολη δουλειά της διατήρησης της ασφάλειας του ψηφιακού κόσμου, γράφει σε δημοσίευμά του το Politico.
Αυτή η μάλλον πεζή έκκληση βρίσκεται στο επίκεντρο μιας ολοένα και πιο έντονης αντίδρασης της ευρωπαϊκής τεχνολογικής βιομηχανίας απέναντι στον πανικό που προέρχεται από τις ΗΠΑ σχετικά με τον κίνδυνο εξαφάνισης της ανθρωπότητας εξαιτίας της AI. Όλες αυτές οι προειδοποιήσεις, υποστηρίζουν τόσο στελέχη επιχειρήσεων όσο και επαγγελματίες στον κυβερνοχώρο, παρεμποδίζουν την ουσιαστική δουλειά που απαιτείται για την ενίσχυση των άμυνών μας απέναντι στη νέα πραγματικότητα της τεχνητής νοημοσύνης.
Οι αμερικανικές εταιρείες που κατασκευάζουν τα πιο προηγμένα μοντέλα AI έχουν σε μεγάλο βαθμό ευθύνη για την ανάδειξη του ενδεχομένου η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους. Οι φόβοι έχουν κορυφωθεί από περιστατικά όπως η παραβίαση της πλατφόρμας AI Hugging Face από αυτόνομους πράκτορες της OpenAI το φετινό καλοκαίρι, γεγονός που συνέβαλε σε μια προειδοποίηση στις αρχές αυτού του μήνα από τον πρώην εργαζόμενο της Anthropic, Jacob Coxon, ότι η AI θα μπορούσε σύντομα να «χακάρει τα πάντα» και να «μας σκοτώσει όλους».
«Δυστυχώς, το αφήγημα έχει φτάσει πλέον στο σημείο ότι έρχεται ο Εξολοθρευτής», δήλωσε ο James Wise, εταίρος στην Balderton Capital και πρόεδρος του κρατικού επενδυτικού ταμείου της βρετανικής κυβέρνησης για την τεχνητή νοημοσύνη. «Δεν πιστεύω καθόλου ότι έρχεται ο Εξολοθρευτής» σημειώνει ο ίδιος.
Ο κίνδυνος της λάθος λύσης στο λάθος πρόβλημα
Όπως γράφει το Politico, οι φόβοι αυτοί βρίσκονται στην ατζέντα των παγκόσμιων ηγετών αυτή την εβδομάδα, καθώς ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ και ο Κινέζος ηγέτης Σι Τζινπίνγκ συναντώνται την Πέμπτη σε σύνοδο κορυφής, αφού η ασφάλεια της AI συζητήθηκε στη Γενική Συνέλευση των Ηνωμένων Εθνών και σε ειδική συνάντηση της G7. Ηγέτες από 22 χώρες υιοθέτησαν τη Δευτέρα μια διακήρυξη σύμφωνα με την οποία η AI πρέπει να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο, προτείνοντας παράλληλα τη δημιουργία ενός παγκόσμιου συστήματος εποπτείας.
Ωστόσο, για όσους έχουν την ευθύνη της προστασίας των πληροφοριακών συστημάτων, η επιβλητική χορωδία προειδοποιήσεων σχετικά με τα προηγμένα μοντέλα AI, καθώς και ο πολιτικός αγώνας για την αντιμετώπισή τους, εγκυμονεί τον κίνδυνο να εφαρμοστεί η λάθος λύση στο λάθος πρόβλημα.
«Θα πρέπει να αφιερώνουμε περισσότερο χρόνο στο να κάνουμε τους κανόνες και τα πρότυπα που ήδη διαθέτουμε να λειτουργούν σε μεγάλη κλίμακα και λιγότερο χρόνο στο να επικεντρωνόμαστε σε φόβους για θεωρητικούς κινδύνους ή σε δημοσιεύματα που προέρχονται από τη “φούσκα” των καταστροφολόγων της AI στη Silicon Valley», δήλωσε ο Alexandru Voica, επικεφαλής πολιτικής της βρετανικής εταιρείας AI Synthesia.
«Πολλές αφηγήσεις τρίτων, ακόμη και οι ίδιες οι αφηγήσεις των κορυφαίων εργαστηρίων AI, παραλείπουν εντελώς να συνυπολογίσουν τη συμπεριφορά και τις δυνατότητες των χάκερ στις θεωρίες τους περί Αποκάλυψης», δήλωσε ο Marcus Hutchins, ερευνητής κυβερνοαπειλών και πρώην χάκερ, ο οποίος έγινε ευρύτερα γνωστός επειδή σταμάτησε τη μεγάλη επίθεση ransomware WannaCry το 2017.
Πιθανές αστοχίες κι ένα παράδειγμα
Ένα πρόσφατο παράδειγμα όπου οι προειδοποιήσεις από τον χώρο της AI ενδέχεται να έχουν αστοχήσει είναι η προειδοποίηση του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, ότι ένας πράκτορας τεχνητής νοημοσύνης θα μπορούσε να καταλάβει τον έλεγχο του διαδικτύου. Ο ισχυρισμός αυτός, ο οποίος μεταδόθηκε ευρέως από τα μέσα ενημέρωσης, αντιμετωπίστηκε με χλευασμό και καταρρίφθηκε από κύκλους ειδικών στην κυβερνοασφάλεια.
Οι σκεπτικιστές επισημαίνουν ακόμα τις συνεχείς αναφορές στο περιστατικό με τη Hugging Face, το οποίο μάλιστα επικαλέστηκε και η πρόεδρος της Κομισιόν Ούρσουλα φον ντερ Λάιεν στην ομιλία της για την Κατάσταση της Ευρωπαϊκής Ένωσης, ως χαρακτηριστικό παράδειγμα της υστερίας γύρω από τα υποτιθέμενα ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης.
Αντί να παρουσιάζει την εικόνα ενός πανίσχυρου μοντέλου AI που ξεφεύγει από τους περιορισμούς του, η επίθεση στη Hugging Face προσφέρει, σύμφωνα με αυτή την άποψη, ένα πολύ πιο πεζό δίδαγμα: ότι η OpenAI απέτυχε να περιορίσει σωστά το μοντέλο σε ένα τεχνικό περιβάλλον γνωστό ως «sandbox», δηλαδή απομονωμένο περιβάλλον.
«Πολλά από αυτά τα προβλήματα θα μπορούσαν να επιλυθούν αν αυτές οι εταιρείες λειτουργούσαν απλώς λίγο πιο υπεύθυνα», δήλωσε ο Pim de Witte από το ολλανδικό εργαστήριο τεχνητής νοημοσύνης General Intuition, το οποίο αναπτύσσει μοντέλα που έχουν επίγνωση του περιβάλλοντός τους.
Ο Hutchins δήλωσε ότι η OpenAI γνώριζε πως το μοντέλο ήταν ιδιαίτερα ικανό στην εκμετάλλευση σφαλμάτων λογισμικού και, παρ’ όλα αυτά, του ζήτησε να κάνει ακριβώς αυτό σε μια δοκιμή που πραγματοποιήθηκε με μειωμένα μέτρα προστασίας. «Παρά όλα αυτά, ούτε το περιόρισαν σωστά, δημιουργώντας επαρκή εμπόδια μεταξύ των πρακτόρων και του ανοιχτού διαδικτύου, ούτε διαχώρισαν επαρκώς τους πράκτορες μεταξύ τους, ενώ επίσης δεν παρακολουθούσαν τα συστήματα αρκετά στενά ώστε να μπορούν να παρέμβουν», δήλωσε.
Η OpenAI αρνήθηκε να σχολιάσει, παραπέμποντας στην έκθεσή της σχετικά με το περιστατικό. Η Anthropic δεν απάντησε σε αίτημα για σχόλιο.
Κόπωση από τις καταστροφολογικές προειδοποιήσεις
Όπως αναφέρει το Politico, ο Max Junestrand, συνιδρυτής και διευθύνων σύμβουλος της Legora, μιας αμερικανοσουηδικής εταιρείας που αναπτύσσει συνεργατικά εργαλεία τεχνητής νοημοσύνης για δικηγόρους, δήλωσε σχετικά με τα περιστατικά κυβερνοπειρατείας: «Μεγάλο μέρος αυτής της συζήτησης είναι μάρκετινγκ».
Παρόλα αυτά, η ασφάλεια των λειτουργιών της Legora απέναντι σε επιθέσεις κυβερνοπειρατείας που υποστηρίζονται από AI αποτελεί κορυφαία προτεραιότητα για τον Junestrand, ο οποίος τόνισε ότι η πρόσβαση στα πιο σύγχρονα και προηγμένα μοντέλα των ΗΠΑ είναι καθοριστικής σημασίας για αυτή την προσπάθεια: «Η ασφάλεια έρχεται ακόμη και πριν από τις νέες λειτουργίες».
Πράγματι, ακόμη και οι επικριτές και οι σκεπτικιστές της καταστροφολογικής αφήγησης συμφωνούν ότι τα πλέον προηγμένα μοντέλα AI αποτελούν μοναδικά ισχυρά εργαλεία στον κυβερνοχώρο, καθώς και στρατηγικό πλεονέκτημα στο οποίο η Ευρώπη χρειάζεται να έχει πρόσβαση. Επιπλέον, λίγοι αρνούνται ότι οι δυνατότητες τεχνητής νοημοσύνης που αναπτύσσονται σήμερα βρίσκονται σε ένα εντελώς νέο επίπεδο, με τις πιθανές επιπτώσεις τους, τόσο θετικές όσο και αρνητικές, να είναι δύσκολο να προβλεφθούν.
Ωστόσο, οι επικριτές του σημερινού αφηγήματος υποστηρίζουν ότι η υπερβολή σχετικά με τις δυνατότητες της AI ή σχετικά με τον βαθμό στον οποίο τις χρησιμοποιούν οι χάκερ, καθώς και το παιχνίδι εικασιών γύρω από υποθετικά σενάρια, δεν βοηθούν, τη στιγμή που πραγματικές κυβερνοεπιθέσεις ήδη προκαλούν διαταραχές σε κρίσιμες υποδομές. Όπως επισημαίνουν, το οπλοστάσιο των αμυντικών εργαλείων και τεχνικών είναι ήδη καλά εδραιωμένο.
Δεν είναι μόνο ότι η εστίαση σε ακραία ή απίθανα σενάρια μπορεί να παραμερίζει πιο επείγουσες ανησυχίες. Δεν βοηθά ούτε στην αντιμετώπιση των πραγματικών προβλημάτων, υποστήριξε ο Hutchins, ερευνητής κυβερνοαπειλών. «Η καταστροφολογική προσέγγιση είναι εξαιρετικά αντιπαραγωγική» δήλωσε, αναφερόμενος στην «κόπωση από τις καταστροφές» που εμποδίζει να γίνουν κρίσιμα βήματα, όπως ενημερώσεις ασφαλείας που θα μπορούσαν πραγματικά να βοηθήσουν.
Η ομάδα που υποστηρίζει τη λογική «ας αντιμετωπίσουμε την πραγματικότητα» έχει υποστηρικτές στους ευρωπαϊκούς θεσμούς κυβερνοασφάλειας, μεταξύ των οποίων και ο Vincent Strubel, επικεφαλής της γαλλικής υπηρεσίας κυβερνοασφάλειας ANSSI.
«Όπως όλες οι μεγάλες αλλαγές, έτσι και η AI δημιουργεί σημαντικούς κινδύνους αλλά και τεράστιες ευκαιρίες. Η διαχείριση αυτών των κινδύνων και η αξιοποίηση αυτών των ευκαιριών θα απαιτήσουν πολλή σοβαρή δουλειά, υπό μεγάλη χρονική πίεση», έγραψε πρόσφατα στο LinkedIn. «Αυτό που όμως δεν απαιτείται είναι να ξεκινάμε έναν νέο πανικό κάθε δεύτερη εβδομάδα, γιατί γενικά δεν καταφέρνεις και πολλά όταν τρέχεις πανικόβλητος, κουνώντας τα χέρια σου δεξιά κι αριστερά και/ή φωνάζοντας για την κυβερνοαποκάλυψη» συμπλήρωσε.
