Σοβαρές ανησυχίες για τη χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης σε έρευνα που θα μπορούσε δυνητικά να συνδεθεί με την ανάπτυξη βιολογικών όπλων προκαλεί νέα έκθεση της Anthropic. Η εταιρεία πίσω από το Claude ανακοίνωσε ότι μέσα στο 2026 διέκοψε αρκετές περιπτώσεις χρήσης των συστημάτων της από επιστήμονες, καθώς δεν μπορούσε να αποκλείσει το ενδεχόμενο η έρευνά τους να είχε κακόβουλο σκοπό.
Σύμφωνα με τους New York Times, η Anthropic δεν υποστηρίζει ότι απέδειξε πως οι συγκεκριμένοι ερευνητές επιχειρούσαν πράγματι να κατασκευάσουν βιολογικά όπλα. Το πρόβλημα βρίσκεται στη λεγόμενη «διπλή χρήση» της βιολογικής έρευνας: οι ίδιες γνώσεις και τεχνικές που μπορούν να οδηγήσουν σε νέα εμβόλια ή θεραπείες μπορούν, υπό διαφορετικές συνθήκες, να αξιοποιηθούν για επικίνδυνους σκοπούς.
Μπροστά σε αυτή την αβεβαιότητα, η εταιρεία επέλεξε να διακόψει την πρόσβαση των συγκεκριμένων λογαριασμών, θεωρώντας ότι το κόστος μιας λανθασμένης εκτίμησης θα μπορούσε να είναι εξαιρετικά υψηλό.
«Δεν βλέπεις κάποιον να δηλώνει ευθέως ότι θέλει να κατασκευάσει βιολογικό όπλο», εξήγησε στους New York Times ο Jacob Klein, επικεφαλής Threat Intelligence της Anthropic, υπογραμμίζοντας ότι η αξιολόγηση τέτοιων περιπτώσεων είναι ιδιαίτερα σύνθετη.
Η δύσκολη γραμμή μεταξύ νόμιμης και επικίνδυνης έρευνας
Μεταξύ των περιπτώσεων που εξετάστηκαν ήταν αίτημα επιστήμονα για βοήθεια από το Claude στη σύνταξη πρότασης χρηματοδότησης σχετικά με πειραματική έρευνα πάνω στον ιό chikungunya. Η Anthropic θεώρησε την περίπτωση ανησυχητική επειδή, όπως αναφέρουν οι New York Times, υπήρχαν ενδείξεις ότι η έρευνα θα πραγματοποιούνταν σε στρατιωτικό ερευνητικό ίδρυμα.
Η εταιρεία δεν κατέληξε στο συμπέρασμα ότι επρόκειτο για πρόγραμμα ανάπτυξης όπλου. Ωστόσο, η φύση της έρευνας και το περιβάλλον στο οποίο φέρεται να επρόκειτο να διεξαχθεί κρίθηκαν αρκετά ευαίσθητα ώστε να ενεργοποιηθούν οι μηχανισμοί ασφαλείας.
Η Anthropic αναφέρει επίσης ότι ορισμένοι από τους ερευνητές είχαν παρακάμψει περιορισμούς πρόσβασης από χώρες στις οποίες οι υπηρεσίες της δεν είναι διαθέσιμες και επιχείρησαν να αποκρύψουν τον πραγματικό σκοπό των ερωτημάτων τους. Οι λογαριασμοί που συνδέονταν με τις δραστηριότητες αυτές αποκλείστηκαν.
Η εταιρεία έχει ήδη ενισχύσει τους μηχανισμούς προστασίας γύρω από τη βιολογία και τη χημεία. Στα επίσημα έγγραφά της χαρακτηρίζει την τεχνητή νοημοσύνη τεχνολογία «διπλής χρήσης», επισημαίνοντας ότι οι ίδιες δυνατότητες που μπορούν να επιταχύνουν την επιστημονική ανακάλυψη δημιουργούν και κινδύνους κατάχρησης.
Η βιολογική έρευνα αποτελεί μόνο μία κατηγορία των περιστατικών που καταγράφει η νέα έκθεση. Σύμφωνα με τους New York Times, η Anthropic εντόπισε ύποπτη χρήση του Claude από φορείς που φέρονται να συνδέονται με την Κίνα και το Ιράν για παρακολούθηση αντιφρονούντων και κοινοτήτων της διασποράς. Ρωσικά κρατικά μέσα φέρονται επίσης να χρησιμοποίησαν το μοντέλο για παραγωγή διαδικτυακού προπαγανδιστικού περιεχομένου το οποίο παρουσιαζόταν ως ανεξάρτητη δημοσιογραφική κάλυψη.
Η εταιρεία εντόπισε ακόμη απόπειρες χρήσης του Claude για υποστήριξη σχεδιασμού συμβατικών οπλικών συστημάτων, καταγράφοντας περιστατικά που συνδέθηκαν με χρήστες στην Κίνα, τη Ρωσία και την Υεμένη.
Το ζήτημα της κακόβουλης αξιοποίησης των μοντέλων AI απασχολεί εδώ και καιρό την Anthropic. Σε προηγούμενες εκθέσεις της έχει καταγράψει περιπτώσεις χρήσης του Claude για κυβερνοεπιθέσεις, κατασκοπεία και άλλες κακόβουλες δραστηριότητες, ενώ έχει αναπτύξει συστήματα παρακολούθησης και φίλτρα σε πραγματικό χρόνο για εφαρμογές υψηλού κινδύνου.
Ο νέος κίνδυνος όσο τα μοντέλα γίνονται ισχυρότερα
Το κρίσιμο στοιχείο είναι ότι οι δυνατότητες των μοντέλων εξελίσσονται με μεγάλη ταχύτητα. Η Anthropic αναφέρει ότι παλαιότερες εκδόσεις του Claude δεν μπορούσαν να προσφέρουν ουσιαστική βοήθεια σε ιδιαίτερα επικίνδυνη βιολογική έρευνα. Τα νεότερα μοντέλα, όμως, διαθέτουν σαφώς υψηλότερες ικανότητες στη βιολογία και τη χημεία, γεγονός που έχει οδηγήσει σε αυστηρότερα μέτρα προστασίας.
Η ίδια η εταιρεία εκτιμά ότι ο κίνδυνος καταστροφικής κατάχρησης παραμένει χαμηλός με τα υπάρχοντα μέτρα ασφαλείας, αλλά δεν είναι μηδενικός.
Η Susan Monarez, μικροβιολόγος και ειδικός στη δημόσια υγεία, δήλωσε στους New York Times ότι οι περιπτώσεις που παρουσιάζει η Anthropic αποτελούν πραγματικές ενδείξεις ότι κακόβουλοι παράγοντες επιχειρούν ήδη να αξιοποιήσουν προηγμένα συστήματα AI σε ευαίσθητη βιολογική έρευνα.
Αντίστοιχα, ο Andrew Weber του Council on Strategic Risks υποστηρίζει ότι τα ισχυρότερα μοντέλα που διαθέτουν προηγμένες δυνατότητες στη βιολογία θα πρέπει να είναι προσβάσιμα μόνο σε ελεγμένους και αξιόπιστους ερευνητές.
Η υπόθεση αναδεικνύει έτσι ένα από τα δυσκολότερα διλήμματα της εποχής της τεχνητής νοημοσύνης: πώς μπορούν τα ίδια εργαλεία που υπόσχονται να επιταχύνουν την ανάπτυξη φαρμάκων και νέων θεραπειών να παραμείνουν διαθέσιμα στην επιστημονική κοινότητα χωρίς να μετατραπούν σε εργαλεία υψηλού κινδύνου.
