Η εταιρεία τεχνητής νοημοσύνης Anthropic εξέδωσε μια νέα προειδοποίηση σχετικά με τους πιθανούς κινδύνους ασφαλείας της τεχνολογίας, αναφέροντας ότι τα μικρά μοντέλα AI απέχουν «μόλις λίγους μήνες» από το να αναπτύξουν τις απαραίτητες δυνατότητες για να αναπαράγονται αυτόνομα σε συσκευές συνδεδεμένες στο διαδίκτυο μέσα στα σπίτια.
Σύμφωνα με την εταιρεία, τα μοντέλα αυτά θα μπορούσαν να διεισδύσουν σε έξυπνες οικιακές συσκευές, όπως έξυπνους φούρνους ή αποκωδικοποιητές Android TV, αξιοποιώντας την υπολογιστική τους ισχύ για να εκτελούνται και να εξαπλώνονται σε άλλες συσκευές, χωρίς να εξαρτώνται από δαπανηρά κέντρα δεδομένων.
Ένα τέτοιο μοντέλο τεχνητής νοημοσύνης θα ήταν «δύσκολο να απενεργοποιηθεί», σημείωσε η Anthropic σε ανάρτησή της, «καθώς δεν υπάρχει κεντρικό σημείο διακοπής της λειτουργίας του». Αν και η εταιρεία παραδέχθηκε ότι δεν υπάρχει ακόμη ένας «πλήρως ανεξέλεγκτος μηχανισμός αναπαραγωγής», υπογράμμισε ότι οι αυτόνομοι πράκτορες AI «γίνονται όλο και πιο ικανοί στο να ολοκληρώνουν τα μεμονωμένα βήματα στην αλυσίδα αναπαραγωγής και να μεταβιβάζουν τις προσαρμογές τους σε μελλοντικά αντίγραφα του εαυτού τους».
Η πρόσφατη έρευνα της Anthropic προστίθεται στις αυξανόμενες ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης, οι οποίες εκτείνονται από την εκτέλεση κυβερνοεπιθέσεων έως το ενδεχόμενο η τεχνολογία να τεθεί εκτός ελέγχου. Για να δοκιμάσει τη δυνατότητα αυτοαναπαραγωγής, η εταιρεία πραγματοποίησε διάφορες δοκιμές. Σε μία από αυτές, εκτέλεσε ένα μικρό μοντέλο της Google, το Gemma4-26B-A4B, σε ένα δίκτυο από 15 φθηνούς αποκωδικοποιητές Android TV. Όπως σημειώνεται, αυτού του είδους οι συσκευές συχνά διαθέτουν αδύναμη ασφάλεια, γεγονός που διευκολύνει τη διείσδυση. Εάν ένα μοντέλο είναι πολύ μεγάλο για να χωρέσει σε μία μόνο συσκευή, μπορεί «να χωριστεί σε κομμάτια ή θραύσματα» και να εκτελεστεί ταυτόχρονα σε πολλαπλές συσκευές.
«Στην πράξη, ένα σκουλήκι AI δεν θα αποτελούνταν απαραίτητα από ένα μόνο μοντέλο ή στρατηγική. Ένα σμήνος από διαφορετικά μοντέλα που αναπτύσσονται σε διαφορετικούς τύπους υλικού χρησιμοποιώντας ποικίλα σχήματα αναπαραγωγής θα μπορούσε να αντιπροσωπεύει ένα πιο ρεαλιστικό “σενάριο χειρότερης περίπτωσης” επιθέσεων», ανέφερε η εταιρεία. Παρά το γεγονός ότι παραμένει «αβέβαιο ακριβώς τι μορφή θα λάβει η αυτόνομη αναπαραγωγή της AI», η Anthropic προειδοποίησε ότι θα μπορούσε να πρόκειται για ένα «αργό, κατανεμημένο» σύστημα που βασίζεται σε μη ασφαλείς συσκευές ή ένα «ισχυρό μοντέλο κυβερνοεπιθέσεων που παραβιάζει κέντρα δεδομένων με υψηλό ρυθμό».
«Ως πρόβλεψη που ξεπερνά τα πειράματά μας, αναμένουμε ένα μέλλον κατακλυσμένο από πράκτορες που θα εκτελούνται σε όλους τους τύπους υλικού, συμπεριλαμβανομένων ορισμένων που δεν βρίσκονται υπό ανθρώπινο έλεγχο», τόνισε η Anthropic.
Παράλληλα, η εταιρεία πρόσθεσε ότι «η άνοδος των αργών μηχανισμών αναπαραγωγής θα αποτελούσε επίσης προμηνυτή για πιο επιθετικούς και ταχύτερους, οι οποίοι μπορούν να παραβιάσουν πιο θωρακισμένα μηχανήματα ή να κλέψουν αποτελεσματικά κλειδιά API».
