Σοβαρά ερωτήματα για την προστασία των προσωπικών δεδομένων προκαλεί η λειτουργία του νέου AI agent Muse της Meta, καθώς εσωτερικές αναφορές εργαζομένων και δοκιμές καταγράφουν περιστατικά απρόσκλητης πρόσβασης σε ιδιωτικά μηνύματα, λανθασμένης εμφάνισης οικονομικών πληροφοριών και αποστολής συνομιλιών που δεν σχετίζονταν με τα αιτήματα των χρηστών.
Η εφαρμογή, η οποία κυκλοφόρησε τον Σεπτέμβριο και έχει ήδη ξεπεράσει τα 10 εκατομμύρια λήψεις, αποτελεί κεντρικό στοιχείο της στρατηγικής της Meta για την ανάπτυξη εσόδων από την τεχνητή νοημοσύνη.
Ωστόσο, τα προβλήματα που έχουν καταγραφεί από τις πρώτες εβδομάδες λειτουργίας της αναδεικνύουν τους κινδύνους που συνοδεύουν τη νέα γενιά ψηφιακών βοηθών, οι οποίοι αποκτούν εκτεταμένη πρόσβαση σε συσκευές και εφαρμογές προκειμένου να εκτελούν εργασίες για λογαριασμό των χρηστών, σημειώνει το Reuters.
Πρόσβαση σε μηνύματα του Signal και απρόσκλητες ειδοποιήσεις
Σύμφωνα με δεκάδες εσωτερικές αναρτήσεις εργαζομένων που εξέτασε το Reuters, το Muse φέρεται να εμφάνισε σε ορισμένες περιπτώσεις πληροφορίες από εφαρμογές τις οποίες οι χρήστες δεν είχαν συνδέσει συνειδητά με τον ψηφιακό βοηθό.
Μεταξύ των περιστατικών περιλαμβάνεται η εμφάνιση υπενθύμισης για απάντηση σε μήνυμα που είχε λάβει εργαζόμενη στο Signal, την υπηρεσία κρυπτογραφημένης επικοινωνίας που χρησιμοποιείται ευρέως από όσους δίνουν ιδιαίτερη έμφαση στην ιδιωτικότητα.
Αυτό από μόνο του είναι απαράδεκτο, καθώς στο Signal οι επικοινωνίες υποτίθεται ότι είναι αυστηρά απόρρητες μεταξύ των δύο ή περισσότερων επικοινωνούντων μερών, χωρίς πρόσβαση τρίτου.
Πρόσβαση σε τραπεζικούς λογαριασμούς χωρίς άδεια χρήστη
Άλλοι εργαζόμενοι ανέφεραν ότι το Muse τούς έστειλε πληροφορίες για τραπεζικoύς λογαριασμούς, παραγγελίες προϊόντων ή αιτήματα σχετικά με τη φροντίδα παιδιών, χωρίς να έχουν ζητήσει τέτοιες ενέργειες.
Σε μία από τις αναφορές, ο ψηφιακός βοηθός εμφανίστηκε να παραθέτει συγκεκριμένα υπόλοιπα και κινήσεις τραπεζικών λογαριασμών, παρότι ο χρήστης δεν είχε ζητήσει σχετική ενημέρωση.
Το Reuters δεν μπόρεσε να εξακριβώσει αν τα οικονομικά στοιχεία αντιστοιχούσαν σε πραγματικά δεδομένα άλλων χρηστών ή αν είχαν παραχθεί από το σύστημα μέσω λεγόμενων «παραισθήσεων» της τεχνητής νοημοσύνης.
Η έρευνα προχώρησε πέρα από τις εσωτερικές αναφορές. Σε συνεργασία με στελέχη της Signal και ερευνητές του AI Now Institute, το Reuters πραγματοποίησε δοκιμές για να διαπιστώσει πώς το Muse μπορούσε να αποκτήσει πρόσβαση σε μηνύματα της εφαρμογής.
Τα αποτελέσματα έδειξαν ότι σε συσκευές Android ο agent μπορούσε να αντλήσει περιεχόμενο μέσω της άδειας πρόσβασης στις ειδοποιήσεις της συσκευής.
Σε υπολογιστές Mac, αντίστοιχα, αξιοποιούσε συνδυασμό λειτουργιών προσβασιμότητας και λήψης στιγμιότυπων οθόνης, οι οποίες έχουν σχεδιαστεί για να διευκολύνουν τη χρήση των υπολογιστών από άτομα με αναπηρία. Οι ίδιες ενέργειες δεν κατέστη δυνατό να πραγματοποιηθούν στις δοκιμές με iPhone.
Προβλήματα και στις συναλλαγές, αγορές προϊόντων
Οι αναφορές των εργαζομένων δεν περιορίζονται στην πρόσβαση σε προσωπικές συνομιλίες. Έχουν καταγραφεί επίσης περιπτώσεις κατά τις οποίες το Muse παρουσίασε ανύπαρκτες αγορές, έδωσε λανθασμένες τιμές για προϊόντα ή προχώρησε σε ενέργειες χωρίς προηγούμενη έγκριση.
Σε ένα περιστατικό, εργαζόμενος ανέφερε ότι ο agent πραγματοποίησε κράτηση σε κατάλυμα της Airbnb χωρίς τη συγκατάθεσή του, με αποτέλεσμα να δημιουργηθεί μη επιστρέψιμη οικονομική υποχρέωση.
Άλλες αναφορές περιγράφουν μηνύματα που φαίνεται να αφορούσαν συνομιλίες ή συναλλαγές τρίτων, προκαλώντας ανησυχία για πιθανή ανάμειξη δεδομένων μεταξύ διαφορετικών λογαριασμών.
Η Meta έχει αποδώσει αρκετά από αυτά τα περιστατικά σε σφάλματα «παραγωγής πληροφοριών» από το μοντέλο τεχνητής νοημοσύνης, υποστηρίζοντας ότι ορισμένα έχουν ήδη αντιμετωπιστεί.
Ωστόσο, οι εσωτερικές αναφορές που εξέτασε το Reuters δείχνουν ότι παρόμοια προβλήματα καταγράφονταν από τα μέσα Σεπτεμβρίου και συνεχίζονταν και τον Νοέμβριο.
Αντιδράσεις από Signal, Apple και Google
Τα ευρήματα αναδεικνύουν ένα ευρύτερο πρόβλημα για την αγορά των AI agents. Για να εκτελούν εργασίες όπως η διαχείριση ηλεκτρονικής αλληλογραφίας, οι κρατήσεις και οι ηλεκτρονικές αγορές, τα συστήματα αυτά χρειάζονται πρόσβαση σε πολλές λειτουργίες των συσκευών. Η εκτεταμένη αυτή πρόσβαση, όμως, δημιουργεί νέους κινδύνους για την ασφάλεια και την ιδιωτικότητα.
Η Signal έχει ζητήσει να δημιουργηθούν ενιαίες τεχνικές δυνατότητες, που θα επιτρέπουν στις εφαρμογές να δηλώνουν ότι δεν επιθυμούν πρόσβαση από AI agents, ενώ οι κατασκευαστές λειτουργικών συστημάτων θα πρέπει να διασφαλίζουν ότι οι σχετικοί περιορισμοί εφαρμόζονται.
Η Apple ανακοίνωσε ότι η πρόσφατη αναβάθμιση του λειτουργικού της συστήματος για Mac περιορίζει τη χρήση των εργαλείων προσβασιμότητας από τους προγραμματιστές και εισάγει νέες άδειες ειδικά για agents.
Η Google, από την πλευρά της, εξετάζει επίσης αλλαγές που θα προσφέρουν στους χρήστες μεγαλύτερο έλεγχο στις εξουσιοδοτήσεις που παραχωρούν ή λαμβάνονται αυτόματα (by default).
Το περιστατικό αποκτά ιδιαίτερη σημασία για τη Meta, καθώς το Muse αποτελεί ένα από τα ταχύτερα αναπτυσσόμενα προϊόντα τεχνητής νοημοσύνης στην αγορά, με σημαντική προώθηση μέσω του Facebook, του Instagram και του WhatsApp.
Η δεδομένη σύνδεση του Muse με το ευρύτερο οικοσύστημα της Meta, συμπεριλαμβανομένων των Facebook Pages και των διαφημιστικών λογαριασμών, δημιουργεί πρόσθετα ερωτήματα για τα όρια πρόσβασης και προστασίας των δεδομένων των χρηστών.
