Αντιμέτωπο με νέες κατηγορίες από τις ευρωπαϊκές ρυθμιστικές αρχές βρίσκεται το TikTok, καθώς η Ευρωπαϊκή Επιτροπή θεωρεί ότι ο αλγόριθμος προτάσεων της πλατφόρμας μπορεί να εγκλωβίζει τους χρήστες – και ιδιαίτερα τους ανήλικους – σε έναν αδιάκοπο κύκλο παρόμοιων βίντεο (loop), με δυνητικά επιβλαβείς συνέπειες για την ψυχική τους υγεία, πέραν του απλού εθισμού.
Οι προκαταρκτικές διαπιστώσεις που ανακοινώθηκαν την Παρασκευή 6 Νοεμβρίου εντάσσονται στο πλαίσιο της ευρωπαϊκής νομοθεσίας για τις ψηφιακές υπηρεσίες (Digital Services Act – DSA).
Η μητρική εταιρεία του TikTok, ByteDance, κινδυνεύει με πρόστιμο που μπορεί να φτάσει έως και το 6% του παγκόσμιου ετήσιου κύκλου εργασιών της, εφόσον δεν αντιμετωπίσει τις παραβάσεις.
Ο μηχανισμός των «rabbit holes»
Στο επίκεντρο της υπόθεσης βρίσκεται το λεγόμενο φαινόμενο «rabbit hole», δηλαδή η τάση του αλγορίθμου να προτείνει διαρκώς περιεχόμενο παρόμοιο με εκείνο που παρακολουθεί ή με το οποίο αλληλεπιδρά ο χρήστης.
Ένα βίντεο που συγκεντρώνει ένα like ή παρατεταμένο χρόνο θέασης μπορεί να οδηγήσει σε διαδοχικές προτάσεις με αντίστοιχο περιεχόμενο, περιορίζοντας την έκθεση σε διαφορετικές θεματικές.
Η Κομισιόν εκτιμά ότι η επαναλαμβανόμενη έκθεση σε βίντεο που σχετίζονται με τη θλίψη, την απομόνωση ή την εικόνα του σώματος μπορεί να έχει αρνητικές επιπτώσεις στην ψυχική υγεία.
Οι κίνδυνοι θεωρούνται ιδιαίτερα σημαντικοί για τους ανηλίκους, σε μια περίοδο κατά την οποία αυξάνονται διεθνώς οι ανησυχίες για τη σχέση των μέσων κοινωνικής δικτύωσης με την ψυχική υγεία των παιδιών και των εφήβων.
Tο φαινόμενο δεν αφορά αποκλειστικά το TikTok. Aφορά ευρύτερα τον τρόπο με τον οποίο οι πλατφόρμες κρατούν τον χρήστη μπροστά στην οθόνη.
Διότι το σύστημα με το φαινόμενο «rabbit hole» το ακολουθούν και άλλες πλατφόρμες όπως το youtube και το Facebook, αν και με διαφορετικούς τρόπους προτάσεων για το χρήστη. Όμως το τελικό αποτέλεσμα είναι ο εθισμός του τελευταίου και αυτό έχει σημαντικές επιπτώσεις στην ψυχική και ενδεχομένως στην ψυχοσωματική υγεία.
Τι ζητά η Ευρωπαϊκή Επιτροπή
Οι ευρωπαϊκές αρχές υποστηρίζουν ότι το TikTok δεν έλαβε αναλογικά, εύλογα και αποτελεσματικά μέτρα για τον περιορισμό των κινδύνων που συνδέονται με τον σχεδιασμό της πλατφόρμας.
Μεταξύ των αλλαγών που ζητούν περιλαμβάνονται η αναμόρφωση του αλγορίθμου της ενότητας «For You», η μεγαλύτερη αξιοποίηση των ρητών προτιμήσεων των χρηστών και η βελτίωση της προσβασιμότητας και της ευχρηστίας των εργαλείων ελέγχου του περιεχομένου.
Παράλληλα, η Επιτροπή ζητά τακτικούς ελέγχους του αλγορίθμου, ώστε να αξιολογούνται οι επιπτώσεις του στη συμπεριφορά και την ευημερία των χρηστών.
Η διαδικασία βρίσκεται ακόμη στο στάδιο των προκαταρκτικών διαπιστώσεων και δεν συνιστά οριστική απόφαση περί παράβασης.
Η απάντηση του TikTok και η ευρύτερη έρευνα
Το TikTok απέρριψε τις κατηγορίες, υποστηρίζοντας ότι οι διαπιστώσεις της Ευρωπαϊκής Επιτροπής περιλαμβάνουν ανακριβείς ισχυρισμούς και παρουσιάζουν με στρεβλό τρόπο την αρχιτεκτονική της πλατφόρμας και τις προσπάθειές της για την προστασία των χρηστών.
Η εταιρεία υποστήριξε επίσης ότι διαθέτει εργαλεία μέσω των οποίων οι χρήστες μπορούν να ελέγχουν άμεσα και εύκολα την εμπειρία περιήγησής τους.
Οι νέες κατηγορίες αποτελούν μέρος ευρύτερης έρευνας της ΕΕ για το TikTok. Τον Φεβρουάριο, η Επιτροπή είχε διατυπώσει προκαταρκτικές διαπιστώσεις σχετικά με τον εθιστικό σχεδιασμό της εφαρμογής, την ανεπαρκή προστασία των παιδιών και τις δυσκολίες που αντιμετωπίζουν οι ερευνητές στην πρόσβαση σε δημόσια δεδομένα.
Παράλληλα, οι ευρωπαϊκές αρχές διερευνούν ανάλογους κινδύνους που συνδέονται με τα συστήματα προτάσεων περιεχομένου του Facebook και του Instagram, τα οποία ανήκουν στη Meta.
Η εξέλιξη αυτή εντάσσεται στη γενικότερη προσπάθεια της ΕΕ να επιβάλει αυστηρότερες υποχρεώσεις στις μεγάλες ψηφιακές πλατφόρμες για την αντιμετώπιση επιβλαβούς περιεχομένου και την προστασία των χρηστών.
