Μια εμπιστευτική εσωτερική έκθεση του TikTok εγείρει σοβαρά ερωτήματα για τον τρόπο με τον οποίο η πλατφόρμα αξιολόγησε την ασφάλεια των χρηστών απέναντι στην ανάγκη να μετρήσει την αλληλεπίδρασή τους με την εφαρμογή. Σύμφωνα με δημοσίευμα του Bloomberg Businessweek, η εταιρεία φέρεται να διατήρησε σκόπιμα εκατομμύρια Αμερικανούς χρήστες εκτός μιας νέας δικλίδας ασφαλείας, στο πλαίσιο πειράματος πάνω στη λειτουργία του αλγορίθμου της.
Η συγκεκριμένη παρέμβαση είχε σχεδιαστεί ώστε να περιορίζει την επαναλαμβανόμενη προβολή επιβλαβούς ή ιδιαίτερα φορτισμένου περιεχομένου, εμποδίζοντας τους χρήστες να εγκλωβίζονται σε λεγόμενες «φούσκες φίλτρων». Ωστόσο, όταν άρχισε να εφαρμόζεται στις αρχές του 2022, ενεργοποιήθηκε μόνο για το 90% των χρηστών του TikTok στις Ηνωμένες Πολιτείες.
Το υπόλοιπο 10% παρέμεινε στην παλαιότερη εκδοχή της εφαρμογής, ώστε η εταιρεία να συγκρίνει τη συμπεριφορά των δύο ομάδων και να μετρήσει κατά πόσο η νέα ρύθμιση επηρέαζε τον χρόνο χρήσης, την επισκεψιμότητα και άλλους βασικούς δείκτες. Με βάση το τότε μέγεθος της πλατφόρμας, η ομάδα ελέγχου εκτιμάται ότι περιλάμβανε περίπου 15 εκατομμύρια ανθρώπους.
Η περίπτωση του 16χρονου Τσέις Νάσκα
Μεταξύ των χρηστών που φέρονται να εντάχθηκαν τυχαία στην ομάδα ελέγχου ήταν και ο 16χρονος Τσέις Νάσκα από τη Νέα Υόρκη, ο οποίος αυτοκτόνησε τον Φεβρουάριο του 2022.
Η εσωτερική έκθεση, η οποία συντάχθηκε τον Μάρτιο του 2023 από στελέχη των ομάδων ασφαλείας και αλγορίθμων του TikTok, εξέτασε αναλυτικά το ιστορικό του λογαριασμού του. Σύμφωνα με τα ευρήματά της, ο λογαριασμός είχε εγκλωβιστεί σε μια «φούσκα φίλτρων», μέσα στην οποία ο αλγόριθμος πρότεινε επανειλημμένα βίντεο σχετικά με την αυτοκτονία, τον αυτοτραυματισμό, τη μοναξιά, την απελπισία και την κατάθλιψη.
Το έγγραφο φέρεται να αναφέρει ότι οι στρατηγικές αποτροπής τέτοιων φαινομένων δεν ενεργοποιήθηκαν στον συγκεκριμένο χρήστη «εκ σχεδιασμού», καθώς ο λογαριασμός του είχε επιλεγεί για το πείραμα σύγκρισης.
Η συγκεκριμένη διατύπωση αποκτά ιδιαίτερη βαρύτητα, καθώς στις ΗΠΑ βρίσκονται σε εξέλιξη χιλιάδες δικαστικές υποθέσεις στις οποίες εταιρείες κοινωνικής δικτύωσης κατηγορούνται ότι σχεδίασαν προϊόντα με εθιστικά και δυνητικά επιβλαβή χαρακτηριστικά, κυρίως για ανηλίκους.
Χιλιάδες βίντεο σε διάστημα δύο εβδομάδων
Οι ομάδες του TikTok ανέλυσαν 7.563 βίντεο που είχαν προταθεί στον Τσέις κατά τις δύο εβδομάδες πριν από τον θάνατό του. Περίπου το 73% των βίντεο συνδεόταν με κοινές θεματικές, όπως δυσκολίες ψυχικής υγείας, αφηγήσεις επιζώντων, θλίψη, μοναξιά και προβλήματα στις προσωπικές σχέσεις, χωρίς ωστόσο να παραβιάζει απαραίτητα τους κανόνες της πλατφόρμας.
Σχεδόν ένα επιπλέον 10% κρίθηκε ότι παραβίαζε τις πολιτικές του TikTok, οι οποίες απαγορεύουν περιεχόμενο που προωθεί, εξιδανικεύει ή παρουσιάζει ως φυσιολογική την αυτοκτονία και τον αυτοτραυματισμό.
Η έκθεση σημειώνει ότι μεγάλο μέρος των αναζητήσεων του εφήβου αφορούσε τον αθλητισμό και την κωμωδία. Παράλληλα, όμως, είχε αναζητήσει τραγούδια και αναρτήσεις που σχετίζονταν με τη μοναξιά και την απελπισία. Αυτές οι αναζητήσεις εκτιμάται ότι λειτούργησαν ως σήμα προς τον αλγόριθμο, ο οποίος άρχισε να του προτείνει ολοένα περισσότερα βίντεο παρόμοιας θεματολογίας.
Την ημέρα πριν από τον θάνατό του, ο Τσέις χρησιμοποίησε το TikTok για περισσότερες από πέντε ώρες. Σύμφωνα με την εσωτερική ανάλυση, τις τελευταίες ώρες είχε παρακολουθήσει και αποθηκεύσει σειρά ιδιαίτερα επιβαρυντικών βίντεο.
Η ισορροπία μεταξύ ασφάλειας και «engagement»
Στο εσωτερικό έγγραφο αναφέρεται ότι η απόφαση για το ποιοι χρήστες θα λάμβαναν τη νέα λειτουργία ασφαλείας αποτέλεσε μια «λεπτή ισορροπία» ανάμεσα στην προστασία τους και στη δυνατότητα μέτρησης της επίδρασης στους ημερήσιους ενεργούς χρήστες και στους βασικούς επιχειρηματικούς δείκτες.
Οι ημερήσιοι ενεργοί χρήστες αποτελούν ένα από τα σημαντικότερα μεγέθη με τα οποία επενδυτές και αναλυτές αξιολογούν τις πλατφόρμες κοινωνικής δικτύωσης. Για χρόνια, εταιρείες του κλάδου δέχονται επικρίσεις ότι δίνουν προτεραιότητα στην ανάπτυξη και στην αύξηση του χρόνου παραμονής των χρηστών, ακόμη και όταν οι επιλογές αυτές δημιουργούν κινδύνους για την ψυχική υγεία.
Μετά την εξέταση της υπόθεσης, οι συντάκτες της έκθεσης πρότειναν να μειωθεί η ομάδα ελέγχου σε λιγότερο από 1% των χρηστών και η διάρκεια τέτοιων πειραμάτων να περιοριστεί από έξι ή δώδεκα μήνες σε μόλις επτά ημέρες.
Ακόμη και μια ομάδα ελέγχου της τάξης του 1%, όμως, θα άφηνε εκτός της προστατευτικής λειτουργίας τουλάχιστον 1,8 εκατομμύρια χρήστες στις ΗΠΑ, οι οποίοι θα εξακολουθούσαν να διατρέχουν κίνδυνο εγκλωβισμού σε επαναλαμβανόμενο περιεχόμενο.
Το TikTok δήλωσε στο Bloomberg Businessweek ότι το πείραμα του 2022 αποτελούσε συνήθη διαδικασία αξιολόγησης των μέτρων ασφαλείας και ότι έκτοτε έχει βελτιώσει τον τρόπο με τον οποίο πραγματοποιεί αντίστοιχες δοκιμές, χωρίς να δώσει περισσότερες λεπτομέρειες.
Οι απαντήσεις του TikTok
Εκπρόσωπος της εταιρείας ανέφερε ότι το TikTok παραμένει βαθιά προσηλωμένο στην ασφάλεια και την ευημερία των χρηστών, ιδιαίτερα των εφήβων. Πρόσθεσε ότι η πλατφόρμα επενδύει σημαντικά σε συστήματα εντοπισμού επικίνδυνου περιεχομένου και σε ειδικές ομάδες που αφαιρούν αναρτήσεις οι οποίες παραβιάζουν τους κανόνες της.
Η εταιρεία έχει επίσης υποστηρίξει ότι δεν θεωρεί πως η χρήση της πλατφόρμας προκαλεί αυτοκτονίες, ενώ επισημαίνει ότι αποκλείει αναζητήσεις, εμφανίζει προειδοποιήσεις και παραπέμπει τους χρήστες σε υπηρεσίες βοήθειας όταν εντοπίζονται σχετικοί όροι.
Το εσωτερικό έγγραφο, ωστόσο, δεν είχε αναφερθεί στις γραπτές απαντήσεις που έστειλε το TikTok στο αμερικανικό Κογκρέσο τον Μάιο του 2023. Λίγες εβδομάδες νωρίτερα, ο διευθύνων σύμβουλος της εταιρείας, Σου Τσιου, είχε καταθέσει ενώπιον βουλευτών, δηλώνοντας ότι η ασφάλεια των εφήβων αποτελεί βασική προτεραιότητα.
Χιλιάδες αγωγές κατά των κοινωνικών δικτύων
Τα τελευταία τέσσερα χρόνια έχουν κατατεθεί στις ΗΠΑ περισσότερες από 4.000 αγωγές προσωπικής βλάβης κατά εταιρειών κοινωνικής δικτύωσης, με το επιχείρημα ότι οι πλατφόρμες τους επιδείνωσαν την ψυχική υγεία ανηλίκων.
Το TikTok έχει μέχρι στιγμής συμβιβαστεί εξωδικαστικά σε όλες τις αντίστοιχες υποθέσεις που επρόκειτο να οδηγηθούν σε δίκη μέσα στο 2026. Η αγωγή που είχαν καταθέσει οι γονείς του Τσέις απορρίφθηκε αρχικά, καθώς δικαστήριο έκρινε ότι η εταιρεία προστατεύεται από τη νομοθετική ασυλία που παρέχεται στις διαδικτυακές πλατφόρμες. Η υπόθεση βρίσκεται σε διαδικασία έφεσης.
Η έκθεση για τον λογαριασμό του 16χρονου παραμένει σφραγισμένη με δικαστική εντολή. Παρ’ όλα αυτά, η αποκάλυψή της εντείνει τη συζήτηση για το κατά πόσο οι τεχνολογικές εταιρείες μπορούν να χρησιμοποιούν ανηλίκους σε πειράματα αλγορίθμων, όταν οι δοκιμές σχετίζονται με περιεχόμενο που μπορεί να επηρεάσει άμεσα την ψυχική τους υγεία.
