Este artículo aborda el tema del suicidio. Si usted o alguien que conoce necesita ayuda, la línea nacional de prevención del suicidio y crisis en los EE. UU. está disponible llamando o enviando un mensaje de texto al 988. También hay un chat en línea en 988lifeline.org. Las líneas de ayuda fuera de los EE. UU. se pueden encontrar en www.iasp.info/suicidalthoughts.
En tan solo cinco minutos después de unirse a TikTok, adolescentes franceses virtuales visualizaron un video que expresaba tristeza.
Dentro de las tres horas siguientes, los feeds “Para ti” de TikTok, pertenecientes a cuentas de adolescentes simuladas creadas para la investigación, comenzaron a recomendar videos que mostraban métodos para suicidarse.
“Ni siquiera les ‘gustó’ (el contenido triste). No lo compartieron. No se suscribieron a nada de eso. Simplemente lo vieron”, declaró Piotr Sapiezynski, científico investigador asociado en la Universidad Northeastern, quien analizó la progresión algorítmica. “Y solo por el hecho de ver esos videos y omitir otros, estaban señalando implícitamente a TikTok que ese era el tipo de contenido que les interesaba.”
La transición de videos con contenido triste a videos relacionados con el suicidio está documentada en una nueva investigación de la Universidad Northeastern y Amnistía Internacional, titulada “Dragged into the Rabbit Hole” (Arrastrados a la Madriguera). El estudio revela que en Francia, el feed “Para ti” de TikTok –un flujo personalizado de videos cortos que recomienda contenido según las visualizaciones– está empujando a niños y jóvenes que interactúan con contenido sobre salud mental hacia un ciclo de depresión, autolesiones y contenido relacionado con el suicidio.
Esta investigación es una continuación de los informes de Amnistía de 2023, Driven into the Darkness (Empujados a la Oscuridad): Cómo TikTok Fomenta la Autolesión y la Ideación Suicida, y “I feel exposed” (Me siento expuesto): Atrapados en la red de vigilancia de TikTok, que, según la organización, “ponen de manifiesto los abusos sufridos por niños y jóvenes que utilizan TikTok”.
Al igual que en los informes anteriores, “Arrastrados a la Madriguera” incluye relatos personales de cómo las experiencias de los jóvenes se han visto moldeadas por su interacción con TikTok.
“Ver a personas que se autolesionan, personas que dicen qué medicamentos tomar para acabar con todo, influye y te anima a hacerte daño a ti mismo”, afirma Maëlle, de 18 años, en el informe.
“Arrastrados a la Madriguera” se centra en TikTok en Francia, donde siete familias –dos de las cuales han sufrido la pérdida de un hijo– demandan a la empresa de redes sociales de propiedad china por supuestamente no moderar contenido dañino y exponer a los niños a material que pone en peligro sus vidas.
En Francia, TikTok también debe cumplir con la Ley de Servicios Digitales (Digital Services Act) de la Unión Europea, que busca crear un espacio digital más seguro en el que se protejan los derechos fundamentales de los usuarios mediante la regulación de servicios en línea como las redes sociales, los mercados, las tiendas de aplicaciones y los servicios de viajes y alojamiento en línea.
Para llevar a cabo la investigación más reciente, los investigadores de Amnistía crearon cuentas en TikTok para dos niñas simuladas de 13 años y un niño simulado de 13 años.
En los primeros cinco minutos de navegación y antes de señalar cualquier preferencia, los feeds “Para ti” de las tres cuentas presentaron contenido que los investigadores franceses calificaron como “triste/depresivo”. Los investigadores permitieron que esos videos tristes se reprodujeran y omitieron otros contenidos. En un plazo de 15 a 20 minutos, los tres feeds estaban “casi exclusivamente” llenos de videos relacionados con la salud mental, con hasta la mitad de los videos que contenían contenido “depresivo”, según los investigadores. Dos de las tres cuentas tenían videos que expresaban pensamientos suicidas en menos de 45 minutos, según los investigadores.
“En tan solo tres o cuatro horas de interacción con el feed “Para ti” de TikTok, las cuentas de prueba de adolescentes fueron expuestas a videos que romantizaban el suicidio o mostraban a jóvenes expresando intenciones de acabar con sus vidas, incluida información sobre métodos de suicidio”, declaró Lisa Dittmer, investigadora de Amnistía Internacional sobre los derechos digitales de los niños y jóvenes, en un comunicado de prensa.
Pero los investigadores franceses querían determinar si la progresión de la tristeza al contenido suicida era única en estas cuentas o reflejaba un problema más amplio en TikTok en Francia.
Por lo tanto, el estudiante de doctorado de Northeastern, Levi Kaplan, exportó las listas de reproducción de las cuentas de los adolescentes simulados y configuró 10 cuentas francesas automatizadas que replicaron el experimento.
“Nuestras pruebas automáticas fueron diseñadas como un complemento a esas pruebas manuales para ver si se trata de un problema sistémico”, dijo Kaplan.
Sapiezynski y Kaplan descubrieron que sí lo era.
Los videos específicos recomendados no eran necesariamente los mismos que se les presentaban a las cuentas manuales, según los investigadores. Sin embargo, Sapiezynski y Kaplan dijeron que tanto las cuentas manuales como las automatizadas vieron cantidades similares de videos relacionados con la tristeza, la depresión y (en algunos casos) el suicidio.
Sapiezynski y Kaplan advierten que este hallazgo no necesariamente significa que el algoritmo de TikTok esté ofreciendo resultados similares en los Estados Unidos o en países de habla inglesa.
“No lo medimos, así que no lo sabemos”, dijo Sapiezynski. “Pero es totalmente posible que si intentamos repetir este estudio en los EE. UU., veamos mucho menos contenido suicida porque quizás TikTok invierte más dinero en monitorear el contenido en inglés, mientras que normalmente tendrá un equipo más pequeño y menos recursos para monitorear el contenido en otros idiomas”.
Sin embargo, Sapiezynski señaló: “El francés es un idioma importante hablado por una gran población”.
TikTok criticó la investigación.
“Con más de 50 funciones y configuraciones diseñadas específicamente para apoyar la seguridad y el bienestar de los adolescentes, y con 9 de cada 10 videos que infringen las normas eliminados antes de que se vean, proporcionamos de forma proactiva experiencias para adolescentes seguras y apropiadas para su edad”, declaró un portavoz de TikTok en un comunicado. “Sin tener en cuenta cómo los usuarios reales utilizan TikTok, este ‘experimento’ fue diseñado para llegar a un resultado predeterminado. Los autores admiten que la gran mayoría (95%) del contenido que se mostró a sus bots preprogramados no estaba relacionado con la autolesión”.
Mientras tanto, Amnistía Internacional en Francia incluyó una larga lista de recomendaciones para la comisión que hace cumplir la DSA y otras regulaciones, para los gobiernos de los Estados miembros de la Unión Europea y de Francia, y para TikTok.
“Deben tomarse medidas vinculantes y eficaces para obligar a TikTok a que finalmente haga que su aplicación sea segura para los jóvenes en la Unión Europea y en todo el mundo”, dijo Katia Roux, responsable de defensa de Amnistía Francia.
