Estás leyendo la publicación: El lado oscuro de TikTok: cómo la IA de la aplicación muestra a los usuarios contenido potencialmente dañino
TikTok ha estado recomendando contenido sobre autolesiones y trastornos alimentarios a algunos usuarios varios minutos después de unirse a la plataforma, según un nuevo informe publicado el miércoles por la Centro de EE. UU. para contrarrestar el odio digital. En un experimento, los investigadores se hicieron pasar por usuarios de 13 años interesados en la imagen corporal y el contenido de salud mental mediante la creación de cuentas de TikTok.
Hicieron una pausa en los videos sobre estos temas, fingiendo interés. Se abrieron cuentas en países de todo el mundo, incluidos Estados Unidos, Reino Unido, Canadá y Australia. Se descubrió que el algoritmo de TikTok recomendaba contenido relacionado con el suicidio tan pronto como 2 minutos y 6 segundos después de unirse a la aplicación. El contenido de trastornos alimentarios se recomendó en solo 8 minutos.
Los investigadores descubrieron 56 hashtags de TikTok asociados con videos de trastornos alimentarios que recibieron más de 13,2 mil millones de visitas en este estudio.
La plataforma de videos recuerda que el contenido lanzado es único para cada persona, y la plataforma social sigue enfocada en crear un espacio seguro y cómodo para todos,
según un portavoz de TikTok.
TikTok es capaz de detectar las vulnerabilidades de los usuarios e intentar explotarlas
Las redes sociales pueden ser perjudiciales para la salud mental de los usuarios. Sin embargo, lo que es aún más preocupante es que algunas plataformas, como TikTok, parecen estar diseñadas específicamente para explotar las vulnerabilidades de los usuarios. Los algoritmos de TikTok están diseñados para mantener a los usuarios interesados el mayor tiempo posible. Y una forma de hacerlo es alimentando constantemente a los usuarios con el contenido que encuentran atractivo, incluso si es dañino.
Por ejemplo, se sabe que TikTok promueve el suicidio, los trastornos alimentarios y los problemas de imagen corporal. Esto es especialmente dañino para los adolescentes, que ya son más vulnerables a los problemas de salud mental. Lo que es aún más alarmante es que TikTok parece estar apuntando específicamente a los adolescentes con este contenido. Esto es muy peligroso, ya que puede exacerbar aún más su crisis de salud mental.
TikTok, que fue lanzado a nivel mundial en 2017 por la empresa china ByteDance y utiliza algoritmos basados en datos personales, incluidos Me gusta, suscripciones, tiempo de visualización e intereses de los usuarios, se ha convertido en la aplicación de redes sociales de más rápido crecimiento en el mundo, con mil millones de usuarios activos mensuales. previsto para 2021.
Lee más sobre TikTok:
