Así funciona el algoritmo de TikTok que también enseña suicidios a tus hijos

Las alarmas saltaron el domingo. Las imágenes de un hombre con barba gris y sentado frente a su escritorio disparándose con un rifle comenzaron a circular en TikTok. Con cerca de 600 millones de usuarios activos, la red social china de microvídeos ha 'asaltado' los smartphones, sobre todo, de los más jóvenes. En Estados Unidos suma 100 millones de usuarios y en España acumula más de 14 millones de descargas. Antes de propagarse por la app musical, el vídeo se publicó en un directo de Facebook. Pero el funcionamiento de TikTok podría estar complicando que los usuarios dejen de ver este tipo de vídeos.

Sí por algo destaca TikTok es porque es muy fácil de utilizar. Al entrar por primera vez, la app pide al usuario que seleccione sus intereses (comedia, entretenimiento, deporte, belleza...) Se trata de una primera toma de contacto para que la plataforma muestre vídeos más personalizados. A partir de ahí, la interfaz de TikTok ofrece al usuario unas opciones más o menos parecidas a las de otras redes sociales. Una pantalla de inicio, otra para ver las tendencias, la bandeja de entrada donde recibe notificaciones y mensajes, y otra para ver y configurar nuestro perfil. Desde otra opción, representada con el símbolo "+", creamos y editamos nuestros vídeos de forma sencilla .

El vídeo del suicidio ha aparecido en el apartado 'Para ti', dentro de la pantalla de inicio. En esta página los usuarios pasan la mayor parte de su tiempo. Deslizando el dedo de abajo hacia arriba, los tiktokers pueden ver cientos de vídeos cortos en una hora. Aquí es donde entra en juego el algoritmo de recomendación de ByteDance —la empresa matriz de TikTok—, una de las claves del éxito de la aplicación.

Según Business Insider, el algoritmo lo desarrollaron el Laboratorio de Inteligencia Artificial de ByteDance y la Universidad de Pekín. Al principio se creó para Touitao, el agregador de noticias de ByteDance. Y ahora lo utilizan todas las app de la compañía china. ¿Pero cómo funciona? El 18 de junio, TikTok reveló en un extenso artículo publicado en su web algunos de los secretos de su algoritmo de recomendación.

Como hacen otras como Instagram o YouTube, el algoritmo de la plataforma musical se basa en cómo interactuemos con la app. Hay varios factores que ayudan a moldear las publicaciones que TikTok sugerirá a cada perfil. Los vídeos que nos gustan, los que creamos, los comentarios o las cuentas que seguimos. "Si un usuario termina de ver un vídeo más largo de principio a fin, recibirá mayor peso que un indicador débil, como por ejemplo si el creador y el espectador del vídeo están en el mismo país", señaló la plataforma. También influye, aunque algo menos, cómo esté configurado nuestro perfil y nuestro smartphone.

"Recopila potencialmente más datos de usuarios de otras aplicaciones, y por lo tanto es capaz de perfilar mejor al usuario y recomendar qué vídeos son más probables para que disfrute", explicó a Business Insider Nikita Aggarwal, una investigadora del Instituto de Internet de Oxford. "Cada clic revela las preferencias del usuario, hasta el punto de que esto le da a TikTok más información útil sobre sus preferencias", añadió.

Contra el contenido suicida

El usuario también puede elegir que tipo de vídeos no quiere ver. Para ello, tendrá que presionar sobre el vídeo y seleccionar la opción de que no le interesa esa publicación. También puede informar a TikTok sobre un vídeo que incumpla las normas de la comunidad y ocultar los contenidos de cualquier creador. "Nuestro objetivo es encontrar un equilibrio entre sugerir un contenido que sea relevante para el usuario y, al mismo tiempo, ayudarle a encontrar contenido y creadores que le animen a explorar experiencias que de otro modo no podría ver", detalla la red social.

Los vídeos de personas que aparecen autolesionándose no son nuevos. Ya se han visto antes en Instagram, Facebook o Reddit. Pero, según The Verge, como los vídeos de TikTok aparecen en su página principal, podría ser más difícil evitar que se reproduzcan las imágenes del suicidio. "Estamos prohibiendo las cuentas que repetidamente intentan subir clips, y apreciamos a los miembros de nuestra comunidad que han reportado el contenido y advertido a otros contra su visualización", ha comentado la compañía a The Verge. TikTok ya avisa en sus 'normas de la comunidad', expuestas dentro de la app, que eliminará cualquier contenido de carácter suicida. Incluidos aquellos que "ensalcen, promocionen o enaltezcan" el suicidio.