Moderación de contenido en TikTok: Violencia gráfica y sexual
La aplicación de videos se enfrenta a una nueva polémica debido al tratamiento que tiene parte del material que debe ser prohibido debido a su contenido que vincula a niños y niñas.
La moderación de contenido siempre ha sido un trabajo bastante arduo y que está estrechamente relacionado a las redes sociales, aunque, según reportes recientes, quienes más sufrirían con esta labor serían los trabajadores vinculados a TikTok. ¿Con qué clase de material deben lidiar las personas que cuidan a la plataforma?
Teleperformance, es una empresa ligada a la moderación de contenido y que trabaja directamente con TikTok. Ahora bien, durante el 2020 parte de su equipo fue designado para una gran misión. Esta consiste en enseñar a la IA de la plataforma a detectar el material que no debe estar en la aplicación.
Sin embargo, nadie esperaba que parte de esta labor estuviera ligada a visualizar imágenes de niños involucrados en violencia física y sexual. Posteriormente, una trabajadora de la misma empresa tuvo acceso a contenido similar, por lo que, decidió contactar al FBI pero nunca tuvo respuesta.
¿En dónde queda este material?
Según Forbes, el presidente de Teleperformance, Akash Pugalia, la compañía no utiliza videos con contenido explícito para capacitar a los equipos encargados de moderar los contenidos en la aplicación. Este material tampoco sería almacenado en sus “herramientas de calibración”.
Aunque, nuevamente surgen las dudas, ya que en ningún momento se dan detalles sobre esta herramienta. Por otra parte, Pugalia se negó a responder interrogantes vinculadas a cuántas personas tienen acceso a este contenido.
Desde TikTok, se señala que la empresa no realiza este tipo de prácticas. Sin embargo, también señalan que las empresas externas pueden tener sus propios procesos.
La ley es clara
Todo el material vinculado al abuso infantil es ilegal en EE.UU y debe tener un tratamiento sumamente cuidadoso. De hecho, se supone que las empresas deben informar al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) en caso de encontrarse con contenido relacionado.
Por este motivo, lo realizado por Teleperformance puede estar en contra de ley, pero sin una investigación vigente es complejo que esta reciba las sanciones correspondientes.
Acerca del Autor
Agregar un comentario