Una investigación de la fundación española Maldita.es detectó **alrededor de 1.100 videos con material de abuso sexual infantil en TikTok, que acumulaban cerca de 48 millones de visualizaciones. El trabajo también identificó unas 26 mil cuentas vinculadas al intercambio de este tipo de contenido, dejando en evidencia posibles fallas en los mecanismos de moderación de la plataforma.
En conversación con Radio Bío Bío de Valparaíso, Magdalena Torga, coordinadora editorial de Protección a la Ciudadanía de Maldita.es y una de las responsables de la investigación, advirtió que los hallazgos apuntan a un problema estructural. De hecho, aseguró que TikTok solo eliminó cinco de los 50 videos denunciados por el equipo mediante los canales oficiales de la red social.
La investigación, que también identificó más de 7.700 perfiles que comentaban en español y transmisiones de menores desde Latinoamérica, motivó acciones de la Fiscalía española para investigar posibles delitos relacionados con la distribución de material de abuso sexual infantil. En la entrevista, Torga abordó cómo llegaron a estos contenidos, la responsabilidad de TikTok y los riesgos que enfrentan niños, niñas y adolescentes.
“El propio algoritmo de la plataforma” comenzó a recomendar los contenidos
—Ustedes realizaron esta investigación y encontraron en TikTok casi 1.200 videos de abuso infantil. ¿Cómo fue que la hicieron?
Nosotros en Maldita.es realmente trabajamos por la integridad de la información. Trabajamos desmintiendo desinformación y distintas cosas, pero esta es realmente la tercera investigación que hacemos sobre material de abuso sexual infantil en TikTok.
De hecho, nosotros teníamos una cuenta de TikTok que estábamos usando para hacer investigaciones sobre estafas en la plataforma y el mismo algoritmo de la red social en el “Para ti”, que es este apartado donde recomienda videos que te pueden interesar, nos empezó a sugerir contenido que en un principio eran videos creados con IA que sexualizaban a menores.
Y ahora en esta tercera investigación, como bien decías, hemos encontrado alrededor de 1.100 videos que tienen material de abuso sexual infantil explícitos y que estaban en la plataforma, o sea, directamente en la red social. No había que irse a ninguna otra plataforma cifrada ni a la dark web para verlos, sino que estaban disponibles en la red social y, además, los habían visto mucha gente.
—¿TikTok facilita el acceso a este material a través de sus propias herramientas?
Claro, desde el desconocimiento puede ser o desde la falta de control de lo que está pasando con los sistemas, el propio algoritmo recomienda contenido de abuso sexual infantil o recomienda activamente al perfil que hemos utilizado nosotros para estas investigaciones.
A la fecha, ya una semana después de haber publicado la investigación, nos sigue recomendando cuentas que venden material de abuso sexual infantil en la plataforma.
Y no son pocas estas cuentas: nosotros encontramos en esta investigación unas 26.000 cuentas en la red social que intercambian material de abuso sexual infantil, publican material de abuso sexual infantil o que acceden a directos que realizan menores de edad en la plataforma y las acosan en directo.
—¿En qué momento se dieron cuenta de que no estaban frente a casos aislados, sino ante un problema estructural?
Yo creo que tuvimos esa sensación desde la primera investigación que publicamos en diciembre del año pasado cuando vimos que nosotros siempre en Maldita denunciamos muestras del contenido que recopilamos para, como te comentaba antes, ver cómo también responde la plataforma, qué responsabilidad tiene la plataforma.
Y ahora, incluso denunciando una muestra de 50 videos que tenía material de abuso sexual explícito, ver que TikTok en este caso, por ejemplo, solo eliminó cinco videos, te da esa sensación de que la respuesta no está siendo adecuada para la magnitud del problema.
“Consideramos que hay un fallo sistémico en la plataforma”
—¿Estamos ante una falla tecnológica o una negligencia en los mecanismos de control de TikTok?
Nosotros realmente, después del análisis que hemos hecho, consideramos que hay un fallo sistémico en la plataforma en cuanto a cómo atajan el problema del material de abuso sexual infantil.
Y lo decimos por justamente lo que hemos encontrado, que es, como bien decías, una muestra que hemos encontrado en 35 días un equipo pequeño. O sea, esto lo hemos hecho de una forma con búsquedas manuales, con una cuenta de TikTok haciendo búsquedas una y otra vez, registrando.
Nosotros realmente creemos que es un problema que, si ya esta muestra alerta a la gente y la gente está en shock de que hayamos encontrado 1.100 videos, probablemente hay mucho más.
Nuestra cuenta sigue operando con normalidad a pesar de que hemos actuado como un pederasta y miles de otras también.
Los riesgos para menores en Latinoamérica
—Identificaron 26 mil perfiles, de los cuales más de 7.700 utilizaban el español. ¿Qué encontraron sobre la presencia de estas redes en Latinoamérica y países como Chile?
Realmente lo que nosotros hemos encontrado en TikTok es una red que trasciende fronteras. En todas las investigaciones hemos encontrado cuentas alrededor de todo el mundo que están usando TikTok para conseguir material de abuso sexual infantil.
Y por eso también destacábamos mucho esta cifra de los 7.700 perfiles que comentaban en español, porque hemos estado hablando con distintos medios de Latinoamérica y me hacen la misma pregunta: “¿Qué pasa con Latinoamérica?”. Y es que en esos 7.700 están cuentas de Latinoamérica.
Y otro dato importante que también encontramos en esta investigación: nosotros también analizamos cómo los directos de TikTok —que son una función que te permite hacer emisiones en vivo— se estaban usando por menores, a pesar de que las normas de la plataforma lo prohíben.
Y accedimos, por ejemplo, de unos 78 directos realizados por menores donde se les acosaba en los comentarios y se les pedía hacer acciones sexualizantes a cámara, 11 de los directos a los que accedimos se estaban emitiendo desde Latinoamérica por niñas y adolescentes latinoamericanas.
El negocio de los regalos virtuales
—Encontraron transmisiones donde adultos ofrecían regalos virtuales a menores a cambio de acciones sexuales. ¿TikTok termina obteniendo beneficios económicos de estas situaciones?
Este es un punto superinteresante porque no es la primera vez que descubrimos cómo TikTok puede estar generando dinero de material que pone en peligro a menores.
Pero lo que vimos ahora en término a la plata que están ganando ellos con estas condiciones es que en los TikTok Live, como bien dices, en estas emisiones, se conectan los menores, emiten en vivo —que no deberían estar haciéndolo porque en teoría las normas lo prohíben— y se conectan adultos y les piden eso, les dicen: “Te mando una galaxia si me muestras tus pies”.
Y entonces lo que vemos es que una parte de eso que le pagan a la plataforma para comprar ese regalo y mandárselo a la niña o al niño o al adolescente, una parte de ese dinero se lo queda TikTok.
No sabemos cuánto porque TikTok no es muy transparente sobre cuánto se queda —una investigación de la BBC de hace unos años lo estimaba en alrededor del 70% del dinero que está dando el usuario—.
Entonces es bastante interesante porque además no es que TikTok no sepa o esto sea algo nuevo para ellos, porque un informe interno de la compañía del 2022, o sea hace 4 años, ya advertía de que esta función se estaba usando de esta manera para conseguir que los menores hicieran acciones sexuales y estas luego se grabaran y se distribuyeran por otras vías y que TikTok se estaba quedando con una parte de ese dinero.
La respuesta de TikTok y las acciones de la Fiscalía española
—¿Qué explicación entregó TikTok después de que ustedes denunciaran 50 videos y solo retiraran cinco?
Nosotros les escribimos —en las tres investigaciones les hemos escrito antes de publicar, como hacemos siempre los periodistas— para contarles lo que habíamos encontrado a grandes rasgos, hacerles unas preguntas sobre qué estaba pasando con sus sistemas de moderación y sobre las políticas que tenían.
Ellos nos pidieron enlaces y nosotros en ese punto ya habíamos ido a la Fiscalía de Criminalidad Informática en España y realmente queríamos que se hiciera una investigación seria sobre el tema y que no se eliminara el contenido y ya está.
El lunes de esa semana filtraron un comunicado en el que decían que nosotros estábamos impidiendo que ellos retiraran el material de la plataforma.
Nosotros respondimos públicamente diciendo que queríamos una investigación formal sobre lo que estaba pasando en la red social y, además, insistiendo en el punto de que nosotros: uno, habíamos reportado el contenido, como tú bien dices, y dos, que si un grupo pequeño es capaz de encontrar estas cosas en 35 días, ¿cómo una empresa que tiene más de 60.000 trabajadores no va a poder encontrar ese mismo contenido?
—¿Qué acciones tomó finalmente la Fiscalía española?
Mira, la Fiscalía española lo que ha pasado es que primero pidió a la Fiscalía de Criminalidad Informática, que es la sala específica que se tiene que encargar de este tipo de investigaciones al ser una investigación digital que concierne a una gran plataforma, le pidió a esta fiscalía específica que abriera una investigación formal.
Y luego el viernes pasado presentó su propia denuncia para que se empiece a investigar a la plataforma. O sea, nosotros ya habíamos presentado una denuncia, pero el fiscal ha presentado la propia suya para que se investiguen los delitos que pueden estar sucediendo en la plataforma.
“Hay una responsabilidad muchísimo mayor” de las plataformas
—¿Estamos poniendo demasiada responsabilidad sobre las familias y muy poca sobre las empresas tecnológicas?
Totalmente. Nosotros desde que publicamos, obviamente muchas veces nos preguntan padres o en los colegios, incluso en las entrevistas, qué consejo podemos dar, cómo qué pueden hacer los padres, qué pueden hacer los colegios.
Claramente hay cosas que podemos hacer como acompañar a los menores, que sientan la confianza de decirnos si les pasa algo; a nivel individual hay cosas que podemos hacer.
Pero realmente nosotros creemos que hay una responsabilidad muchísimo mayor de una plataforma que es una empresa, una compañía muy grande con muchos trabajadores, que genera una cantidad importante de ingresos y que tiene millones de usuarios en el mundo, de proteger a los menores en las plataformas.
—¿Qué tendría que ocurrir para considerar que TikTok está protegiendo efectivamente a los menores?
Yo creo que realmente lo que tiene que suceder… o sea, lo importante también y lo que sacamos mucho del impacto que ha tenido la investigación es que ha iniciado o ha contribuido a una conversación que se está teniendo sobre, como bien decías, qué responsabilidad tienen las plataformas sobre la protección de menores.
¿Y qué tendría que pasar? Nosotros creemos que primero que todo tiene que haber un repensamiento de cómo se están moderando los contenidos en la plataforma.
Si se está utilizando principalmente, por ejemplo, inteligencia artificial, hay que reconsiderar por qué está fallando ahí, qué se puede hacer para proteger mejor a los menores en la red social y también para atajar estas interacciones que ocurren en TikTok entre adultos y niños que están pasando, como te decía, en España pero también en todo el mundo.