La investigación de la organización sin ánimo de lucro AI Forensics titulada ‘El acoso como infraestructura: cómo el diseño de Telegram posibilita la violencia de género facilitada por la tecnología en Italia y España’ concluyó que “(esta red) es un ecosistema de abuso estructurado, monetizado y en gran medida automatizado”. Analizó casi 2,8 millones de mensajes en grupos de España e Italia, que representan una problemática extendida a nivel global.
De la Redacción de EL NORTE
[email protected]
Vídeos grabados sin consentimiento, ‘deepfakes’ sexuales de influencers, desnudos de mujeres generados por ‘bots’ o incluso datos personales de chicas anónimas. Este tipo de contenidos circula por grupos privados de Telegram que cobran entre 20 y 50 euros por formar parte de ellos. Así lo expone un estudio de la organización sin ánimo de lucro AI Forensics titulado ‘El acoso como infraestructura: cómo el diseño de Telegram posibilita la violencia de género facilitada por la tecnología en Italia y España’. Una de las autoras de esta investigación y un experto en derecho digital explicaron por qué Telegram es un lugar propicio para la difusión de contenidos sexuales no consentidos y cómo la inteligencia artificial ha disparado estas prácticas.
“Es un ecosistema de abuso estructurado, monetizado y en gran medida automatizado”, concluye este estudio tras analizar casi 2,8 millones de mensajes en grupos de España e Italia. “Existen redes dedicadas a la difusión sin consentimiento de imágenes sexuales de mujeres”, explicó al medio VerificaRTVE una de sus autoras, Silvia Semenzin. Estas redes “radicalizadas” operan dentro de Telegram porque, a su juicio, “se presenta como un lugar seguro para estos usuarios”.
La violencia digital contra las mujeres no es nueva, pero se ha adaptado a los avances tecnológicos. “La inteligencia artificial (IA) entra en escena como un acelerador”, indica Silvia Semenzin. Ha crecido de tal manera que en estos grupos hay ‘bots’ integrados para “desnudar automáticamente” a las personas que les piden. “Esto hace que haya subido el número de contenidos manipulados. Hay grupos que están pensados para compartir material de ‘deepfake'”, asegura Semenzin, en los que se incluye a menores de edad, porque muchos de los integrantes de estos chats son adolescentes.
PERFILES
Los participantes de estos canales “son predominantemente hombres jóvenes heterosexuales” y sus prácticas reflejan “un patrón amplio de interacción social masculina” en el que la evaluación de los cuerpos de las mujeres funciona como una forma de “estatus”. La autora de la investigación asegura que son prácticas normalizadas entre ellos, que incluso comparten un “lenguaje muy parecido”.
En cambio, las víctimas “son todas chicas”. El estudio subraya que muchas de ellas son mujeres anónimas, “parejas, conocidas y exparejas de los perpetradores”, aunque también distribuyen ‘deepfakes’ sexuales de “influencers”.
PRIVACIDAD
Telegram ofrece “la posibilidad de tener un mayor nivel de privacidad, de crear grupos de hasta 200.000 personas o de integrar ‘bots’ dentro de los chats”, indica Silvia Semenzin. “Ofrecen a los usuarios la sensación de estar protegidos dentro de un entorno de privacidad”, dice la investigadora, “y les permiten organizar y sistematizar de alguna forma la violencia”, de tal manera que se identifica como una red donde se puede compartir lo que en otros sitios no se permite. La policía, según contó el abogado experto en derecho digital Borja Adsuara, “se infiltra” en los canales de Telegram sospechosos, haciéndose pasar por pedófilos, pero, en cualquier caso, “necesitan que la red social identifique quién está detrás de las IP que forman parte de ese canal”. Y aquí se topan con la particular estructura de Telegram.
“La principal diferencia entre Telegram y las otras redes sociales es que no acatan la legislación europea. Telegram se ha negado a colaborar con las administraciones europeas, tanto administrativas como judiciales”, explicó Adsuara.
El fundador y dueño de Telegram, Pavel Durov, fue detenido en 2024 en París acusado de complicidad en la difusión de imágenes pedófilas o en el tráfico de estupefacientes. “Distribuir pornografía infantil o planear un atentado terrorista no es un tema de libertad de expresión”, puntualizó Adsuara al recordar este caso. El estudio de AI Forensics detectó que la plataforma eliminó varios de los grupos analizados durante ese período, pero “se reabrieron con los mismos nombres solo unas horas más tarde”.
MONETIZACIÓN
El estudio de AI Forensics asegura que existe una estructura que permite a determinados usuarios ganar dinero con la difusión de contenidos sexuales. “Hay círculos muy selectos donde no te dejan entrar si no aportás material nuevo”, indicó Adsuara, y añadió que “los que no pueden aportar contenidos pagan o financian la producción de esos contenidos”.
Según la investigación, son “pagos únicos de entre 20 y 50 euros” para entrar de forma permanente a los canales con material abusivo, o bien una suscripción mensual a partir de los 5 euros. Normalmente, se efectúan las transacciones por “sistemas de pago digitales como PayPal, criptomonedas o Bizum”. Semenzin explicó que hay gente que vende archivos, bots, servicios concretos o contenidos entre particulares y, “por otro lado, está la plataforma, que vende canales premium”.
APORTES
El propio estudio aporta una serie de recomendaciones a las instituciones españolas, italianas y europeas, aunque se trata de una problemática extendida. Entre ellas, contemplar “la violencia sexual digital como una categoría jurídica distinta que incluya la responsabilidad de las plataformas” o crear “unidades policiales especializadas para monitorizar canales de Telegram”.
La Unión Europea también está tramitando una normativa que prohíbe el uso de la IA para desnudar a personas sin su consentimiento o generar imágenes falsas de contenido sexual. De hecho, contempla sanciones para aquellas plataformas que difundan o comercialicen contenidos creados por IA para desnudar sin consentimiento.
Por su parte, Pavel Durov criticó el informe de AI Forensics a través de su cuenta de X: “Nos están diciendo que Telegram es un problema porque la gente puede difundir contenido de otras redes sociales en grupos privados. Esta tontería se usa para justificar la vigilancia (Chat Control) y la censura (DSA)”. Chat Control es el sobrenombre con el que se llama coloquialmente a una iniciativa de la UE para frenar el abuso sexual infantil, mientras que la DSA es el acrónimo en inglés de la Ley de Servicios Digitales de la UE.
El medio donde se hizo referencia al estudio publicó que Telegram se puso en contacto y afirmó que “la pornografía no consentida, incluyendo la pornografía ‘deepfake’, está explícitamente prohibida por los términos de servicio de Telegram y se elimina en cuanto se detecta”. Indicaron que sus moderadores “aceptan denuncias para eliminar millones de contenidos dañinos cada día, lo que incluye pornografía deepfake y material de abuso sexual infantil”. Además, niegan que “Telegram permita estructuralmente la monetización o la difusión a gran escala del abuso sexual basado en imágenes”.
