YouTube y X como escaparates del abuso digital: la amenaza de las 'nudify apps'
Una investigación de la revista Wired ha revelado que YouTube y X (antes Twitter) se han convertido en verdaderas puertas de entrada hacia aplicaciones especializadas en generar imágenes sexualmente explícitas falsas de personas reales mediante inteligencia artificial. Estas herramientas, conocidas popularmente como 'nudify apps', permiten a cualquier usuario subir una fotografía vestida de cualquier persona —sin su conocimiento ni consentimiento— y obtener en segundos una versión manipulada que simula desnudez. Lo más alarmante no es solo la existencia de estas aplicaciones, sino que las plataformas más grandes del mundo digital están facilitando activamente su descubrimiento y difusión.
Según el informe, los creadores de estas aplicaciones publican tutoriales, testimonios y demostraciones tanto en YouTube como en X, aprovechando las políticas de moderación inconsistentes de ambas plataformas. El contenido no siempre muestra explícitamente el resultado final —lo que dificultaría su eliminación automática— pero sí dirige a los usuarios hacia sitios externos donde pueden acceder libremente a estas herramientas. En muchos casos, se trata de anuncios disfrazados de reseñas o de videos aparentemente informativos que funcionan como publicidad encubierta.
El impacto real: víctimas que nadie ve
Detrás de cada imagen generada existe una víctima concreta. El fenómeno del CSAM sintético (material de abuso sexual infantil generado por IA) y las imágenes íntimas no consensuadas (NCII, por sus siglas en inglés) afectan principalmente a mujeres y menores de edad. Organizaciones internacionales de protección digital han documentado un incremento exponencial en la circulación de este tipo de imágenes desde 2023, coincidiendo con la masificación de herramientas de inteligencia artificial generativa accesibles para el público general.
En el contexto peruano, este problema tiene una dimensión preocupante. El Ministerio de la Mujer y Poblaciones Vulnerables (MIMP) y diversas ONGs locales han registrado casos de adolescentes escolares que han sido víctimas de imágenes manipuladas digitalmente, circuladas en grupos de WhatsApp y Telegram dentro de sus propios colegios. La práctica, conocida en algunos círculos como 'deepfake porn', se ha democratizado peligrosamente: ya no requiere conocimientos técnicos avanzados, solo un teléfono con internet y acceso a estas aplicaciones que YouTube y X ayudan a descubrir.
¿Qué dice la ley peruana?
Perú cuenta con la Ley N° 30096, Ley de Delitos Informáticos, modificada por la Ley N° 30171, que penaliza la interceptación de datos y algunos delitos relacionados con la privacidad digital. Sin embargo, la legislación nacional aún no contempla de manera específica la creación y difusión de imágenes íntimas falsas generadas por inteligencia artificial. Existe un vacío legal crítico que deja a las víctimas sin herramientas jurídicas claras para denunciar y obtener reparación. Proyectos de ley presentados en el Congreso han abordado tangencialmente el tema del ciberacoso y la violencia digital, pero ninguno ha sido aprobado con la especificidad necesaria para enfrentar el avance de la IA generativa aplicada al abuso.
En contraste, países como España han aprobado leyes específicas contra la difusión de imágenes íntimas sin consentimiento, con penas de hasta cinco años de prisión. En Estados Unidos, varios estados han legislado al respecto y existe presión para una ley federal. La brecha regulatoria peruana expone a millones de ciudadanos, especialmente a jóvenes y mujeres, a una forma de violencia digital que crece más rápido que la capacidad del Estado para responder.
La responsabilidad de las plataformas
YouTube y X han respondido públicamente señalando que sus políticas prohíben el contenido que facilita daño a personas reales. Sin embargo, los investigadores de Wired demostraron que basta con buscar ciertos términos en ambas plataformas para encontrar decenas de videos y publicaciones activas que promocionan estas aplicaciones. La moderación algorítmica falla sistemáticamente porque el contenido ofensivo no siempre es explícito en la propia plataforma: el daño ocurre en otro sitio, al que YouTube y X simplemente abren la puerta.
Para los usuarios peruanos, la recomendación es clara: documentar, denunciar y no compartir este tipo de contenido. Si eres víctima de imágenes falsas generadas por IA, puedes reportar ante el Centro de Atención a Víctimas de Delitos Informáticos de la División de Investigación de Delitos de Alta Tecnología (DIVINDAT) de la PNP. La lucha contra esta forma de violencia digital requiere acción coordinada entre plataformas tecnológicas, legisladores y sociedad civil, antes de que el daño sea irreversible para miles de personas más.
