Meta frena su experimento de deepfakes en Instagram: ¿qué pasó y por qué importa?
Meta, la empresa detrás de Instagram, Facebook y WhatsApp, desactivó recientemente una función experimental llamada 'Imagina tu IA' (o AI Muse en algunos mercados), que permitía a los usuarios generar imágenes creadas por inteligencia artificial basadas en cuentas públicas reales, incluyendo celebridades, influencers y figuras mediáticas. La herramienta fue suspendida luego de generar una ola de críticas por facilitar la creación de contenido visual falso —conocido popularmente como deepfakes— sin el consentimiento explícito de las personas representadas.
La función funcionaba integrando modelos generativos de IA directamente en la plataforma, permitiendo que cualquier usuario pudiera introducir el nombre de una cuenta pública y obtener imágenes sintéticas de esa persona en distintos escenarios. Aunque Meta argumentó inicialmente que la herramienta tenía fines creativos y estaba sujeta a restricciones de uso, múltiples reportes demostraron que era posible generar contenido engañoso, sexualizado o difamatorio de personas reales con relativa facilidad.
El problema de fondo: consentimiento, reputación y vacío legal
El caso expone una tensión que está en el centro del debate tecnológico global: ¿hasta dónde puede llegar la IA generativa cuando utiliza la imagen de personas reales? En muchos países, incluyendo Perú, la legislación sobre deepfakes aún es escasa o inexistente como categoría específica. La Ley de Protección de Datos Personales (Ley N° 29733) protege información personal identificable, pero no contempla de manera explícita el uso de la imagen de una persona para entrenar modelos de IA ni la generación sintética de su apariencia.
Esto significa que, en el contexto peruano, una víctima de un deepfake tendría que recurrir a figuras legales como el derecho a la imagen, el honor o la intimidad —recogidos en el Código Civil— para buscar protección. Un camino largo, costoso y técnicamente complejo, especialmente cuando el contenido ya se ha viralizado en redes sociales.
¿Por qué esto afecta a los usuarios peruanos?
Instagram es una de las plataformas más usadas en el Perú, con millones de usuarios activos que incluyen emprendedores, artistas, comunicadores y figuras políticas. Muchos de ellos tienen cuentas públicas verificadas o con alto número de seguidores, lo que los convertiría automáticamente en objetivos potenciales de este tipo de herramientas si estuvieran disponibles sin restricciones.
El riesgo no es solo para las celebridades. Microinfluencers, periodistas, activistas o cualquier persona con una cuenta pública podría ver su imagen utilizada para generar contenido falso que dañe su reputación personal o profesional. En un entorno mediático donde la desinformación ya es un problema documentado, añadir deepfakes de alta calidad a la ecuación representa una amenaza concreta para la confianza pública.
¿Qué señal envía la decisión de Meta?
La desactivación rápida de esta función sugiere que incluso Meta reconoció que lanzó la herramienta sin los suficientes controles éticos y técnicos. Es un patrón que se ha visto antes con otras funciones de IA generativa en plataformas grandes: se lanza como experimento, genera controversia y se retira o modifica. Sin embargo, este ciclo también revela que las empresas tecnológicas continúan priorizando la velocidad de lanzamiento sobre la evaluación de impacto.
Para los usuarios y reguladores peruanos, el mensaje es claro: no se puede depender únicamente de la autorregulación de las plataformas. La discusión sobre una regulación específica para contenido generado por IA —que ya avanza en la Unión Europea con el AI Act y en varios estados de EE.UU.— debe comenzar con urgencia también en el Perú, antes de que el daño sea mayor y más difícil de revertir.
