Cuando la IA gobierna sin rendir cuentas: el caso DOGE y la política de vivienda en EE.UU.
El Departamento de Eficiencia Gubernamental de los Estados Unidos, conocido como DOGE y liderado por Elon Musk bajo la administración Trump, ha generado una nueva controversia internacional: el uso de inteligencia artificial para formular decisiones de política pública en materia de vivienda, sin que el gobierno haya explicado qué herramientas usó, qué datos procesó ni bajo qué criterios operó el sistema. Según reveló Wired, funcionarios del Departamento de Vivienda y Desarrollo Urbano (HUD) recibieron recomendaciones generadas por IA que luego se tradujeron en cambios reales de política habitacional, afectando a miles de ciudadanos vulnerables.
La falta de transparencia es el núcleo del problema. En un Estado democrático, las decisiones de política pública deben ser trazables, auditables y contestables. Cuando un algoritmo —cuyo entrenamiento, sesgos y lógica interna se desconocen— influye en quién accede a subsidios de vivienda o qué comunidades reciben inversión estatal, se rompe el principio básico de rendición de cuentas. Ningún ciudadano ni legislador puede cuestionar una decisión si no sabe cómo se tomó. DOGE, que ya había sido criticado por acceder a bases de datos sensibles del gobierno federal, suma ahora la acusación de usar IA como caja negra para rediseñar el Estado.
El riesgo de los sesgos algorítmicos en políticas sociales
Los expertos en gobernanza digital advierten que los modelos de inteligencia artificial tienden a replicar y amplificar los sesgos presentes en los datos históricos con los que fueron entrenados. En el caso de vivienda, esto es especialmente grave: históricamente, las políticas habitacionales en EE.UU. han discriminado a comunidades afroamericanas, latinas y de bajos ingresos. Si un sistema de IA fue entrenado con esos datos sin correcciones explícitas, sus recomendaciones podrían perpetuar o profundizar esas desigualdades, con la agravante de que ahora vendrían respaldadas por una aparente objetividad técnica.
Este fenómeno, denominado «lavado de objetividad» o «tech-washing», es uno de los mayores peligros del uso irresponsable de IA en el sector público. La tecnología otorga una falsa apariencia de neutralidad a decisiones que son profundamente políticas y valorativas. Decir que «el algoritmo lo decidió» no exime a ningún gobierno de responsabilidad moral ni legal.
¿Qué lecciones deja esto para Perú?
El caso DOGE no es un problema exclusivamente norteamericano. En Perú, donde la digitalización del Estado avanza de manera acelerada pero desigual, el debate sobre el uso de inteligencia artificial en la gestión pública es urgente y poco desarrollado. El Ministerio de Vivienda, Construcción y Saneamiento, así como el Ministerio de Desarrollo e Inclusión Social (MIDIS), administran programas que impactan directamente en millones de peruanos en situación de vulnerabilidad: Techo Propio, el Bono Habitacional, el Fondo MiVivienda y los registros del SISFOH, entre otros.
Si el Estado peruano decidiera incorporar herramientas de IA para priorizar beneficiarios, asignar recursos o detectar irregularidades en estos programas —algo que ya ocurre de forma incipiente en algunas entidades—, la pregunta obligatoria es: ¿bajo qué marcos normativos, con qué supervisión y con qué nivel de transparencia? Actualmente, Perú no cuenta con una ley de inteligencia artificial ni con una política pública consolidada que regule el uso de estos sistemas en decisiones de alto impacto social.
La Autoridad Nacional de Transparencia y Acceso a la Información Pública (ANTAIP) y la Autoridad Nacional de Protección de Datos Personales tendrían un rol crítico en supervisar estos procesos, pero sus capacidades técnicas para auditar sistemas de IA son aún muy limitadas. Organismos como el INDECOPI y el propio Congreso de la República deberían impulsar marcos regulatorios que exijan, como mínimo, que cualquier decisión automatizada que afecte derechos ciudadanos sea explicable, auditable e impugnable.
El estándar internacional que se debe exigir
La Unión Europea ya aprobó el AI Act, considerado el marco regulatorio más avanzado del mundo en esta materia, que clasifica los sistemas de IA según su nivel de riesgo y prohíbe su uso en ciertas aplicaciones de alto impacto sin garantías mínimas de transparencia. EE.UU., paradójicamente, va en sentido contrario bajo la actual administración: DOGE representa la lógica de «mover rápido y romper cosas» aplicada al aparato estatal, con consecuencias potencialmente devastadoras para los más vulnerables.
Para Perú y América Latina, el caso DOGE es una señal de alerta. La modernización del Estado no puede ser sinónimo de opacidad tecnológica. La IA puede ser una herramienta poderosa para mejorar la eficiencia del gasto público, reducir la corrupción y focalizar mejor los programas sociales, pero solo si se implementa con reglas claras, participación ciudadana y supervisión independiente. De lo contrario, el riesgo es que la tecnología se convierta en un nuevo instrumento de exclusión, ahora con el respaldo de una pantalla y un algoritmo.
