Codex de OpenAI: cuando la IA toma decisiones que sus creadores no pueden ver
OpenAI ha implementado una actualización significativa en Codex, su plataforma de agentes de inteligencia artificial orientada al desarrollo de software, que está generando una fuerte discusión en la comunidad tecnológica global. La novedad consiste en que las instrucciones que los agentes de IA se transmiten entre sí durante la ejecución de tareas complejas ahora se encuentran cifradas, lo que impide que los desarrolladores accedan a esa información en tiempo real. En otras palabras, cuando un agente principal delega subtareas a otros agentes subordinados, ese proceso ocurre en una suerte de «caja negra» inaccesible para el humano que supervisa el sistema.
Este cambio responde, según OpenAI, a razones de seguridad y eficiencia operativa en arquitecturas multiagente. La lógica detrás es que el cifrado protege las instrucciones de posibles inyecciones de prompts maliciosos —un vector de ataque conocido donde actores externos intentan manipular las instrucciones que recibe un agente para alterar su comportamiento—. Sin embargo, el efecto colateral es que los propios desarrolladores quedan excluidos de observar cómo se coordina internamente el sistema que ellos mismos construyeron y despliegan.
¿Por qué esto importa más allá del debate técnico?
El problema de fondo no es meramente técnico: es filosófico y ético. Uno de los principios fundamentales del desarrollo responsable de IA es la explicabilidad, es decir, la capacidad de entender por qué un sistema tomó una decisión determinada. Si las instrucciones internas entre agentes están cifradas, la trazabilidad se fragmenta. Un desarrollador puede ver el input inicial y el output final, pero el proceso intermedio —donde ocurre gran parte de la «inteligencia»— queda oculto.
Para el ecosistema tecnológico peruano, este debate es especialmente relevante. En el Perú, empresas de distintos sectores —desde fintech hasta agroindustria y sector público— están comenzando a explorar el uso de agentes de IA para automatizar flujos de trabajo complejos. Startups como las integradas en hubs de innovación en Lima y Arequipa, así como equipos de desarrollo de bancos y aseguradoras locales, están evaluando plataformas como Codex para construir soluciones de automatización. Si adoptan estos sistemas sin comprender sus implicancias, podrían enfrentarse a situaciones donde un agente tome decisiones críticas sin que haya posibilidad de auditoría interna.
Además, el contexto regulatorio peruano aún no contempla de manera explícita los sistemas multiagente de IA. La Ley N° 29733 de Protección de Datos Personales y su reglamento no fueron diseñados pensando en arquitecturas donde múltiples agentes autónomos intercambian instrucciones cifradas. Esto genera un vacío legal que podría complicar el cumplimiento normativo para empresas que procesen datos de ciudadanos peruanos usando estas herramientas.
El dilema entre seguridad y transparencia
Es importante reconocer que OpenAI no está actuando de manera arbitraria. Las inyecciones de prompts en sistemas multiagente son un riesgo real y documentado. Un atacante podría insertar instrucciones maliciosas en el contexto de un agente secundario para que este exfiltre datos, ignore restricciones de seguridad o ejecute acciones no autorizadas. El cifrado, en ese sentido, es una capa de defensa legítima.
No obstante, la solución propuesta sacrifica un bien igualmente valioso: la supervisión humana. La comunidad de desarrolladores ha señalado que existen alternativas menos radicales, como el uso de canales seguros auditables solo por el propietario del sistema, o esquemas de cifrado con claves controladas por el desarrollador. La decisión de OpenAI de centralizar ese control genera además una dependencia adicional respecto a la plataforma, lo que refuerza preocupaciones sobre el «vendor lock-in» —la dependencia excesiva de un único proveedor tecnológico—.
Para los equipos de tecnología en el Perú, la recomendación práctica es clara: antes de adoptar soluciones basadas en Codex o cualquier plataforma multiagente, es fundamental establecer políticas internas de gobernanza de IA que incluyan criterios de auditoría, definir qué niveles de opacidad son aceptables según el caso de uso, y mantenerse actualizados sobre la evolución regulatoria tanto local como internacional. La IA avanza rápido; la supervisión no puede quedarse atrás.
