La honestidad incómoda del hombre que más sabe sobre IA
Demis Hassabis, CEO de Google DeepMind y uno de los investigadores más influyentes en inteligencia artificial del planeta, realizó una declaración que resonó con fuerza en la comunidad tecnológica global: "nadie en el mundo sabe qué va a pasar después" con el desarrollo de la IA. Lejos de ser una confesión de derrota, Hassabis la presentó como el argumento más sólido para actuar con lo que él llama "optimismo cauteloso", es decir, seguir avanzando en el desarrollo tecnológico pero construyendo simultáneamente los marcos regulatorios, éticos y técnicos que puedan contener los riesgos emergentes.
Esta postura resulta significativa precisamente porque viene de alguien que no tiene incentivos obvios para frenar el desarrollo de la IA. DeepMind es responsable de algunos de los avances más espectaculares de los últimos años, incluyendo AlphaFold, el sistema que resolvió uno de los problemas más complejos de la biología molecular en décadas. Sin embargo, Hassabis insiste en que la velocidad del progreso actual supera la capacidad humana de anticipar sus consecuencias, y que esa brecha es precisamente donde residen los mayores peligros.
¿Qué son los "guardrails" y por qué importan ahora?
El término guardrails o "barandas de seguridad" se refiere a un conjunto de mecanismos técnicos, normativos e institucionales diseñados para mantener el desarrollo de la IA dentro de parámetros que no pongan en riesgo a las personas ni a la sociedad. Hassabis argumenta que estos mecanismos deben construirse antes de que los sistemas sean demasiado poderosos para controlarlos, no después. Es una lógica similar a la de instalar frenos en un vehículo antes de encender el motor, no cuando ya va a toda velocidad cuesta abajo.
Esta visión contrasta con la de otros actores del ecosistema tecnológico que consideran que la regulación prematura puede ahogar la innovación. El debate no es menor: mientras la Unión Europea ya cuenta con el AI Act, el marco regulatorio más ambicioso del mundo en esta materia, Estados Unidos avanza de forma más fragmentada, y países de América Latina, incluido el Perú, apenas comienzan a esbozar políticas públicas relacionadas con la inteligencia artificial.
El contexto peruano: entre la oportunidad y la desprotección
Para el Perú, las palabras de Hassabis tienen una resonancia particular. El país se encuentra en un momento de adopción acelerada de herramientas de IA en sectores como educación, salud, finanzas y administración pública, pero sin un marco legal claro que regule su uso. El Congreso de la República y el Poder Ejecutivo han dado pasos iniciales —como la creación de grupos de trabajo sobre transformación digital— pero aún estamos lejos de tener una política integral de IA que contemple tanto el aprovechamiento de sus beneficios como la gestión de sus riesgos.
La advertencia de Hassabis debería funcionar como una señal de alerta para tomadores de decisiones peruanos: si uno de los líderes más capacitados del mundo admite que el futuro es incierto, los países con menor capacidad técnica e institucional son los más vulnerables ante escenarios de riesgo. Deepfakes en procesos electorales, automatización de empleos en sectores con poca resiliencia laboral, sesgos algorítmicos en sistemas de crédito o justicia, y desinformación a escala son amenazas concretas que ya se asoman en el horizonte nacional.
Optimismo cauteloso como filosofía de país
Más allá del debate técnico, la postura de Hassabis ofrece un marco filosófico útil para cualquier nación que enfrente la IA desde una posición asimétrica: no hay que rechazar la tecnología, pero tampoco adoptarla de manera acrítica. El "optimismo cauteloso" implica invertir en capacidades locales de comprensión y auditoría de sistemas de IA, promover la alfabetización digital en todos los niveles educativos, y participar activamente en los foros internacionales donde se están definiendo las reglas del juego. El Perú tiene voces valiosas en ciencia de datos e ingeniería de software que podrían contribuir a ese debate, pero necesitan respaldo institucional para hacerlo con impacto real.
En síntesis, Hassabis no está pidiendo que frenemos la IA. Está pidiendo que seamos lo suficientemente inteligentes como para reconocer lo que no sabemos, y actuar en consecuencia. Esa es, quizás, la forma más humana y responsable de enfrentar una de las transformaciones más profundas de nuestra era.
