Una falla durante una prueba de ciberseguridad permitió que modelos de inteligencia artificial de Google tuvieran acceso abierto a internet y terminaran entrando a sistemas que no formaban parte del ejercicio.
Lo que debía ser una prueba controlada de las capacidades de Gemini terminó convirtiéndose en un incidente real de ciberseguridad. Durante una evaluación realizada en mayo de 2026, modelos de Google accedieron sin autorización a los sistemas de tres empresas reales después de recibir, por una configuración incorrecta, acceso a internet.
La prueba estaba a cargo de la firma especializada Irregular y consistía en un ejercicio de “capture the flag”, en el que Gemini debía localizar información perteneciente a una compañía ficticia. El problema fue que uno de los nombres utilizados coincidía con el de una empresa verdadera y el modelo comenzó a buscar objetivos fuera del entorno preparado para el experimento.
En uno de los casos, Gemini consiguió entrar tras probar contraseñas hasta encontrar una válida. En los otros dos localizó credenciales que habían quedado expuestas públicamente en repositorios de software y las utilizó para acceder a sistemas reales. De acuerdo con los reportes, el modelo detuvo su actividad en las tres ocasiones cuando identificó que había llegado a infraestructura que no pertenecía al ejercicio.
Irregular corrigió posteriormente la configuración que había permitido la conexión a internet y las organizaciones afectadas fueron notificadas. El episodio ocurrió en mayo, pero se conoció públicamente en septiembre después de que The Wall Street Journal revelara el caso y Google confirmara los incidentes. La compañía sostiene que no se trató de un comportamiento deliberadamente desalineado de Gemini, sino de un error en las condiciones de la prueba.
El caso vuelve a poner sobre la mesa los riesgos que acompañan a los agentes de inteligencia artificial capaces de realizar acciones de manera autónoma. Incidentes semejantes han sido reportados durante evaluaciones de sistemas desarrollados por otras compañías de IA, entre ellas OpenAI y Anthropic, lo que ha aumentado la discusión sobre la necesidad de reforzar los límites y controles durante este tipo de pruebas.
