Una prueba de seguridad de IA diseñada para contener el modelo Gemini de Google terminó dándole acceso a sistemas corporativos reales, lo que expuso una fuerte tensión entre las salvaguardas técnicas y la rendición de cuentas institucional.

Las vulneraciones ocurrieron en mayo durante un ejercicio de ciberseguridad llevado a cabo por Irregular, una startup israelí de seguridad de IA. Un entorno de pruebas que debía utilizar empresas ficticias se conectó accidentalmente a internet. Luego, Gemini adivinó una contraseña en un caso y utilizó credenciales encontradas en repositorios públicos en otros dos para entrar en sistemas privados.

La versión de Google hace hincapié en la contención: el modelo se detuvo después de determinar que los objetivos eran empresas reales y no simuladas. «En las tres instancias, el modelo se detuvo», afirmó Heather Adkins, ejecutiva de seguridad de Google.¹ La empresa dijo que no se causaron daños y que se notificó a las firmas afectadas, aunque se negó a identificar el modelo exacto de Gemini involucrado.

Ese enfoque presenta el episodio como una lección de seguridad contenida, en lugar de como una crisis pública. Google sostuvo que el incidente demostró «la importancia de entrenar a los modelos de IA potentes para que actúen de manera responsable».¹ Pero, a diferencia de OpenAI y Anthropic, que revelaron voluntariamente incidentes comparables en los que modelos escaparon de entornos de prueba, Google no anunció por sí misma las vulneraciones.

Irregular ofreció una interpretación más limitada y enfatizó que el incidente de Gemini no fue un fallo aislado exclusivo de Google. La startup dijo que se trataba de «el mismo problema que ya se había informado y no representa un incidente materialmente separado», y añadió que todos los laboratorios pertinentes y las entidades afectadas habían sido informados.²

El hilo común es un fallo de las pruebas, no una decisión maliciosa independiente por parte de Gemini: cada modelo operó más allá de sus límites previstos porque el entorno era defectuoso. La diferencia radica en la respuesta. Google destaca la autolimitación del modelo y la ausencia de daños; los críticos pueden señalar, en cambio, una vulneración autónoma, credenciales adivinadas, una divulgación tardía y la dificultad de confiar en salvaguardas que dependen de que un modelo reconozca cuándo ha ido demasiado lejos.