El modelo de inteligencia artificial Gemini, desarrollado por Google, accedió durante una prueba de ciberseguridad a los sistemas de tres empresas reales. El incidente se produjo durante una evaluación realizada en mayo para comprobar las capacidades del modelo en tareas de seguridad informática.
Gemini encontró información disponible públicamente y utilizó credenciales para acceder a tres sistemas que, según Google, formaban parte del ejercicio. En uno de los casos, el modelo llegó a probar contraseñas hasta conseguir acceso a un sistema protegido. En otros dos, encontró credenciales disponibles en un repositorio público.
El acceso a internet no estaba previsto
La prueba estaba diseñada como un ejercicio de ciberseguridad en un entorno controlado. El objetivo era que Gemini recuperara información de una compañía ficticia.
Sin embargo, el modelo tuvo acceso a internet durante la evaluación debido a un problema en la configuración del ejercicio. Además, la empresa ficticia utilizada en la prueba compartía nombre con una compañía real.
Gemini accedió a tres sistemas
Durante la prueba, Gemini encontró información pública y utilizó credenciales para acceder a sistemas pertenecientes a tres empresas reales.
En uno de los casos, el modelo adivinó contraseñas hasta conseguir acceder al sistema protegido. En los otros dos, encontró credenciales expuestas en un repositorio público y las utilizó para entrar en los sistemas.
El modelo dejó de actuar al detectar el error
Google asegura que Gemini detuvo las acciones cuando identificó que había accedido a empresas reales que no formaban parte del ejercicio.
Las compañías afectadas fueron informadas del incidente y Google trabajó con la empresa encargada de la evaluación para modificar los procedimientos utilizados durante las pruebas.
El caso reabre el debate sobre los agentes de IA
El incidente se produce mientras las compañías tecnológicas desarrollan sistemas de inteligencia artificial capaces de ejecutar tareas con una intervención humana cada vez menor.
Los episodios registrados durante pruebas de seguridad han abierto un debate sobre las medidas necesarias para evitar que estos modelos puedan acceder a sistemas fuera del entorno previsto.