Google levanta un Internet cerrado para entrenar a sus agentes de IA sin poner en riesgo el mundo real

Google crea un Internet sintético y aislado para entrenar a sus agentes de IA, probando su seguridad frente a ciberataques sin afectar al mundo real.

2 minutos

Recurso de Chrome y Gemini GOOGLE
Añadir DEMÓCRATA en Google

Publicado

2 minutos

Google ha puesto en marcha un internet completamente aislado para ensayar y perfeccionar la navegación web de sus agentes de inteligencia artificial, evitando que estas pruebas supongan un peligro de seguridad para el entorno real.

La compañía tecnológica ha construido una réplica sintética y desconectada de la red global, una especie de ‘sandbox’, con la que puede entrenar y evaluar con garantías a los agentes que exploran páginas web. Para lograrlo, ha tenido que resolver complejos retos de ingeniería ligados al enrutamiento de la red y a la creación automatizada de sitios.

Uno de los problemas que aborda este sistema es que, si un agente detecta que una página puede ser falsa —por ejemplo, al encontrarse con un sitio estático donde los botones no responden— puede deducir que está siendo sometido a pruebas. En esos casos, tiende a alterar su conducta y a ejecutar acciones que no llevaría a cabo en un contexto natural.

Además, es clave generar en el agente la sensación de que se mueve por la web auténtica. Para ello, Google ha diseñado una versión sin interfaz de Chrome que se ejecuta dentro de un contenedor aislado (gVisor), el cual bloquea por completo cualquier conexión hacia Internet público.

Cuando el agente intenta acceder a una dirección concreta, como YouTube (https://www.youtube.com), el sistema intercepta la solicitud de red y la redirige a un servidor local que aloja la versión simulada de esa web. Para impedir que Chrome interprete esta redirección como un fallo de seguridad, el proxy emite certificados TLS válidos en tiempo real, ligados a una Autoridad de Certificación raíz personalizada que se ha instalado previamente en el navegador del sandbox. De este modo, Chrome acepta la conexión HTTPS como si fuera legítima.

Los sitios web simulados se generan mediante un sistema compuesto por tres subagentes. El primero define los requisitos funcionales (como carritos de compra persistentes, filtros o formularios) y produce los elementos visuales básicos; el segundo escribe el código real (HTML, CSS y JavaScript) para levantar aplicaciones de varias páginas plenamente operativas; y el tercero audita la web para localizar errores de JavaScript, problemas de diseño responsivo o fallos de accesibilidad (por ejemplo, en las etiquetas ARIA).

“La creación de agentes seguros y alineados requiere proporcionarles un espacio donde puedan ser supervisados mientras realizan flujos de trabajo más largos y toman decisiones en escenarios novedosos fuera de su entrenamiento”, ha explicado Google en un comunicado compartido en su web.

Gracias a este entorno controlado, la empresa puede ejecutar miles de pruebas diarias de seguridad y de resistencia frente a ciberataques sin exponer sistemas o datos reales. Así se impide que los agentes puedan borrar información, efectuar compras por error o quedar expuestos a ataques externos.

Este marco de pruebas también blinda a los agentes frente a la inyección indirecta de instrucciones maliciosas (‘prompts’) ocultas en una página, que tratan de alterar las órdenes originales del agente para inducirle a realizar acciones no autorizadas, así como frente a la inyección invisible a través de cabeceras HTTP.