O Google colocou em funcionamento uma internet completamente isolada para ensaiar e aperfeiçoar a navegação na web de seus agentes de inteligência artificial, evitando que esses testes representem um perigo de segurança para o ambiente real.
A empresa de tecnologia construiu uma réplica sintética e desconectada da rede global, uma espécie de 'sandbox', com a qual pode treinar e avaliar com garantias os agentes que exploram páginas web. Para isso, precisou resolver complexos desafios de engenharia ligados ao roteamento da rede e à criação automatizada de sites.
Um dos problemas que esse sistema aborda é que, se um agente detecta que uma página pode ser falsa — por exemplo, ao se deparar com um site estático em que os botões não respondem — pode deduzir que está sendo submetido a testes. Nesses casos, tende a alterar seu comportamento e a executar ações que não realizaria em um contexto natural.
Além disso, é fundamental gerar no agente a sensação de que ele se move pela web autêntica. Para isso, o Google projetou uma versão sem interface do Chrome que é executada dentro de um contêiner isolado (gVisor), que bloqueia completamente qualquer conexão com a Internet pública.
Quando o agente tenta acessar um endereço específico, como o YouTube (https://www.youtube.com), o sistema intercepta a solicitação de rede e a redireciona a um servidor local que hospeda a versão simulada dessa web. Para impedir que o Chrome interprete essa redirecionamento como uma falha de segurança, o proxy emite certificados TLS válidos em tempo real, ligados a uma Autoridade de Certificação raiz personalizada que foi instalada previamente no navegador do sandbox. Dessa forma, o Chrome aceita a conexão HTTPS como se fosse legítima.
Os sites web simulados são gerados por um sistema composto por três subagentes. O primeiro define os requisitos funcionais (como carrinhos de compra persistentes, filtros ou formulários) e produz os elementos visuais básicos; o segundo escreve o código real (HTML, CSS e JavaScript) para levantar aplicações de várias páginas plenamente operacionais; e o terceiro audita a web para localizar erros de JavaScript, problemas de design responsivo ou falhas de acessibilidade (por exemplo, em etiquetas ARIA).
"A criação de agentes seguros e alinhados requer fornecer a eles um espaço onde possam ser supervisionados enquanto realizam fluxos de trabalho mais longos e tomam decisões em cenários inéditos fora do seu treinamento", explicou o Google em um comunicado compartilhado em seu site.
Graças a esse ambiente controlado, a empresa pode executar milhares de testes diários de segurança e de resistência contra ciberataques sem expor sistemas ou dados reais. Assim, impede-se que os agentes possam apagar informações, efetuar compras por engano ou ficar expostos a ataques externos.
Esse arcabouço de testes também protege os agentes contra a injeção indireta de instruções maliciosas ('prompts') ocultas em uma página, que tentam alterar as ordens originais do agente para induzi-lo a realizar ações não autorizadas, assim como contra a injeção invisível por meio de cabeçalhos HTTP.