Google ha avviato un internet completamente isolato per sperimentare e perfezionare la navigazione web dei suoi agenti di intelligenza artificiale, evitando che questi test rappresentino un pericolo per la sicurezza dell’ambiente reale.
La compagnia tecnologica ha costruito una replica sintetica e scollegata della rete globale, una sorta di 'sandbox', con la quale può addestrare e valutare con garanzie gli agenti che esplorano pagine web. Per riuscirci, ha dovuto risolvere complessi problemi di ingegneria legati all’instradamento della rete e alla creazione automatizzata di siti.
Uno dei problemi che affronta questo sistema è che, se un agente rileva che una pagina può essere falsa — per esempio, imbattersi in un sito statico dove i pulsanti non rispondono — può dedurre che stia venendo sottoposto a test. In questi casi, tende a modificare il proprio comportamento e a eseguire azioni che non compirebbe in un contesto naturale.
Inoltre, è fondamentale generare nell’agente la sensazione di muoversi nel web autentico. Per questo, Google ha progettato una versione senza interfaccia di Chrome che viene eseguita dentro un contenitore isolato (gVisor), il quale blocca completamente qualsiasi connessione verso Internet pubblico.
Quando l’agente tenta di accedere a un indirizzo specifico, come YouTube (https://www.youtube.com), il sistema intercetta la richiesta di rete e la reindirizza a un server locale che ospita la versione simulata di quella web. Per impedire che Chrome interpreti questo reindirizzamento come un fallimento di sicurezza, il proxy emette certificati TLS validi in tempo reale, collegati a un’Autorità di Certificazione radice personalizzata che è stata installata in precedenza nel browser della sandbox. In questo modo, Chrome accetta la connessione HTTPS come se fosse legittima.
I siti web simulati vengono generati mediante un sistema composto da tre subagenti. Il primo definisce i requisiti funzionali (come carrelli della spesa persistenti, filtri o moduli) e produce gli elementi visivi di base; il secondo scrive il codice reale (HTML, CSS e JavaScript) per far funzionare pienamente applicazioni di varie pagine; e il terzo esamina la web per individuare errori di JavaScript, problemi di progettazione responsive o guasti di accessibilità (per esempio, nelle etichette ARIA).
«La creazione di agenti sicuri e allineati richiede di fornire loro uno spazio in cui possano essere supervisionati mentre svolgono flussi di lavoro più lunghi e prendono decisioni in scenari nuovi al di fuori della loro formazione», ha spiegato Google in un comunicato condiviso sul suo sito web.
Grazie a questo ambiente controllato, l’azienda può eseguire migliaia di test di sicurezza e di resistenza ogni giorno contro gli attacchi informatici senza esporre sistemi o dati reali. In questo modo si impedisce che gli agenti possano cancellare informazioni, effettuare acquisti per errore o restare esposti ad attacchi esterni.
Questo quadro di test protegge anche gli agenti dall’iniezione indiretta di istruzioni malevole («prompt») nascoste in una pagina, che cercano di alterare le istruzioni originali dell’agente per indurlo a compiere azioni non autorizzate, così come dall’iniezione invisibile tramite intestazioni HTTP.