Google a mis en place un internet entièrement isolé pour tester et perfectionner la navigation web de ses agents d’intelligence artificielle, en évitant que ces essais ne constituent un danger pour l’environnement réel.
La société technologique a construit une réplique synthétique et déconnectée du réseau mondial, une sorte de « sandbox », avec laquelle elle peut entraîner et évaluer avec des garanties les agents qui explorent des pages web. Pour y parvenir, elle a dû relever des défis d’ingénierie complexes liés au routage du réseau et à la création automatisée de sites.
Un des problèmes que traite ce système est que, si un agent détecte qu’une page peut être fausse — par exemple, en rencontrant un site statique où les boutons ne répondent pas — il peut en déduire qu’il est soumis à des tests. Dans ces cas, il a tendance à modifier sa conduite et à exécuter des actions qu’il ne ferait pas dans un contexte naturel.
De plus, il est essentiel de générer chez l’agent la sensation de se déplacer sur le web authentique. Pour cela, Google a conçu une version sans interface de Chrome qui s’exécute à l’intérieur d’un conteneur isolé (gVisor), lequel bloque complètement toute connexion vers Internet public.
Lorsque l’agent tente d’accéder à une adresse précise, comme YouTube (https://www.youtube.com), le système intercepte la demande réseau et la redirige vers un serveur local qui héberge la version simulée de cette web. Pour empêcher que Chrome n’interprète cette redirection comme un échec de sécurité, le proxy émet des certificats TLS valides en temps réel, liés à une Autorité de Certification racine personnalisée qui a été installée préalablement dans le navigateur du sandbox. De cette manière, Chrome accepte la connexion HTTPS comme si elle était légitime.
Les sites web simulés sont générés au moyen d’un système composé de trois sous-agents. Le premier définit les exigences fonctionnelles (comme des paniers d’achat persistants, des filtres ou des formulaires) et produit les éléments visuels de base ; le second écrit le code réel (HTML, CSS et JavaScript) pour faire fonctionner des applications de plusieurs pages pleinement opérationnelles ; et le troisième audite le web pour repérer les erreurs de JavaScript, les problèmes de conception responsive ou les défaillances d’accessibilité (par exemple, dans les balises ARIA).
"La création d’agents sûrs et alignés nécessite de leur fournir un espace où ils peuvent être supervisés pendant qu’ils exécutent des flux de travail plus longs et prennent des décisions dans des scénarios nouveaux en dehors de leur entraînement", a expliqué Google dans un communiqué partagé sur son site web.
Grâce à cet environnement contrôlé, l’entreprise peut exécuter des milliers de tests de sécurité et de robustesse par jour face à des cyberattaques sans exposer des systèmes ou des données réels. Ainsi, on empêche les agents de pouvoir effacer des informations, effectuer des achats par erreur ou se retrouver exposés à des attaques externes.
Ce cadre de tests protège également les agents contre l’injection indirecte d’instructions malveillantes ('prompts') cachées dans une page, qui cherchent à modifier les ordres originaux de l’agent afin de l’inciter à réaliser des actions non autorisées, ainsi que contre l’injection invisible via des en-têtes HTTP.