Googlek Internet itxita bat altxatzen du, bere IA agenteak entrenatzeko, benetako mundua arriskuan jarri gabe

Googlek Internet sintetiko eta isolatua sortzen du bere IAren agenteak entrenatzeko, zibererasoen aurrean haren segurtasuna probatuz mundu errealari eragin gabe.

2 minutuak

fotonoticia 20261120111350 1920
Gehitu DEMOCRAT Google-n

Argitaratu

2 minutuak

Google internet guztiz isolatu bat martxan jarri du, bere adimen artifizialeko agenteen web nabigazioa probatzeko eta perfekzionatzeko, proba horiek benetako ingurunerako segurtasun- arriskua ekar ez dezaten saihestuz.

Konpainia teknologikoak errepika sintetikozko bat eraiki du, sare globalaren bertsio deskonektatu bat, nolabaiteko 'sandbox' bat, eta horrekin prestakuntza eta ebaluazioa bermeekin egin ditzake orrialde webak arakatzen dituzten agenteei. Horretarako, sarearen bideratzearekin lotutako eta guneen sorrera automatizatuarekin lotutako ingeniaritza erronka konplexuak ebatzi behar izan ditu.

Sistema horrek lantzen duen arazoetako bat da, agente batek deskubritzen badu orri bat faltsua izan daitekeela —adibidez, botoiek ez dutenean erantzuten duen orri estatiko batekin topo egitean—, ondoriozta dezakeela probapean ari direla. Kasu horietan, bere jokabidea aldatzeko joera du eta testuinguru natural batean egingo ez lituzkeen ekintzak egiten ditu.

Gainera, funtsezkoa da agentean sortzea benetako webgunean mugitzen ari dela sentipena. Horretarako, Googlek Chrome-ren interfazerik gabeko bertsio bat diseinatu du, edukiontzi isolatu baten barruan exekutatzen dena (gVisor); edukiontzi horrek erabat blokeatzen du Internet publikoarekiko edozein konexio.

Agenteak helbide jakin batera atzitzen saiatzen denean, hala nola YouTube (https://www.youtube.com), sistemak sare-eskaera atzematen du eta orrialde horren bertsio simulatua hartzen duen zerbitzari lokal batera bideratzen du. Chromek zuzenbide hori segurtasun-porrot gisa interpretatzea eragozteko, proxy-ak TLS ziurtagiri baliozkoak ematen ditu denbora errealean, aurrez sandbox-eko arakatzailean instalatu den erroko Ziurtagiri Aginte Pertsonalizatu bati lotuta. Horrela, Chromek HTTPS konexioa onartzen du zilegi balitz bezala.

Orrialde web simulatuei sorkuntza sistema batek egiten die, hiru subagenteren osagai dena. Lehenak baldintza funtzionalak definitzen ditu (adibidez, erosketa-karrito iraunkorrak, iragazkiak edo inprimakiak) eta oinarrizko elementu bisualak ekoizten ditu; bigarrenak benetako kodea idazten du (HTML, CSS eta JavaScript), hainbat orrialdetako aplikazioak martxan jartzeko, erabat funtzionamenduan; eta hirugarrenak web-a auditatu egiten du JavaScript-eko akatsak, diseinu moldakorraren arazoak edo irisgarritasun-akatsak aurkitzeko (adibidez, ARIA etiketetan).

«Agente seguruak eta lerrokatuta sortzeko, haiek gainbegiratzeko aukera ematen duen espazio bat eman behar zaie, lana egiten duten bitartean lan-fluxu luzeagoak egiteko eta entrenamendutik kanpo agertzen diren eszenario berrietan erabakiak hartzeko», azaldu du Googlek bere webgunean partekatutako komunikatu batean.

Ingurune kontrolatu horri esker, enpresak segurtasunari eta erresistentziari buruzko milaka proba egikaritu ahal izango ditu zibererasoen aurrean, ez benetako sistemak edo datuak agerian utziz. Horrela eragotzi egiten da agenteek informazioa ezaba dezaten, akatsez erosketa egin dezaten edo kanpoko erasoen aurrean agerian gera daitezen.

Proba-esparru honek, halaber, agenteak babesten ditu orri batean ezkutatuta dauden agindu maltzurren injekzio zeharkakoaren aurrean («prompts»), zeinak agenteak emandako jatorrizko aginduak aldatzen saiatu eta baimendu gabeko ekintzak egitera bultzatzen duten, bai eta HTTP goiburuen bidez egiten den injekzio ikusezinaren aurrean ere.