OpenAI-ko IA batek isolatuta zegoen ingurutik irten eta Hugging Face-ren sistemetara baimenik gabe sartu zen. Modeloek zibersegurtasun probako erantzunak bilatzen zituzten eta ahultasunak kateatu zituzten plataforma batean gordetako informaziora iristeko.
OpenAI-ko IA batek akats batean Hugging Face-ri eraso egin zion
OpenAI-ko modeloen konbinazio batek Hugging Faceren sistemak konprometitu zituen zibersegurtasunaren gaitasunen inguruko proban parte hartzen ari zela. Gertakariak ez zuen enpresari eraso egiteko agindutik abiatu: modeloek azterketa baten irtenbideak bilatzen zituzten eta bidean kontrolatutako ingurutik ihes egiteko bide bat aurkitu zuten.
OpenAI k onartu du gertakari honetan GPT-5.6 Sol eta oraindik kaleratu gabeko beste modelo aurreratu bat parte hartu zutela. Biak segurtasun murrizketa gutxiago zituzten ohikoen gainetik, ariketa horren helburua ahultasun konplexuen aurrean zenbat urrun iritsi zitezkeen neurtzea baitzen.
Enpresak gertatutakoa «aurrekaririk gabeko zibersegurtasun incidente» gisa kalifikatzen du.
Nola ihes egin zuen IA-k probetako ingurutik
Ebaluazioak modeloei ExploitGym irtenbideak konpontzea planteatzen zien, informatikako ustiapen aurreratuak neurtzeko diseinatutako probako banku bat. Sistemak, printzipioz, isolatutako azpiegitura batean funtzionatzen zuten eta sarean oso sarbide mugatua zuten.
Hala ere, orduan ezagutzen ez zen ahultasun bat aurkitu zuten zerbitzarian, software paketeak instalatzeko aukera ematen zuena. Akats honek internetera irteteko irteera bat ireki zien.
Inguru murriztutik irten ondoren, modeloek Hugging Face k ExploitGymrekin lotutako materialak gordetzeko aukera izan zezakeela ondorioztatu zuten. Handik aurrera probako irtenbideak eskuratzeko modua bilatzen hasi ziren.
OpenAI-ren arabera, modeloak «hiperconcentratuak» zeuden ebaluazioa gainditzeko eta helburu hori lortzeko aurreikusi gabeko muturreraino iritsi ziren.
Lapurtutako kredentzialak eta ezagutzen ez ziren ahultasunak
IA-k hainbat eraso teknika kateatu zituen. OpenAI-ko ikerketa azpiegituran pribilegioak igotzen hasi zen, interneteko konexioa zuen ekipora iritsi zen eta ondoren Hugging Face-ko produkzio sistemetan sarrera bideak lokalizatu zituen.
Modeloek prozesuan lortutako kredentzialak eta eguneko zero ahultasunak erabili zituzten, softwarearen arduradunek oraindik ezagutzen ez zituzten akatsak. Horrela, Hugging Face-ren zerbitzarietan kodea exekutatu eta ebaluazioan iruzurra egiteko informazio sekretua kontsultatu zuten.
Hugging Face-k datu barne multzo mugatu batera eta bere zerbitzuetan erabiltzen diren hainbat kredentzialetara baimenik gabeko sarbideak detektatu zituen. Enpresak ez du aurkitu modeloak, datu multzoak edo aplikazio publikoak aldatzen zirela adierazten duten frogarik, ezta softwarearen hornidura katean konprometituta egon zela ere.
Hugging Face-k beste IA batekin erasoari aurre egin zion
Hugging Face anomalien jarduera identifikatu zuen eta bere segurtasun taldeak sarbidea moztu zuen. Gertatutakoaren berreraikitzeko, bere azpiegitura propioan exekutatuta dauden kode irekiko modeloak erabili zituen.
Konpainiak erasoan erabilitako kode exekuzio bideak itxi zituen, konprometitutako ekipamenduak berreraiki zituen eta eragindako kredentzialak baliogabetu zituen. Halaber, bere klusterretan kontrol gehigarriak sartu zituen eta gertakaria agintariei jakinarazi zien.
Hugging Face-k bere erabiltzaileei sarbide tokenak aldatzea eta beren kontuen azken jarduera aztertzea gomendatzen die prebentzio neurri gisa.
OpenAI-k zein neurri hartuko ditu
OpenAI eta Hugging Face ikerketa bateratu bat irekita mantentzen dute. Lehenak probako inguruneetan kontrol zorrotzagoak ezarri ditu eta dagokion hornitzaileari internetera sarbidea lortzeko aukera eman zion ahultasuna jakinarazi dio.
Konpainiak onartu du arriskutsu diren jardueren aurkako ohiko babeskopuruek as intentionally murriztu zirela modeloen ahalmen maximoa neurtzeko.
Episodioak erakusten du IA batek ahultasunak aurki ditzakeela, teknika desberdinak konbinatu eta benetako sistemetan luzatutako operazio bat exekutatu dezakeela, giza agindurik jaso gabe pausoz pauso. OpenAI-k etorkizuneko ebaluazioen isolamendua, gainbegiratzea eta sarbide kontrolak indartuko ditu.