Progresua, eboluzioa, garapena, baina mugak dituztenak. Kontrolarekin. Inteligentzia artifiziala eszenatoki berri bat ireki du non garapen teknologikoa aurrera doa aldi berean eztabaida nola gainbegiratu behar den hazten den bitartean. Duela urte batzuk, arreta sistema hauen potentzialean zentratu zen, orain fokua gobernantzan mugitzen da: nor ezartzen ditu arauak, nola aplikatzen diren eta zein mekanismok baimentzen dute aurreratuenak diren modeloak segurtasun mugak barne funtzionatzen direla egiaztatzeko.
Erronka ez da amaitzen arau marko bat onartzean. Inteligentzia artifiziala enpresetan eta antolakuntzetan ezartzeak printzipioak, hala nola gardentasuna, gainbegiratu humanoa edo arrisku kudeaketa, prozedura konkretu bihurtzea eskatzen du, sistema hauen eguneroko erabileran modu eraginkorrean aplikatu daitezkeenak.
Arauetatik eguneroko aplikaziora
Erregulaziotik praktikara igarotzea, uztailean aurkeztu den IA Gobernantza Laborategiaren txostenaren ondorio nagusietako bat da, Ginebrako Konbentzioan Nazio Batuen Humanitatearentzako, dokumentu honetan DigitalES ere parte hartu du Espainiako industria teknologikoaren ikuspegia emanez.
Txostenak dio gobernantza benetan hasten dela antolakuntzak arau horiek beren eguneroko jardueran txertatzen dituztenean. Gardentasun, segurtasun edo azalpeneko irizpideen aplikazioa printzipioen adierazpen bat izateari uzten dio eta erabaki operatibo bihurtzen da: sistema baten despliegua baino lehen arriskuak ebaluatzea, bizitza ziklo osoan zehar erantzukizunak definitzea edo modelo baten nola funtzionatzen duen ulertzen laguntzen duten mekanismoak ezartzea.
Antolakuntza orokorrentzat balio duen esquema bakarra planteatzeaz urrun, dokumentuak azpimarratzen du printzipio horiek errealitate oso desberdinetara egokitu daitezkeela. Inteligentzia artifizialean espezializatutako enpresaren beharrak, prozesu hauetan tresna hauek txertatzen dituen enpresa industrialarenak baino desberdinak dira, modu berean erronkak aldatu egiten dira ekonomia edo geografiarako testuinguruaren arabera.
Enpresen papera gobernantzan
Txostenak enpresei bilakaera horretan erabakigarria den papera aitortzen die. Inteligentzia artifiziala ezartze bakoitzean, erabilera kasu berri bakoitzean eta esperientzia praktiko bakoitzean ezagutza sortzen da, governantza modeloak hobetzeko eta praktika on berriak sendotzeko aukera ematen duena.
Ideia da, araudia eta esperientzia paraleloan aurrera egitea. Arauek ekintza marko bat ematen dutenean, eguneroko aplikazioak erronka berriak detektatzeko eta sistema hauek gainbegiratzeko erabiltzen diren tresnak hobetzeko aukera ematen du.
Prozesuaren dimentsio kolektiboan ere arreta jartzen du. Gobernantza ez da soilik modelo bat garatzen duenaren araberakoa, baizik eta hornitzaile teknologikoak, integratzaileak, bezeroak eta azken erabiltzaileak barne hartzen ditu. Ondorioz, ardura guztiak sistema adimen artifizialaren bizitza zikloan parte hartzen duten aktore guztien artean banatu behar da.
Testuinguru horretan, publiko eta pribatu kontratazioa pisu handiagoa hartzen du. Gardentasunarekin, arriskuak ebaluatzearekin edo erosketa prozesuetan trazabilitatearekin lotutako baldintzen sarrera estandarrak balio kate osoan zabaltzea eta praktika onen adopzio homogeneoagoa sustatzea ahalbidetu dezake.
Sistema gero eta autonomoagoak gainbegiratzea erronka
Adimen artifizialaren eboluzioak eztabaidari elementu berri bat gehitzen dio. Aurretik abiarazi aurretik ebaluatu zitezkeen modeloen aurrean, azkeneko sistemek ikasteko, ingurunearekin interaktibatzeko eta autonomia handiagoarekin zereginak betetzeko gai dira.
Txostenak aldaketa honek aurretik egindako ziurtagitzetan oinarritutako modelo bat ordezkatzeko beharra dakarrela adierazten du, gainbegiratze jarraituaren mekanismoak barne hartzen dituen beste bat. Mezua bidaltzeko, operazio bat egiteko edo erabakiak hartzeko gai den sistema batek ez du arrisku berberak planteatzen, laguntzaile batek posta elektronikoaren borradore bat idazten duen bitartean.
Horregatik, zenbait erakunde dagoeneko sistema bakoitzak egiten dituen ekintzen motara egokitutako kontrolak garatzen ari dira, ekintza itzulgarriak eta gainbegiratze maila altuagoak eskatzen dituztenen artean desberdintzen.
Supervisore internacional baten proposamena
Kontrol mekanismo horiek indartzeko beharra Demis Hassabisek planteatutako proposamenean ere agertzen da, Google DeepMind-en zuzendari nagusia eta 2024ko Kimika Nobel irabazlea.
A Framework for Frontier AI and the Dawning of a New Age izeneko saiakera batean, Hassabisek merkatura iritsi aurretik adimen artifizial aurreratuen modeloak probatzeko ardura izango duen organismo internacional bat sortzearen alde egiten du.
Bere planteamenduak cibersegurtasunarekin, arma biologikoen garapenarekin edo modu autonomoan jarduteko gaitasunarekin lotutako arrisku posibleak detektatzeko deitzen diren mugen modeloak ebaluatzea aurreikusten du. Sistema batek probak gainditzen ez baditu, erakundeak bere ezarpena atzeratzeko edo eragozteko gaitasuna izango luke.
Proposamenak Estatu Batuetako Finantza Industria Arautzaile Agintaritza (FINRA) inspiratutako egitura bat planteatzen du: industria batek finantzatutako entitate bat, baina ebaluazio independenteak egiteko autonomia teknikoa duena.
Hassabisen arabera, martxan jartzea adimen artifizialeko laborategi nagusien parte-hartze boluntarioarekin hasi beharko litzateke, ondoren arau partekatuetan eta aplikatzeko obligazioan oinarritutako modelo batera eboluzionatzeko helburuarekin. Google DeepMind-en arduradunak gainera, erakunde hori 2026 amaitu baino lehen funtzionatzen hasi beharko litzatekeela uste du.
Kontrol mekanismorik gabeko IAren arriskuak
Eta adimen artifiziala ez bada arautzen? Mehatxu nagusien artean cibersegurtasunarekin, arma biologikoen posible garapenarekin edo ekintza jakin batzuk modu autonomoan burutzearekin, pertsona baten esku-hartze berehalakorik gabe lotutako gaitasunak daude.
Biak, Nazio Batuetako Gizateriaren IA Gobernantza Laborategiak aurkeztutako txostena eta Demis Hassabisek defendatutako proposamena, arrisku horiek sistemak ezarri aurretik mehatxuak identifikatzeko mekanismoak eskatzen dituztela adierazten dute, eta haien eboluzioari egokitutako kontrolak mantentzea. Helburua, autonomia maila ez dena etengabe handitzen ari den teknologiaren incidente posibleen eragina murriztea da.
Ia giza adimen artifizialaren lasterketa
Regulazio eztabaida azkartzen ari den faktoreetako bat adimen artifizialeko sistemek eboluzionatzeko duten azkartasuna da. Demis Hassabisek dio giza gaitasun kognitibo askoren pareko edo gainditzeko gai den adimen artifizial orokor baten agerpena hurrengo urteetan gertatu daitekeela.
Hala ere, oraindik ere mekanismo eraginkorrak ezartzeko denbora leiho bat dagoela azpimarratzen du, modelo horiek garapen maila horretara iritsi aurretik. Bere iritziz, teknologia honen potentziala medicina edo energia bezalako arloetan aurrerapenak bultzatzeko arriskuekin batera doa, eta horiek ezarri aurretik ebaluazio independenteak eskatzen dituzte.
Hori aurreikuspena betetzen bada, eztabaida ez da soilik modelo berrien gaitasun teknikoan zentratuko, baizik eta bere eragin ekonomiko, politiko eta sozialean ere. Horregatik, gero eta ahots gehiago defendatzen dute sistema berri horien merkatura iritsi aurretik kontrol mekanismoak prestatzea beharrezkoa dela.