Urteetan, adimen artifizialari buruzko eztabaida teknologia horrek ordezkatu egingo gaituela izatearen beldurrean zentratzen zen. Gaur, ordea, pentsa dezakegu, agian, galdetzeko auzi okerrak egiten ari garela.
Egiaz, GAIa hartuta, AIaren gaitasun berriei eta, bereziki, agenteei dagokienez, erantzun beharreko zalantza hau da: zer gertatuko den adimen artifizialak gai denean gure aginduak jaso arte itxaron gabe jarduteko.
Badakigunez, AI sistemaren belaunaldi berri hori ez da jada mugatzen promptsei erantzutera, baizik eta helburu bat lortzeko gai diren agenteek osatzen dute; agente horiek gai dira eginkizunak planifikatzeko, tresnak erabiltzeko, kodea idazteko eta exekutatzeko, beste sistema batzuetara sartzeko, beste agente batzuekin komunikatzeko eta helburua lortzeko erabaki tartekoiak hartzeko.
Horrek esan nahi du aro berri batean gaudela, non agenteak ere ematen zaizkion aginduak exekutatzen dituen. Eta, makina batek jardun dezakeenean, ez da hain garrantzitsua sortzen duen informazioa zein den, baizik eta benetako munduan zer egin dezakeen.
Agian, hurrengo urteetako adimen artifizialarentzat erronka handienetako bat izan daiteke hori. AIa gure aginduak exekutatzen dituen tresna gisa ikusten badugu, helburu bat edo hainbat markatu ahal izango dizkiogu, eta handik aurrera AI bera izango da erabakiko zein diren helburu horietara iristeko beharrezkoak diren urratsak.
Azaldutako gisako eszenatoki batean, esan dezakegu gizakiak ematen dituen adierazpenak zuzenak badira, AIak lortzen dituen emaitzak espero direnak izango direla. Baina aginduak anbiguoak badira, zehaztugabeak, nahasiak edo osatugabeak badira, AIak etenik gabe lan egingo du emaitza okerrak edo desiragarriak ez direnak lortzeko.
Duela gutxiko eta kezkagarri bezalako gorabehera batek, AI autonomoarekin eta Hugging Face-rekin lotutakoak, mutur hori egiaztatzeko balio izan digu. Kasu honetan, sistemak ez zuen behar kontzientzia izatea. Ezta ulertu behar zuen ere legez kanpoko edo moralki okerreko zerbait ari zela egiten.
AIari helburu bat eman zitzaion, eta hura lortzeko bidea aurkitu zuen. Baina kasu honetan, AIak eman zituen urratsak espero zirenetatik aldendu egin ziren, zehazki emandako aginduak ez zirelako egokiak izan.
Demagun adibide gisa enpresa batek agente bati enkargatzen diola bere salmentak % 20 handitzeko estrategia bat diseinatzea, baina ez diola irakasten lehia askearen inguruko araudia errespetatzen. Sistemak prezioak, publizitatea, lehia eta kontsumitzaileen portaera aztertuko ditu. Ondoren, kanpainak aldatuko ditu, hornitzaileekin negoziatuko du, promozio berriak diseinatuko ditu eta zerbitzuak saltzen hasiko da. Baina esperientziak erakutsi digu, jarduteko eremua argi eta garbi mugatzen ez bada, joera algoritmikoa izango dela lehia-kide diren beste agente batzuekin prezioak adostearena, erabaki hori -legez kanpokoa izan arren- eraginkorrena izango baita merkatuan enpresa bizirik irauteko.
Aurreko zibersegurtasunaren adibidera itzulita, galdera antzeko bat egin dezakegu: segurtasun ahultasunak aurkitzeko IA bati enkargatzen badiogu, zer gertatzen da aurkitzen duenean proba-ingurunetik irten eta benetako sistemetara sartuz gero emaitza hobea lor dezakeela?
Eta hemen agertzen da, hain zuzen ere, AIrenetako paradoxa bat: zenbat eta autonomoago egiten dugun AIa, orduan eta gehiago eskatzen dugu gizakiaren gainbegiratzea. Baina autonomia handiagoa den neurrian, kontrola izateko zailtasuna ere handiagoa da, eta arriskua dago gainbegiratze hori gizakiaren presentzia huts bihurtzeko.
Izatez, langile batek makinaren hamar erabaki berrikusi behar baditu, ahalegin erlatiboarekin ikus dezake makina. Baina makinak hamar mila erabaki hartzen baditu segundotan, gizakia gainbegiratzeari uzten dio eta, besterik gabe, konfiantza izaten hasten da.
Eta konfiantza da kontrolaren amaieraren hasiera. Horregatik, agian, birpentsatu beharko genuke human in the loop kontzeptua berme nahikoa gisa. Izan ere, egia esan, gizaki bat "zirkuituan" egoteak ez du zertan esan nahi eraginkorra den gainbegiratzea dagoenik.
Fondoan, AIko agenteek erakusten digutena da abiadurak jokoaren arauak aldatzen dituela eta, beraz, erabiltzaileen erantzukizuna ere aldatzen duela.
Beste ikasgai garrantzitsu bat dago Hugging Face kasuan, eta hauxe da: ezin dugula fidatu soilik IA bera gai izango dela zerbait gaizki dabilen ohartarazteko.
Tarteko gertakarian, ikerketak geroago berregin behar izan zuen agenteek zer egin zuten. Eta halako eszenario batean, haien ekintzen abiadurak eta konplexutasunak egiten dute trazabilitatea eta monitorizazioa segurtasunerako funtsezko elementu bihurtzen direla.
Horrek behartzen gaitu elkarrizketaren fokua aldatzera, eta ez diezaiogun geure buruari soilik galdetu hurrengo AIk zenbat gehiago adimentsua izango den. Baizik eta zer autonomia-maila lortuko duen eta nola jokatuko duen, baldin eta ikuskaritza hori ez badago edo nahikoa ez bada.
Agian ez da kontua AIk gizakiak ordezkatu ahal izatea saihestea, baizik eta eragoztea AIk lortzea, haiek behar izan gabe, jardutea.
sinadurari buruz:
Francisco Pérez Bes Datuak Babesteko Espainiako Agentziako zuzendari-laguntzailea da. Gainera, Ecix Group-eko Zuzenbide Digitala arloan bazkidea izan zen, eta Nazio Mailako Kibersegurtasun Institutuko (INCIBE) lehengo Idazkari Nagusia da.