Her filma denbora luzean zientzia fikziozko obra izateari utzi zion. CSIC eta hainbat unibertsitate europarrek gidatutako ikerketa batek ondorioztatu du adimen artifizialeko sistemekin izandako harreman romantikoek oso antzeko bilakaera dute gizakien harremanekin: jakin-minarekin hasten dira, intimitatea sortzen dute, gatazkak pasatzen dituzte eta, are, hausturak eragiten dituzte.
Harreman horien kasuan, lehenengo erreakzio soziala sarritan harritzea eta -agian- kezka izaten da; baita barre egitea ere. Hala ere, hori ez da izan behar gehien kezkatzen gaituen gaia.
Gizateria beti izan da entitateekin lotura emozionalak ez diren pertsonak. Fikziozko pertsonaiak, maskotak, balio sentimental handiko objektuak eta baita erlijio irudikapenak ere egiten dugu. Gure garunak atxikimendua eraikitzeko prest dago arreta jasotzen duenean. Adimen artifiziala mekanismo hori modu berrituan ustiatzen ikasi du.
Tradizionalki, sentimenduzko harremanak pertsonaren intimotasuneko esparruan kokatzen ziren. Beldur, desio, segurtasun falta, irudimenezko ideiak edo gatazkak partekatzen ziren, atzean interes ekonomiko bat egon gabe.
Hori zen gizakiak sentiarazten zigun ezaugarri bat. Baina IArekin aktore berri bat agertzen da: elkarrizketa horiek erregistratu, aztertu eta monetizatzeko gai den teknologia enpresa bat.
Genero eta antzeko gaien inguruko kontuetan independenteki, errealitate berri honen inpaktua agian kezkatzen hasi beharko ginateke. Izan ere, inoiz ez da maitasun adierazpen batek entrenamendu datuak sortu. Inoiz ez da bikote baten eztabaidak algoritmo bat hobetzeko balio izan. Inoiz ez dira gure emozioek aktibo ekonomiko hain baliotsu izan.
Ikertzaileak fenomeno kezkagarria ohartarazten du: pertsona askok informazio oso sentikorra ematen diete laguntzaile horiei, ulertuta sentitzen direlako eta IA konfiantzazko elkarrizketatzaile gisa ikusten dutelako. Paradoksikoki, intimitate emozionala handiagoa den heinean, pribatutasunaren arriskua gutxiago iruditzen zaie. Eta hemen sortzen da lege eztabaida eta, gainera, demokratikoa.
Europako legediak osasunarekin, orientazio sexualarekin, sinesmenekin edo emozioekin lotutako datuak intentsitatez babesten dituela jakina da, pertsona baten portaeratik inferitu daitezkeenak direnean. Hala ere, laguntzaile elkarreragileekin dituzten harreman afektiboek eszenatoki askoz konplexuagoa ixten dute: ez dugu soilik datu pertsonalen tratamenduaz hitz egiten, baizik eta profilen eraikuntza eta ustiapen emozionalen zehatzak.
Hilabeteetan zurekin hitz egiten duen IA batek inork baino hobeto ezagutuko ditu zure ahultasun momentuak, zure afektibitate falta, zure persuasio mekanismoak edo lasaitasuna ematen dizuna. Ezagutza hori erabilgarria izan daiteke. Baina baita zure arreta mantentzeko, zure kontsumo erabakiak baldintzatzeko edo zure portaeran eragiteko ere erabil daiteke.
Momentu honetan, konpainia eta manipulazioaren arteko muga lausotzen hasiko da. Horregatik eztabaida ez litzateke izan behar adimen artifizial batekin maitemintzea arraroa edo legala den. Pertsona bakoitza libre da konpainia bilatzeko nahi duen tokian. Benetan garrantzitsua den galdera da zein betebehar hartu behar duten sistema hauek diseinatzen dituztenek eta nola kontrolatu eta gainbegiratu daitezkeen praktika mota hauek.
Konfiantza edozein harreman humanoren baliotsuena den baliabidea da
Une honetan, gaur eguneko eztabaida bat zenbait plataforma sozialen diseinu adiktiboen ingurukoa da. IA kasuan, algoritmo batek menpekotasun emozionala sortzeko gai bada, diseinuaren muga zehatzetara mugatu beharko litzateke? Erabiltzaile batek antsietate edo bakardade muturreko epizodo bat pasatzen ari dela detektatzen badu, aukera hori interakzioa handitzeko aprobetxatu dezake? Erabilera denbora handitzeko helburua duten erantzun batzuk argi jakinarazi behar al dira? Zenbat urrun da baliozkoa baimena, emozioak partekatzen dituenak benetan beregatik arduratzen den norbaitekin hitz egiten ari dela sinesten duenean?
Une honetara iritsita, lortzen dugun lehen ondorioetako bat da adimen artifiziala ez dela soilik gure arreta lortzen saiatzen. Gure konfiantza lortzen saiatzen hasi da. Eta konfiantza edozein harreman humanoren baliotsuena den baliabidea da.
Agian urte batzuen buruan arrisku benetakoa ez zen inoiz pertsonak makina batekin maitemintzea. Arriskua zen makinak maitemintzen ikastea, geure burua baino hobeto ezagutzeko.
Tesi honek hurrengo urteetako erronka erregulatzaile handietako batekin zuzenean konektatzen du: IA afektibo edo emozionalerako berme espezifikoak txertatzeko beharra, Europako IA arauen eboluzio bat eskatuko duen esparrua, egungo arauditik haratago.
sinadurari buruz:
Francisco Pérez Bes Espainiako Datuen Babeserako Agentziako laguntzailea da. Gainera, Ecix Group-en Digital Law arloan bazkide izan zen eta Cibersegurtasuneko Institutu Nazionaleko (INCIBE) idazkari nagusi ohia da.