Bankuko mutilak adimen artifiziala gelditu zuen

27 urteko ikertzaile bat Anthropic-etik dimititu zen eta adimen artifizialaren lasterketa gidatzen dutenak publikoki gelditzeko hitz egitera behartu zituen. Hurrengo goizean, Jacob Coxon-ek erantzun zidan. Bere ohartarazpenak galdera bat erantzunik gabe uzten du: nor da gelditzeko agindu dezakeen autoritatea?

OPINIÓN PLANTILLA (32)

OPINIÓN PLANTILLA (32)

Gehitu DEMOCRAT Google-n

Galdetu FRENi

Argitaratu

3 minutuak

Gehien irakurrita

Elecciones 29N · Encuestas

La media de las encuestas

Media a 11 de noviembre de 2026 · 15 institutos

  • PP31,5 %
  • PSOE26,8 %
  • Vox19,1 %
  • Frente Amplio6,2 %
  • ERC2,5 %
01020304050ene 2024jul 2024ene 2025jul 2025ene 2026jul 2026

Media del último estudio de cada instituto en 30 días y su evolución semanal desde el 23J. Partidos con al menos un 2 %.

Todas las encuestas

Elecciones generales del 29 de noviembre · Demócrata

Irailaren 8an, Jacob Coxon San Frantziskoko banku batean eseri zen eta X-n iragarri zuen Anthropic-etik dimititu berri zela. Hiru urte lan egin zuen inteligentzia artifizialean, lehenik OpenAI-n eta ondoren Anthropic-en. Bi enpresak sistema auto-hobetzaileak garatzearen bidean aurrera egitea leporatu zien eta «gure bizitzak arriskuan jartzen ari direla» esan zuen.

Coxon 27 urte ditu. Bere mezua milioika ikustaldi lortu zituen. Orduan garrantzitsuagoa den zerbait gertatu zen: industria ez zen berregin. Evan Hubinger, Anthropic-eko ikertzailea, inteligentzia artifizialak eragindako katastrofa baten probabilitatea %10etik gorakoa zela estimatu zuen. Egun batzuk geroago, Dario Amodei aurreratuen modeloak moteldu zitzan eskatu zuen.

Ni lanagatik inteligentzia artifiziala jarraitzen dut. Zibersegurtasunean espezializatutako abokatua naiz eta enpresa hauen dokumentuak interesa handiz irakurtzen ditut, baina ez naiz harritzen. Gau hartan desberdina izan zen. Orduak pasa nituen Coxonen mezua azpian zeuden erantzunak irakurtzen. Ez nuen ikusi parte hartzen.

Hurrengo goizean Instagram-en idatzi nion erantzunik espero gabe. Minutu gutxitan iritsi zen. Ezagutzen ez zen zerbait kontatu zidan: X-ko bere kontura sartzeko aukera ez zuela. Bere mezua munduan zehar zabaldu zen bitartean, berak sortu zuen elkarrizketatik kanpo gelditu zen.

Baieztatzeko baimena eskatu nion datu hori argitaratzeko. Baldintza batekin eman zidan: kausa gainean ez especulatzeko. Orduan bete nuen eta orain ere betetzen dut. Beste guztia gure artean geratzen da.

Coxonek inoiz ez du esan superinteligentzia ezkutua ikusi zuenik. Ikusi zuena helbide bat izan zen. Sistemak programatuz, ikertuz eta luzatutako lanak eginez hobetzen dira. Haien ondorengoen eraikuntzan erabakigarri esku hartzen badute, garapenak gizakiaren abiaduraren menpe ez jarraitzea ekarriko du.

Automobilen fabrika batek hurrengo fabrika diseinatzen hastea bezalakoa da. Arriskua ez da gaur egun gu baino inteligenteagoa den makina bat egotea, baizik eta prozesua gure gobernatzeko gaitasuna baino azkarrago aurrera doala atzeratu ikustea.

Historia hika horrelako ohartarazpenak ezagutzen ditu. Leo Szilárd-ek erreakzio nuklear baten ondorioak ulertu zituen, atomika bonba garatzeko proiektuan lagundu zuen eta ondoren japoniar hirien aurka erabiltzea saihestu nahi izan zuen. Hura entzun zuten eraikitzeko. Bere eskaera ez zen Truman presidentea irakurri Hiroshima bonbardatu aurretik.

Bomba bat arma fisiko bat da eta Coxonek ibilbide ezezaguna aipatzen du. Baina bi kasuek paradoxa bera dute: teknologia bat barrutik ulertzen dutenek arriskua ohartarazi dezakete, baina ez dute gelditzeko botereik.

Europak sistema arriskutsu duten modeloen hornitzaileak gaitasunak ebaluatzera, arriskuak murriztera eta gertakari larriak jakinaraztera behartzen ditu. Baina sistema juridikoa aktoreak eta produktuak jurisdikzio baten barruan kontrolatzeko pentsatuta jarraitzen du. Coxonek deskribatzen duen lasterketa mundiala da.

Arriskua ez da gaur egun gu baino adimentsuagoa den makina bat egotea, baizik eta prozesua gobernatzeko dugun gaitasuna baino azkarrago aurrera doala berandu irakurri izana

Bruselak Europako enpresak gainbegiratu ditzake. Washingtonek estatubatuar enpresetan esku hartu dezake. Ez dago autoritate bakar batek laborategi guztiei gelditzea inposatzeko. Bat gelditzen bada eta besteek jarraitzen badute, kontu handia desabantaila lehiakorra bihurtzen da.

Hori da hutsunea. Ez dira arauak falta, baizik eta lasterketa gelditu dezakeen noren erabakia, zein froga justifikatuko lukeen eta nola saihestu beste batek gelditu denaren lekua hartzea.

Segurtasunean azkar ikasten da istripuaren ondoren idatzitako arau bat ez dela arau bat, baizik eta kaltearen txostena. Zuzenbideak betebeharrak zigortzen jakin du. Oraindik ez du arriskutsua bihurtu daitekeen gaitasun bat gobernatzen jakin.

Coxonek bere kontua berreskuratu zuen egun batzuk geroago. Inork ez zuen azaldu zer gertatu zen eta ez naiz espekulatuko. Baina oraindik pentsatzen dut banku batean eserita zegoen mutil horretan, munduko bi laborategi boteretsuetan lan egin ondoren, arriskua ohartarazteko hitz bakoitza neurtzen. Hori ere datu bat da.

sinadurari buruz:

Vela Micha Micha eta Asociados Legaltec-en presidentea da