El noi del banc que va frenar la intel·ligència artificial

Un investigador de 27 anys va dimitir d'Anthropic i va obligar els qui lideren la cursa de la intel·ligència artificial a parlar públicament de frenar-la. Al matí següent, Jacob Coxon em va respondre. La seva advertència deixa una pregunta sense resposta: qui té autoritat per ordenar que s'aturin?

OPINIÓN PLANTILLA (32)

OPINIÓN PLANTILLA (32)

Afegeix DEMÓCRATA a Google

Pregunta a FREN

Publicat

3 minuts

Més llegides

Elecciones 29N · Encuestas

La media de las encuestas

Media a 15 de noviembre de 2026 · 16 institutos

  • PP31,4 %
  • PSOE27,0 %
  • Vox19,0 %
  • Frente Amplio6,2 %
  • ERC2,5 %
01020304050ene 2024jul 2024ene 2025jul 2025ene 2026jul 2026

Media del último estudio de cada instituto en 30 días y su evolución semanal desde el 23J. Partidos con al menos un 2 %.

Todas las encuestas

Elecciones generales del 29 de noviembre · Demócrata

ELECCIONES 29N

¿Cuál es tu pronóstico? 29N

Reparte los 350 escaños del Congreso como creas que quedarán el 29 de noviembre. Puedes cambiar tu pronóstico hasta que cierren los colegios.

0 de 350 escaños

PP
PSOE
Vox
Frente Amplio
ERC
Junts
EH Bildu
PNV
Más partidos
Podemos
BNG
SALF
CC
UPN
Adelante
Aliança
Otros

Protegido por reCAPTCHA de Google: privacidad y condiciones

Pronóstico de DemócrataParticipación abierta, no es una encuesta

El 8 de setembre, Jacob Coxon es va seure en un banc de San Francisco i va anunciar a X que acabava de dimitir d'Anthropic. Havia treballat tres anys en intel·ligència artificial, primer a OpenAI i després a Anthropic. Va acusar ambdues empreses d'avançar cap a sistemes capaços de millorar-se a si mateixos i d'estar «jugant-se les nostres vides».

Coxon té 27 anys. El seu missatge va arribar a milions de visualitzacions. Llavors va succeir alguna cosa més important: la indústria no es va riure d'ell. Evan Hubinger, investigador d'Anthropic, va estimar en més d'un 10 % la probabilitat d'una catàstrofe provocada per la intel·ligència artificial. Dies després, Dario Amodei va demanar alentir els models més avançats.

Jo segueixo la intel·ligència artificial per feina. Sóc advocada especialitzada en ciberseguretat i llegeixo els documents d'aquestes companyies amb interès, però sense sobresalts. Aquella nit va ser diferent. Vaig passar hores llegint les respostes sota el missatge de Coxon. No vaig veure que participés.

A la matinada següent li vaig escriure per Instagram sense esperar resposta. Va arribar en minuts. Em va explicar alguna cosa que encara no se sabia: no podia accedir al seu compte de X. El seu missatge recorria el món mentre ell romania fora de la conversa que havia provocat.

Li vaig demanar permís per publicar aquell dada. Me'l va concedir amb una condició: no especular sobre la causa. Ho vaig complir llavors i ho compleixo ara. La resta roman entre nosaltres.

Coxon mai ha dit que veiés una superintel·ligència amagada. El que va observar va ser una direcció. Els sistemes milloren programant, investigant i realitzant tasques prolongades. Si intervenen decisivament en la construcció dels seus successors, el desenvolupament deixarà de dependre de la velocitat humana.

És com si una fàbrica d'automòbils comencés a dissenyar la següent fàbrica. El perill no és que avui existeixi una màquina més intel·ligent que nosaltres, sinó descobrir massa tard que el procés avança més ràpidament que la nostra capacitat per governar-lo.

La història coneix aquestes advertències. Leo Szilárd va comprendre les conseqüències de la reacció nuclear en cadena, va contribuir al projecte que va desenvolupar la bomba atòmica i després va intentar impedir que s'utilitzés contra ciutats japoneses. El van escoltar per construir-la. La seva petició no va arribar al president Truman abans del bombardeig d'Hiroshima.

Una bomba és una arma física i Coxon parla d'una trajectòria incerta. Però ambdós casos contenen la mateixa paradoxa: qui comprèn una tecnologia des de dins pot advertir del perill sense tenir poder per aturar-la.

Europa obliga els proveïdors de models amb risc sistèmic a avaluar capacitats, mitigar riscos i notificar incidents greus. Però el sistema jurídic continua pensat per controlar actors i productes dins d'una jurisdicció. La cursa que descriu Coxon és mundial.

El perill no és que avui existeixi una màquina més intel·ligent que nosaltres, sinó descobrir massa tard que el procés avança més ràpid que la nostra capacitat per governar-lo

Brussel·les pot supervisar empreses a Europa. Washington pot intervenir sobre companyies nord-americanes. Cap autoritat pot imposar per si sola una pausa a tots els laboratoris. Si un s'atura i els altres continuen, la prudència es converteix en desavantatge competitiva.

Aquest és el buit. No falten normes, sinó una decisió sobre qui pot aturar la cursa, quina evidència justificaria fer-ho i com impedir que un altre ocupi el lloc de qui s'aturi.

En seguretat s'aprèn aviat que una norma escrita després de l'accident no és una norma, sinó un part de danys. El Dret sap sancionar incompliments. Encara no sap governar una capacitat que pot esdevenir perillosa abans que existeixi un dany demostrable.

Coxon va recuperar el seu compte dies després. Mai va explicar què va passar i no vaig a especular. Però segueixo pensant en aquell noi assegut en un banc, després de treballar en dos dels laboratoris més poderosos del món, mesurant cada paraula per advertir-nos. Això també és un dada.

sobre la firma:

Vela Micha és presidenta de Micha i Associats Legaltec

Juga

Posa a prova els teus coneixements amb FREN!

Quant en saps sobre aquest tema? Respon les següents 3 preguntes.

De què va advertir Jacob Coxon després de la seva dimissió d'Anthropic?

Pregunta" 1 de 3

Quina mesura va proposar Dario Amodei després de les declaracions de Coxon?

Pregunta" 2 de 3

Quina limitació assenyala l'autora respecte a la regulació internacional de la intel·ligència artificial?

Pregunta" 3 de 3