La intel·ligència artificial ha passat en qüestió de dies d'alimentar algunes de les majors expectatives dels mercats a provocar una discussió incòmoda entre qui l'està construint: si ha arribat el moment de pisar el fre. Executius d'algunes de les companyies més importants del sector reclamen reduir la velocitat amb què avancen els models més potents, les empreses lligades a la IA pateixen a la Borsa i el debat ha acabat convertit en un nou front entre Estats Units i Xina.
La paradoxa resumeix el moment. Dario Amodei, Sam Altman, Demis Hassabis i Elon Musk, protagonistes de la carrera tecnològica, han recolzat en diferent grau la necessitat d'introduir majors controls o moderar el ritme. Al costat oposat està Donald Trump, que aquest dilluns ha denunciat una "conspiració enfermissa" contra la IA i els centres de dades i ha deixat clara la seva prioritat: Estats Units no pot arriscar-se a perdre el seu avantatge davant de Pequín.
Xina tampoc contempla el debat únicament com una qüestió de seguretat tecnològica. Pequín acusa veus nord-americanes d'utilitzar els riscos de la IA com a cobertura per "estrangular" el desenvolupament tecnològic xinès i ampliar primer la distància entre ambdós països abans de negociar qualsevol desaceleració.
El que fins fa poc podia semblar una discussió reservada a enginyers i reguladors s'ha convertit així en un problema per als mercats, una batalla empresarial i una qüestió de poder geopolític.
Les Borses comencen a posar preu a la por
El primer avís ha arribat als mercats. Les companyies més estretament vinculades al desenvolupament de la intel·ligència artificial han patit aquest dilluns importants correccions després d'un cap de setmana marcat per les advertències procedents del mateix sector.
En Àsia, el Kospi sud-coreà ha perdut al voltant d'un 3,25%, mentre Samsung Electronics ha caigut un 4,05% i SK Hynix un 6,35%. A Taiwan, TSMC ha retrocedit un 1,24% i Foxconn un 3,90%.
El càstig més pronunciat s'ha produït al Japó. SoftBank s'ha desplomat un 10,72%, mentre Kioxia ha perdut un 6,37%. El Nikkei ha acabat la sessió amb un descens proper al 0,6%.
Europa ha recollit part d'aquesta inquietud. ASML, un dels noms fonamentals de la cadena mundial de fabricació de semiconductors, arribava a perdre prop d'un 6%, mentre altres valors tecnològics també registraven importants descensos.
Nvidia cedía al voltant d'un 2,5% en les operacions prèvies, Intel un 6%, Micron un 5,31%, Qualcomm un 4,5% i Broadcom un 3,25%.
No tot el sector tecnològic es comportava igual. Les grans plataformes presentaven una major resistència i el Nasdaq mantenia un comportament més favorable. El mercat distingeix així entre la tecnologia en general i les companyies la valoració de les quals està especialment vinculada a la continuïtat de l'enorme cicle inversor al voltant de la intel·ligència artificial.
Els homes que van accelerar la IA ara volen reduir la velocitat
El canvi més cridaner no prové dels governs. Està naixent dins de la pròpia indústria.
El conseller delegat d'Anthropic, Dario Amodei, ha reclamat reduir el ritme al qual augmenten les capacitats dels models avançats. La seva preocupació se centra especialment en la denominada automejora recursiva: la possibilitat que sistemes d'IA cada vegada més capaços contribueixin a desenvolupar la següent generació d'intel·ligència artificial, accelerant encara més el procés.
"Hem de ralentir el ritme en què millorem les capacitats dels models d'IA", ha defensat Amodei.
El seu plantejament ha trobat suports entre alguns dels seus principals competidors. Sam Altman, conseller delegat d'OpenAI, ha coincidit que s'hauria de moderar el ritme a la frontera tecnològica i ha recolzat la participació d'evaluadors independents amb un accés als sistemes comparable al dels propis treballadors.
També Demis Hassabis, responsable de Google DeepMind, ha donat suport públicament la crida d'Amodei. Elon Musk, per la seva banda, ha defensat que existeixi algun grau de supervisió i ha plantejat com a punt de partida una revisió dels sistemes d'IA entre competidors.
La discussió ha avançat fins i tot cap a una possibilitat que fa poc hauria resultat difícil d'imaginar: que Anthropic, OpenAI i Google creïn conjuntament un organisme independent d'autoregulació encarregat d'establir estàndards de seguretat per als models més avançats.
Per què tenen por ara?
El debat no gira únicament al voltant d'escenaris llunyans sobre una eventual superintel·ligència. Les capacitats dels sistemes actuals ja estan introduint un canvi més immediat: la IA comença a passar de respondre a ordres a executar cadenes d'accions de forma autònoma.
Els anomenats agents poden rebre un objectiu, dividir-lo en tasques, consultar informació, utilitzar eines, executar codi, analitzar els resultats i modificar la seva estratègia sense que una persona hagi de decidir cada pas.
A aquest salt tecnològic s'afegeix una advertència que ha sacsejat el propi sector. Jacob Coxon, investigador que va treballar a Anthropic i anteriorment a OpenAI, va dimitir la passada setmana alertant que les companyies estan avançant cap a sistemes capaços de millorar-se a si mateixos sense haver resolt com mantenir-los sota control.
"Els qui estan construint la IA creuen sincerament que podria matar-nos a tots abans que acabi la dècada", va afirmar Coxon en anunciar la seva sortida. També va acusar a Anthropic i OpenAI d'estar "apostant amb les nostres vides" en la cursa cap a una superintel·ligència capaç d'automillorar-se.
L'advertència no va quedar aïllada. Evan Hubinger, responsable de l'àrea d'Alignment Science d'Anthropic, va donar suport públicament al seu antic company i va assegurar que ell mateix situa per sobre del 10% la probabilitat que una IA avançada pugui provocar l'extinció humana durant la pròxima dècada. Hubinger va reconèixer a més que la companyia encara no disposa d'un pla per resoldre completament el problema d'alineament d'una futura superintel·ligència.
És precisament aquest risc —que els models comencin a contribuir al desenvolupament de generacions posteriors cada cop més capaces— el que ha portat al conseller delegat d'Anthropic, Dario Amodei, a reclamar una desacceleració del progrés dels models més avançats. La preocupació ja no és únicament què pot fer avui una IA, sinó què passa si la velocitat de millora acaba superant la capacitat humana per comprendre-la, avaluar-la i contenir-la.
Espanya ha rebut aquest dilluns una primera senyal concreta d'un altre tipus de risc. L'Agència Espanyola de Protecció de Dades (AEPD) ha comunicat que ha rebut la primera notificació d'una bretxa de dades personals en la qual l'incident hauria estat executat mitjançant un agent d'intel·ligència artificial.
Segons la informació traslladada per l'organització afectada —que encara haurà d'analitzar-se—, l'agent va aconseguir accedir a un sistema i posteriorment va buscar vulnerabilitats de manera autònoma fins a aconseguir modificar dades personals i accedir a factures.
L'AEPD introdueix una cautela fonamental: utilitzar un determinat model no significa que aquest model o la infraestructura del seu proveïdor hagin estat compromesos ni que hagin estat dissenyats amb fins maliciosos.
Trump no vol frens: "Qui guanyi la cursa de la IA, guanyarà"
Però a la Casa Blanca, el diagnòstic és molt diferent. Trump ha respost aquest dilluns als cridaments de la indústria denunciant una "conspiració enfermissa" contra la IA i els centres de dades. Per al president nord-americà, reduir ara la velocitat podria acabar beneficiant precisament al principal rival tecnològic de Washington.
"Hi ha una conspiració enfermissa en marxa contra la IA i els centres de dades, i l'únic feliç amb això és la Xina", ha afirmat a Truth Social.
La seva fórmula per abordar els riscos tampoc passa per construir un nou entramat regulatori. "El únic control o 'salvaguarda' que necessita la IA és un president fort i intel·ligent", ha assegurat.
Trump sosté que els Estats Units disposa ja de capacitat penal i reguladora per intervenir quan les empreses creuin determinats límits i ha carregat directament contra Amodei, a qui acusa de presentar-se ara com un "angelito perfecte".
Per sobre de qualsevol altra consideració apareix la seva prioritat estratègica: "Qui guanyi la cursa de la IA, guanyarà".
Xina veu una "agenda oculta"
Precisament la Xina ha utilitzat el debat nord-americà per presentar una lectura oposada.
El Ministeri xinès d'Exteriors ha rebutjat les narratives que alimenten la confrontació i ha defensat una intel·ligència artificial "oberta, inclusiva, accessible per a tots i orientada al bé". Pequín sosté que convertir el desenvolupament tecnològic en una competició hostil perjudica la governança internacional de la IA.
Més contundent ha estat el Global Times, diari dependent del Diari del Poble, òrgan del Partit Comunista xinès. El diari acusa part de la comunitat tecnològica nord-americana d'aplicar un "manual de guerra freda" i considera que darrere d'alguns cridaments a alentir la IA existeix una "agenda oculta" contra la Xina.
L'argument xinès apunta directament a una de les contradiccions que travessen el debat. Amodei tem que una desaceleració unilateral permeti a la Xina assolir o superar els Estats Units i defensa mantenir restriccions sobre tecnologies estratègiques. El Global Times interpreta aquesta posició com un intent de "estrangular" primer la capacitat xinesa i negociar després des d'una posició de superioritat.
Pekín arriba a aquesta discussió amb una indústria que també avança ràpidament. DeepSeek, Moonshot, Alibaba, Tencent i Zhipu competeixen amb nous models malgrat les restriccions nord-americanes sobre l'accés a determinats xips avançats.
El dilema que ningú ha resolt
Detrás de la discussió sobre seguretat apareix una pregunta molt més difícil: qui pot permetre's ser el primer a frenar?
Si OpenAI, Anthropic, Google i altres grans laboratoris nord-americans redueixen unilateralment el ritme, existeix la por que competidors que no acceptin les mateixes regles ocupin el seu espai. Si tots continuen accelerant per evitar-ho, les pròpies companyies adverteixen que poden augmentar els riscos que ara diuen voler controlar.
I si els grans laboratoris nord-americans pacten entre ells com i quant alentir-se, apareix un tercer problema: fins a quin punt aquest acord podria tancar el mercat a empreses més petites o convertir-se en una barrera d'entrada.
La IA entra així en una fase diferent. Ja no es discuteix únicament què és capaç de fer, sinó qui estableix els seus límits, qui suporta el cost d'imposar-los i quina potència està disposada a assumir el risc d'avançar més a poc a poc.