El 8 de setembre, Jacob Coxon es va seure en un banc de San Francisco i va anunciar a X que acabava de dimitir d'Anthropic. Havia treballat tres anys en intel·ligència artificial, primer a OpenAI i després a Anthropic. Va acusar ambdues empreses d'avançar cap a sistemes capaços de millorar-se a si mateixos i d'estar «jugant-se les nostres vides».
Coxon té 27 anys. El seu missatge va arribar a milions de visualitzacions. Llavors va succeir alguna cosa més important: la indústria no es va riure d'ell. Evan Hubinger, investigador d'Anthropic, va estimar en més d'un 10 % la probabilitat d'una catàstrofe provocada per la intel·ligència artificial. Dies després, Dario Amodei va demanar alentir els models més avançats.
Jo segueixo la intel·ligència artificial per feina. Sóc advocada especialitzada en ciberseguretat i llegeixo els documents d'aquestes companyies amb interès, però sense sobresalts. Aquella nit va ser diferent. Vaig passar hores llegint les respostes sota el missatge de Coxon. No vaig veure que participés.
A la matinada següent li vaig escriure per Instagram sense esperar resposta. Va arribar en minuts. Em va explicar alguna cosa que encara no se sabia: no podia accedir al seu compte de X. El seu missatge recorria el món mentre ell romania fora de la conversa que havia provocat.
Li vaig demanar permís per publicar aquell dada. Me'l va concedir amb una condició: no especular sobre la causa. Ho vaig complir llavors i ho compleixo ara. La resta roman entre nosaltres.
Coxon mai ha dit que veiés una superintel·ligència amagada. El que va observar va ser una direcció. Els sistemes milloren programant, investigant i realitzant tasques prolongades. Si intervenen decisivament en la construcció dels seus successors, el desenvolupament deixarà de dependre de la velocitat humana.
És com si una fàbrica d'automòbils comencés a dissenyar la següent fàbrica. El perill no és que avui existeixi una màquina més intel·ligent que nosaltres, sinó descobrir massa tard que el procés avança més ràpidament que la nostra capacitat per governar-lo.
La història coneix aquestes advertències. Leo Szilárd va comprendre les conseqüències de la reacció nuclear en cadena, va contribuir al projecte que va desenvolupar la bomba atòmica i després va intentar impedir que s'utilitzés contra ciutats japoneses. El van escoltar per construir-la. La seva petició no va arribar al president Truman abans del bombardeig d'Hiroshima.
Una bomba és una arma física i Coxon parla d'una trajectòria incerta. Però ambdós casos contenen la mateixa paradoxa: qui comprèn una tecnologia des de dins pot advertir del perill sense tenir poder per aturar-la.
Europa obliga els proveïdors de models amb risc sistèmic a avaluar capacitats, mitigar riscos i notificar incidents greus. Però el sistema jurídic continua pensat per controlar actors i productes dins d'una jurisdicció. La cursa que descriu Coxon és mundial.
El perill no és que avui existeixi una màquina més intel·ligent que nosaltres, sinó descobrir massa tard que el procés avança més ràpid que la nostra capacitat per governar-lo
Brussel·les pot supervisar empreses a Europa. Washington pot intervenir sobre companyies nord-americanes. Cap autoritat pot imposar per si sola una pausa a tots els laboratoris. Si un s'atura i els altres continuen, la prudència es converteix en desavantatge competitiva.
Aquest és el buit. No falten normes, sinó una decisió sobre qui pot aturar la cursa, quina evidència justificaria fer-ho i com impedir que un altre ocupi el lloc de qui s'aturi.
En seguretat s'aprèn aviat que una norma escrita després de l'accident no és una norma, sinó un part de danys. El Dret sap sancionar incompliments. Encara no sap governar una capacitat que pot esdevenir perillosa abans que existeixi un dany demostrable.
Coxon va recuperar el seu compte dies després. Mai va explicar què va passar i no vaig a especular. Però segueixo pensant en aquell noi assegut en un banc, després de treballar en dos dels laboratoris més poderosos del món, mesurant cada paraula per advertir-nos. Això també és un dada.
sobre la firma:
Vela Micha és presidenta de Micha i Associats Legaltec