El marisc sí ve de Galícia

Algún temps després de la crisi del Prestige, un petrolier que va naufragar a les costes de Galícia vessant tones de la seva càrrega, vaig tenir un dinar de treball en un restaurant gallec a Madrid. Un dels comensals va trucar preocupat al maître perquè confirmés que el marisc no venia de Galícia. Recordo la cara del maître, probablement pensant en la ironia de passar una vida convençent a comensals com aquell, sempre descreguts de l'origen autènticament gallec del gènere del seu restaurant, per haver de fer ara justament el contrari.

Amb la IA ens està passant el mateix. Mentre la indústria presumïa de les seves bondats, l'opinió pública, especialment a Europa, desconfiava i demanava regulació. Ara que és la pròpia indústria la que adverteix dels riscos i demana que se la reguli, sospitem que ho fa per interès econòmic. Com el comensal, desconfiem sempre del contrari del que ens diuen.

Jacob Coxon és un britànic de 27 anys que fins la passada setmana treballava com a investigador a Anthropic, una de les empreses líders en IA, els creadors de Claude. Coxon va dimitir perquè considera que la seva empresa i les altres del sector, estan accelerant la carrera cap a una IA molt avançada sense adoptar mesures de seguretat suficients per protegir les persones.

No està clar què vol dir això. Hi ha escenaris de persones qualificades, incloent el propi Dario Amodei, fundador i CEO d'Anthropic, que ens adverteixen que hi ha entre un 10% i un 25% de probabilitats que es produeixi un esdeveniment catastròfic en algun moment. No és que sigui un vaticini molt més clar que el de Coxon, però quantifica i espanta. Per a qui vulgui aprofundir en el "doomerism" (l'escola pessimista de la comunitat de la IA), és imprescindible llegir AI 2027.

Potser l'error sigui obsessionar-nos amb regular la tecnologia, quan el que cal vigilar són les persones que la dirigeixen

Així que el debat s'ha disparat, i s'ha centrat a discutir si això és o no "una campanya de màrqueting". La majoria de les anàlisis que escolto apunten que això és "una campanya" alimentada pels interessos econòmics d'aquestes empreses. En concret, que el que hi ha darrere és l'interès de Anthropic per defensar la seva actual posició de lideratge. L'argument és que exagerar els riscos fa que la tecnologia sembli encara més poderosa, i empeny cap a una regulació tan exigent que només podran complir-la qui ja va al capdavant. Dona igual que l'avís vingui d'algú que ha dimitit i ha renunciat a les seves accions per poder dir-ho. I que sigui un més de molts que ho han fet abans.

Portem anys especulant amb l'amenaça de la IA, i quan qui la construeix ho confirma, no els creiem. El maître s'ha de estar partint. A potser ens falta perspectiva.

Això va començar, com a mínim, el 2015. Elon Musk (com el julivert, està en totes les salses), celebrava el seu 44è aniversari amb amics passant un cap de setmana a Napa Valley, el bressol dels vins californians. Larry Page, cofundador de Google, era un dels convidats. Page pateix d'una malaltia permanent que li afecta la gola i li obliga a parlar amb un fil de veu, la qual cosa afegeix dramatisme a l'escena que va tenir lloc a continuació -i que, si sobrevivim, algun dia acabarem veient en una pel·lícula. Page i Musk es van enfrontar en un debat sobre el risc potencial de la IA per a la humanitat, i què fer al respecte. La posició de Page era que si les màquines arribaven a superar els humans en intel·ligència, això seria simplement la següent etapa de l'evolució, no necessàriament una amenaça. La seva visió incloïa una espècie de "utopia digital": els éssers humans acabarien fusionant-se amb màquines intel·ligents i sorgirien diferents formes d'intel·ligència competint entre si. Page considerava que frenar aquest procés seria un error.

Quan Elon Musk va insistir que calia establir salvaguardes per evitar que la IA substituís o destruís la humanitat, Page el va anomenar "especista" —algú que afavoreix injustificadament la seva pròpia espècie davant d'altres formes de vida, incloent-hi futures formes de vida digital. Musk es va agafar un important berrinxe, i va fer el que faríem qualsevol de nosaltres si fos el nostre aniversari: es va emportar la seva coca. I després, va posar els primers 100 milions de dòlars per llançar OpenAI i desenvolupar la IA abans que Google, a qui Elon Musk va passar a considerar "l'eix del mal". La cursa per desenvolupar la IA acabava de començar. OpenAI havia de ser una entitat oberta, sense ànim de lucre, i desenvoluparia "la intel·ligència artificial general (AGI) de manera segura i com a codi obert per beneficiar tota la humanitat", evitant que el poder de la IA es concentrés en poques corporacions. Vaja gir de guió.

Des de fa més d'una dècada, els únics que de debò saben què està passant (aleshores i ara), entenen plenament els riscos associats al desenvolupament d'aquesta tecnologia. Les sortides a borsa, les inversions gegants, el seu impacte en la crisi del deute i els riscos geopolítics d'un canvi d'ordre del qual veus com la de Ray Dalio ja ens han advertit, han vingut després. Segur que influeixen. Però no semblen ser tota la veritat, ni la part més important de la veritat.

La veritat més sembla que aquesta nova tecnologia, igual que té un potencial inimaginable per millorar les nostres vides, també té un risc inconcebible.

Conèixer l'estructura tridimensional d'una proteïna permet dissenyar fàrmacs, enzymes i teràpies, diagnosticar malalties i desenvolupar solucions. Abans de la IA, hi havia poc més de 170.000 estructures de proteïnes resoltes experimentalment. Podia portar mesos en el millor dels casos, i anys en molts altres; per a proteïnes "difícils" (membrana, complexos inestables) es parlava d'esforços d'una dècada. Amb un cost altíssim (centenars de milers d'euros per estructura) i una fiabilitat qüestionable. DeepMind, un laboratori d'IA, va tardar només uns dies a generar les prediccions d'estructures per al 98,5% de les proteïnes humanes i, posteriorment, unes setmanes/mesos de càlcul distribuït per escalar a més de 200 milions de proteïnes, "un atlas estructural de la vida". Un salt de tres ordres de magnitud. En dies.

Potser l'error sigui obsessionar-nos amb regular la tecnologia, quan el que cal vigilar són les persones que la dirigeixen

I acte seguit, va prendre una decisió insòlita, especialment tenint en compte que el seu propietari és Larry Page: les va fer públiques de forma gratuïta i oberta, per a tots els investigadors del món, tant per a ús acadèmic com comercial. Un altre gir inesperat.

darrere de cadascuna d'aquestes decisions, obrir les proteïnes al món o dimitir per avisar, no hi ha algoritmes ni campanyes de màrqueting. Hi ha persones. Potser l'error sigui obsessionar-nos amb regular la tecnologia, quan el que cal vigilar són les persones que la dirigeixen.

Ronald Reagan es va enfrontar a la major amenaça per a la humanitat abans de la IA, les armes nuclears, amb un proverbi rus que va convertir en doctrina: "DoveryAI, no proveryAI" (confia, però verifica). Confiem que hi ha gent que farà el correcte, com semblen estar fent-ho Demis Hassabis, Dario Amodei i tants altres. I verifiquem. Per això serveix la regulació, i també gent com Coxon, que quan alguna cosa no li quadra, s'aixeca de la taula i ho explica. El que no té sentit és seguir fent de comensal: desconfiar per sistema del que ens diguin, sigui el que sigui. Generalment, el marisc sí ve de Galícia.