Il frutti di mare sì viene da GalicIA

Qualche tempo dopo la crisi del Prestige, una petroliera che naufragò al largo delle coste di Galizia versando tonnellate del suo carico, ho avuto un pranzo di lavoro in un ristorante galiziano a Madrid. Uno dei commensali chiamò preoccupato il maître per confermare che i frutti di mare non provenivano dalla Galizia. Ricordo la faccia del maître, probabilmente pensando all'ironia di passare una vita a convincere commensali come quello, sempre scettici sull'origine autenticamente galiziana del genere del suo ristorante, per dover ora fare proprio il contrario.

Con l'IA ci sta succedendo la stessa cosa. Mentre l'industria si vantava delle sue virtù, l'opinione pubblica, specialmente in Europa, diffidava e chiedeva regolamentazione. Ora che è la stessa industria a mettere in guardia sui rischi e a chiedere di essere regolamentata, sospettiamo che lo faccia per interesse economico. Come il commensale, diffidiamo sempre del contrario di ciò che ci dicono.

Jacob Coxon è un britannico di 27 anni che fino alla settimana scorsa lavorava come ricercatore in Anthropic, una delle aziende leader nell'IA, i creatori di Claude. Coxon si è dimesso perché considera che la sua azienda e le altre nel settore stiano accelerando la corsa verso un'IA molto avanzata senza adottare misure di sicurezza sufficienti per proteggere le persone.

Non è chiaro cosa voglia dire questo. Ci sono scenari di persone qualificate, incluso lo stesso Dario Amodei, fondatore e CEO di Anthropic, che ci avvertono che ci sono tra il 10% e il 25% di probabilità che si verifichi un evento catastrofico in qualche momento. Non è che sia una profezia molto più chiara di quella di Coxon, ma quantifica e spaventa. Per chi vuole approfondire il "doomerism" (la scuola pessimista della comunità dell'IA), è imprescindibile leggere AI 2027.

Forse l'errore è ossessionarci nel regolare la tecnologia, quando ciò che bisogna vigilare sono le persone che la dirigono

Quindi il dibattito è scoppiato e si è concentrato nel discutere se questo sia o meno "una campagna di marketing". La maggior parte delle analisi che ascolto indicano che questo è "una campagna" alimentata dagli interessi economici di queste aziende. In particolare, che ciò che c'è dietro è l'interesse di Anthropic per difendere la sua attuale posizione di leadership. L'argomento è che esagerare i rischi fa sembrare la tecnologia ancora più potente e spinge verso una regolamentazione così severa che solo coloro che sono già in testa potranno rispettarla. Non importa che l'avviso venga da qualcuno che si è dimesso e ha rinunciato alle sue azioni per poterlo dire. E che sia uno in più tra i tanti che lo hanno fatto prima.

Da anni speculiamo sulla minaccia dell'IA e quando coloro che la costruiscono lo confermano, non gli crediamo. Il maître deve stare ridendo. Forse ci manca prospettiva.

Questo è iniziato, perlomeno, nel 2015. Elon Musk (come il prezzemolo, è in tutte le salse), festeggiava il suo 44° compleanno con amici trascorrendo un fine settimana nella Napa Valley, la culla dei vini californiani. Larry Page, cofondatore di Google, era uno degli invitati. Page soffre di una malattia permanente che gli influisce sulla gola e lo costringe a parlare con un filo di voce, il che aggiunge drammaticità alla scena che si è svolta successivamente -e che, se sopravviviamo, un giorno vedremo in un film. Page e Musk si sono immersi in un dibattito sul rischio potenziale dell'IA per l'umanità e su cosa fare al riguardo. La posizione di Page era che se le macchine arrivassero a superare gli esseri umani in intelligenza, ciò sarebbe semplicemente la prossima fase dell'evoluzione, non necessariamente una minaccia. La sua visione includeva una sorta di "utopia digitale": gli esseri umani finirebbero per fondersi con macchine intelligenti e sorgerebbero diverse forme di intelligenza in competizione tra loro. Page riteneva che fermare quel processo sarebbe stato un errore.

Quando Elon Musk insistette che bisognava stabilire salvaguardie per evitare che l'IA sostituisse o distruggesse l'umanità, Page lo chiamò "specista" —qualcuno che favorisce ingiustificatamente la propria specie rispetto ad altre forme di vita, comprese future forme di vita digitale. Musk ebbe un importante capriccio, e fece ciò che farebbe chiunque di noi se fosse il nostro compleanno: si portò via la sua torta. E poi, mise i primi 100 milioni di dollari per lanciare OpenAI e sviluppare l'IA prima di Google, che Elon Musk iniziò a considerare "l'asse del male". La corsa per sviluppare l'IA era appena iniziata. OpenAI sarebbe stata un'entità aperta, non profit, e avrebbe sviluppato "l'intelligenza artificiale generale (AGI) in modo sicuro e come codice aperto per beneficiare tutta l'umanità", evitando che il potere dell'IA si concentrasse in poche corporazioni. Che colpo di scena.

Da più di un decennio, gli unici che sanno davvero cosa sta succedendo (allora e ora), comprendono appieno i rischi legati allo sviluppo di questa tecnologia. Le quotazioni in borsa, gli investimenti giganteschi, il loro impatto sulla crisi del debito e i rischi geopolitici di un cambiamento di ordine di cui voci come quella di Ray Dalio ci hanno già avvertito, sono venuti dopo. Sicuramente influenzano. Ma non sembrano essere tutta la verità, né la parte più importante della verità.

La verità sembra più che questa nuova tecnologia, così come ha un potenziale inimmaginabile per migliorare le nostre vite, ha anche un rischio inconcepibile.

Conoscere la struttura tridimensionale di una proteina permette di progettare farmaci, enzimi e terapie, diagnosticare malattie e sviluppare soluzioni. Prima dell'IA, c'erano poco più di 170.000 strutture di proteine risolte sperimentalmente. Poteva richiedere mesi nel migliore dei casi, e anni in molti altri; per proteine "difficili" (membrana, complessi instabili) si parlava di sforzi di un decennio. Con un costo altissimo (centinaia di migliaia di euro per struttura) e una affidabilità discutibile. DeepMind, un laboratorio di IA, impiegò solo pochi giorni per generare le previsioni delle strutture per il 98,5% delle proteine umane e, successivamente, alcune settimane/mesi di calcolo distribuito per scalare a oltre 200 milioni di proteine, "un atlante strutturale della vita". Un salto di tre ordini di grandezza. In giorni.

Forse l'errore è ossessionarci nel regolare la tecnologia, quando ciò che dobbiamo vigilare sono le persone che la dirigono

E subito dopo, ha preso una decisione insolita, specialmente considerando che il suo proprietario è Larry Page: le ha rese pubbliche in modo gratuito e aperto, per tutti i ricercatori del mondo, sia per uso accademico che commerciale. Un altro colpo di scena inaspettato.

Dietro ognuna di queste decisioni, aprire le proteine al mondo o dimettersi per avvisare, non ci sono algoritmi né campagne di marketing. Ci sono persone. Forse l'errore è ossessionarci nel regolare la tecnologia, quando ciò che dobbiamo vigilare sono le persone che la dirigono.

Ronald Reagan si è confrontato con la maggiore minaccia per l'umanità prima dell'IA, le armi nucleari, con un proverbio russo che ha trasformato in dottrina: "DoveryAI, no proveryAI" (fidati, ma verifica). Fidiamoci che ci siano persone che faranno la cosa giusta, come sembrano stare facendo Demis Hassabis, Dario Amodei e tanti altri. E verifichiamo. A questo serve la regolamentazione, e anche persone come Coxon, che quando qualcosa non gli torna, si alza da tavola e lo racconta. Ciò che non ha senso è continuare a fare il commensale: diffidare per principio di ciò che ci dicono, qualunque cosa sia. Generalmente, i frutti di mare vengono sì dalla Galizia.