Il ragazzo della banca che ha fermato l'intelligenza artificiale

Un ricercatore di 27 anni si è dimesso da Anthropic e ha costretto coloro che guidano la corsa all'intelligenza artificiale a parlare pubblicamente di fermarla. La mattina seguente, Jacob Coxon mi ha risposto. Il suo avvertimento lascia una domanda senza risposta: chi ha l'autorità per ordinare che si fermi?

OPINIÓN PLANTILLA (32)

OPINIÓN PLANTILLA (32)

Aggiungi DEMOCRAT su Google

Chiedi a FREN

Pubblicato

3 minuti

I più letti

Elecciones 29N · Encuestas

La media de las encuestas

Media a 16 de noviembre de 2026 · 17 institutos

  • PP31,5 %
  • PSOE27,2 %
  • Vox18,9 %
  • Frente Amplio6,4 %
  • ERC2,5 %
01020304050ene 2024jul 2024ene 2025jul 2025ene 2026jul 2026

Media del último estudio de cada instituto en 30 días y su evolución semanal desde el 23J. Partidos con al menos un 2 %.

Todas las encuestas

Elecciones generales del 29 de noviembre · Demócrata

L'8 settembre, Jacob Coxon si è seduto su una panchina di San Francisco e ha annunciato su X che si era appena dimesso da Anthropic. Aveva lavorato tre anni nell'intelligenza artificiale, prima in OpenAI e poi in Anthropic. Ha accusato entrambe le aziende di avanzare verso sistemi capaci di migliorarsi da soli e di stare «giocandosi le nostre vite».

Coxon ha 27 anni. Il suo messaggio ha raggiunto milioni di visualizzazioni. Poi è successo qualcosa di più importante: l'industria non si è burlata di lui. Evan Hubinger, ricercatore di Anthropic, ha stimato in oltre il 10% la probabilità di una catastrofe provocata dall'intelligenza artificiale. Giorni dopo, Dario Amodei ha chiesto di rallentare i modelli più avanzati.

Io seguo l'intelligenza artificiale per lavoro. Sono avvocato specializzato in cybersicurezza e leggo i documenti di queste aziende con interesse, ma senza sobbalzi. Quella notte è stata diversa. Ho passato ore a leggere le risposte sotto il messaggio di Coxon. Non ho visto che partecipasse.

La mattina dopo gli ho scritto su Instagram senza aspettarmi risposta. È arrivata in pochi minuti. Mi ha raccontato qualcosa che ancora non si sapeva: non poteva accedere al suo account di X. Il suo messaggio percorreva il mondo mentre lui rimaneva fuori dalla conversazione che aveva provocato.

Gli ho chiesto il permesso di pubblicare quel dato. Me l'ha concesso con una condizione: non speculare sulla causa. L'ho rispettato allora e lo rispetto ora. Il resto rimane tra noi.

Coxon non ha mai detto di aver visto un'intelligenza super nascosta. Ciò che ha osservato è stata una direzione. I sistemi migliorano programmando, ricercando e svolgendo compiti prolungati. Se intervengono decisivamente nella costruzione dei loro successori, lo sviluppo smetterà di dipendere dalla velocità umana.

È come se una fabbrica di automobili iniziasse a progettare la prossima fabbrica. Il pericolo non è che oggi esista una macchina più intelligente di noi, ma scoprire troppo tardi che il processo avanza più velocemente della nostra capacità di governarlo.

La storia conosce questi avvertimenti. Leo Szilárd ha compreso le conseguenze della reazione nucleare a catena, ha contribuito al progetto che ha sviluppato la bomba atomica e poi ha cercato di impedire che fosse utilizzata contro le città giapponesi. Lo hanno ascoltato per costruirla. La sua richiesta non è arrivata al presidente Truman prima del bombardamento di Hiroshima.

...

Una bomba è un'arma fisica e Coxon parla di una traiettoria incerta. Ma entrambi i casi contengono la stessa paradosso: coloro che comprendono una tecnologia dall'interno possono avvertire del pericolo senza avere il potere di fermarla.

Europa obbliga i fornitori di modelli con rischio sistemico a valutare capacità, mitigare rischi e notificare incidenti gravi. Ma il sistema giuridico continua a essere pensato per controllare attori e prodotti all'interno di una giurisdizione. La corsa che descrive Coxon è mondiale.

Il pericolo non è che oggi esista una macchina più intelligente di noi, ma scoprire troppo tardi che il processo avanza più velocemente della nostra capacità di governarlo

Bruxelles può supervisionare aziende in Europa. Washington può intervenire su compagnie statunitensi. Nessuna autorità può imporre da sola una pausa a tutti i laboratori. Se uno si ferma e gli altri continuano, la prudenza diventa uno svantaggio competitivo.

Questo è il vuoto. Non mancano norme, ma una decisione su chi può fermare la corsa, quale evidenza giustificherebbe farlo e come impedire che un altro occupi il posto di chi si ferma.

In sicurezza si impara presto che una norma scritta dopo l'incidente non è una norma, ma un verbale di danni. Il Diritto sa sanzionare inadempimenti. Ancora non sa governare una capacità che può diventare pericolosa prima che esista un danno dimostrabile.

Coxon ha recuperato il suo account giorni dopo. Non ha mai spiegato cosa è successo e non speculerò. Ma continuo a pensare a quel ragazzo seduto su una panchina, dopo aver lavorato in due dei laboratori più potenti del mondo, misurando ogni parola per avvertirci. Questo è anche un dato.

sulla firma:

Vela Micha è presidente di Micha e Associati Legaltec