L'8 settembre, Jacob Coxon si è seduto su una panchina di San Francisco e ha annunciato su X che si era appena dimesso da Anthropic. Aveva lavorato tre anni nell'intelligenza artificiale, prima in OpenAI e poi in Anthropic. Ha accusato entrambe le aziende di avanzare verso sistemi capaci di migliorarsi da soli e di stare «giocandosi le nostre vite».
Coxon ha 27 anni. Il suo messaggio ha raggiunto milioni di visualizzazioni. Poi è successo qualcosa di più importante: l'industria non si è burlata di lui. Evan Hubinger, ricercatore di Anthropic, ha stimato in oltre il 10% la probabilità di una catastrofe provocata dall'intelligenza artificiale. Giorni dopo, Dario Amodei ha chiesto di rallentare i modelli più avanzati.
Io seguo l'intelligenza artificiale per lavoro. Sono avvocato specializzato in cybersicurezza e leggo i documenti di queste aziende con interesse, ma senza sobbalzi. Quella notte è stata diversa. Ho passato ore a leggere le risposte sotto il messaggio di Coxon. Non ho visto che partecipasse.
La mattina dopo gli ho scritto su Instagram senza aspettarmi risposta. È arrivata in pochi minuti. Mi ha raccontato qualcosa che ancora non si sapeva: non poteva accedere al suo account di X. Il suo messaggio percorreva il mondo mentre lui rimaneva fuori dalla conversazione che aveva provocato.
Gli ho chiesto il permesso di pubblicare quel dato. Me l'ha concesso con una condizione: non speculare sulla causa. L'ho rispettato allora e lo rispetto ora. Il resto rimane tra noi.
Coxon non ha mai detto di aver visto un'intelligenza super nascosta. Ciò che ha osservato è stata una direzione. I sistemi migliorano programmando, ricercando e svolgendo compiti prolungati. Se intervengono decisivamente nella costruzione dei loro successori, lo sviluppo smetterà di dipendere dalla velocità umana.
È come se una fabbrica di automobili iniziasse a progettare la prossima fabbrica. Il pericolo non è che oggi esista una macchina più intelligente di noi, ma scoprire troppo tardi che il processo avanza più velocemente della nostra capacità di governarlo.
La storia conosce questi avvertimenti. Leo Szilárd ha compreso le conseguenze della reazione nucleare a catena, ha contribuito al progetto che ha sviluppato la bomba atomica e poi ha cercato di impedire che fosse utilizzata contro le città giapponesi. Lo hanno ascoltato per costruirla. La sua richiesta non è arrivata al presidente Truman prima del bombardamento di Hiroshima.
...Una bomba è un'arma fisica e Coxon parla di una traiettoria incerta. Ma entrambi i casi contengono la stessa paradosso: coloro che comprendono una tecnologia dall'interno possono avvertire del pericolo senza avere il potere di fermarla.
Europa obbliga i fornitori di modelli con rischio sistemico a valutare capacità, mitigare rischi e notificare incidenti gravi. Ma il sistema giuridico continua a essere pensato per controllare attori e prodotti all'interno di una giurisdizione. La corsa che descrive Coxon è mondiale.
Il pericolo non è che oggi esista una macchina più intelligente di noi, ma scoprire troppo tardi che il processo avanza più velocemente della nostra capacità di governarlo
Bruxelles può supervisionare aziende in Europa. Washington può intervenire su compagnie statunitensi. Nessuna autorità può imporre da sola una pausa a tutti i laboratori. Se uno si ferma e gli altri continuano, la prudenza diventa uno svantaggio competitivo.
Questo è il vuoto. Non mancano norme, ma una decisione su chi può fermare la corsa, quale evidenza giustificherebbe farlo e come impedire che un altro occupi il posto di chi si ferma.
In sicurezza si impara presto che una norma scritta dopo l'incidente non è una norma, ma un verbale di danni. Il Diritto sa sanzionare inadempimenti. Ancora non sa governare una capacità che può diventare pericolosa prima che esista un danno dimostrabile.
Coxon ha recuperato il suo account giorni dopo. Non ha mai spiegato cosa è successo e non speculerò. Ma continuo a pensare a quel ragazzo seduto su una panchina, dopo aver lavorato in due dei laboratori più potenti del mondo, misurando ogni parola per avvertirci. Questo è anche un dato.
sulla firma:
Vela Micha è presidente di Micha e Associati Legaltec