Anthropic ha bloquejat cinc casos d'ús dels seus models d'intel·ligència artificial vinculats a investigacions biològiques que, a judici de la companyia, podien contribuir a fer més perillosos determinats patògens o facilitar altres desenvolupaments susceptibles de tenir un ús armamentístic. L'empresa admet, tanmateix, que no pot determinar en tots els casos si qui van utilitzar els seus sistemes perseguien un objectiu maliciós o desenvolupaven investigacions científiques legítimes.
La companyia ha detallat aquests episodis en un nou informe sobre usos indeguts dels seus models, en el qual analitza també activitats relacionades amb ciberseguretat, armes convencionals i operacions d'influència.
Els cinc casos relacionats amb biologia van ser detectats durant 2026 i van afectar usuaris que accedien a Claude des de països en els quals Anthropic no ofereix directament els seus serveis. Segons l'empresa, per fer-ho van recórrer a mecanismes com revenedors o comptes falsos.
La dificultat per determinar les veritables intencions d'aquests usuaris està al centre del problema. Algunes de les investigacions detectades tenen un possible doble ús: poden contribuir al desenvolupament de vacunes, tractaments o medicaments, però els mateixos coneixements poden emprar-se per augmentar la perillositat d'un patogen o desenvolupar una capacitat biològica perjudicial.
De mutacions del chikungunya a una grip aviària més contagiosa
Un dels casos analitzats per Anthropic va afectar un científic relacionat amb un institut d'investigació militar que va utilitzar Claude per preparar una sol·licitud de finançament destinada a investigar el virus del chikungunya.
Segons recull l'informe, el projecte incloïa el disseny de mutacions del virus mitjançant successives infeccions en animals vius amb l'objectiu d'estudiar canvis que podien incrementar la seva perillositat.
Anthropic reconeix l'ambivalència d'aquest tipus de treballs. La investigació podria contribuir a desenvolupar millors vacunes i tractaments contra el chikungunya, però els mateixos procediments també podrien utilitzar-se per obtenir un patogen més perillós.
La companyia va optar finalment per bloquejar l'accés degut al context en què es desenvolupava la investigació i al potencial risc associat.
L'informe recull altres episodis en què els seus models van ser utilitzats per a treballs relacionats amb l'augment de la transmissibilitat de la grip aviària, l'anàlisi de variants del virus de la verola amb major capacitat per resistir la resposta immunitària o l'elaboració d'un catàleg de toxines procedents d'animals verinosos.
També en aquest últim cas existeix un possible doble ús. El coneixement d'aquestes toxines pot servir per desenvolupar nous medicaments, però també podria emprar-se amb fins danyosos.
Anthropic reconeix que desconeix les intencions
La pròpia companyia evita presentar els cinc casos com a intents confirmats de fabricar armes biològiques. El seu informe assenyala que resulta difícil establir on acaba una investigació científica legítima i on comença un possible ús perillós.
Aquest límit es converteix en un dels principals desafiaments per a les companyies que desenvolupen els models d'IA més avançats: sistemes capaços d'ajudar a investigadors en tasques científiques poden proporcionar també coneixements útils per a actors que persegueixen objectius diferents.
Anthropic explica que aquests casos serveixen precisament per avaluar quines consultes poden resultar perilloses i quan s'ha d'impedir que els seus models continuïn proporcionant assistència.
Els episodis descrits es van produir, a més, utilitzant versions anteriors dels models de la companyia. Anthropic sosté que els seus sistemes més recents incorporen salvaguardes més avançades destinades a dificultar usos maliciosos.
També detecta usos relacionats amb armes convencionals
L'informe va més enllà dels riscos biològics. Anthropic assegura haver detectat també usos dels seus sistemes relacionats amb armes convencionals, operacions d'influència i activitats de ciberseguretat.
Entre els episodis que descriu figura l'ús de Claude per un actor situat al nord de Iemen per obtenir assistència relacionada amb el desenvolupament de diferents sistemes armamentístics.
La companyia situa darrere dels diferents casos analitzats en el seu informe perfils molt diferents, des d'actors recolzats per Estats fins a organitzacions criminals i individus amb motivacions polítiques.
El document suposa una nova entrega dels informes periòdics amb els quals Anthropic intenta mostrar com detecta i respon als usos potencialment perillosos dels seus sistemes. La publicació torna a posar el focus sobre una de les qüestions que acompanyen el ràpid desenvolupament de la intel·ligència artificial: fins a quin punt les capacitats que permeten accelerar la investigació científica poden convertir-se també en una eina per desenvolupar amenaces més sofisticades.