Anthropic, la empresa responsable del asistente de IA “Claude”, ha abortado en lo que va de año al menos cinco proyectos de investigación científica potencialmente vinculados al desarrollo de armas biológicas, varios de ellos con un elevado riesgo pandémico.
Así se recoge en el informe “Detectar y combatir el mal uso de la IA”, difundido este jueves, donde se detalla que, como mínimo, cuatro de estos episodios estaban relacionados con organismos estatales. Anthropic ha optado por no identificar a dichas instituciones, al considerar posible que se tratase de trabajos estrictamente académicos.
En el primero de los casos descritos, la propuesta de investigación se presentaba como una solicitud de financiación para actividades de I+D orientadas a hacer que el virus del chikunguña resultase más transmisible y resistente frente al sistema inmunitario humano.
“La subvención tenía como objetivo identificar mutaciones potenciadoras en el virus del chikunguña, transformarlas en clones infecciosos y seleccionar las más virulentas 'in vivo'. En otras palabras, el virus se volvería progresivamente más dañino a medida que infectara repetidamente a animales vivos y los investigadores conservarían las variantes más patógenas en cada iteración”, ha resumido el documento.
La compañía subraya que este tipo de conocimiento podría utilizarse para desarrollar vacunas o terapias. No obstante, el hecho de que en el formulario de la ayuda se especificase que los investigadores serían civiles, pero que los resultados se replicarían en un laboratorio militar, llevó a Anthropic a cancelar el acceso de esa cuenta a Claude.
De acuerdo con la Organización Mundial de la Salud (OMS), el chikunguña es una infección transmitida por mosquitos que causa fiebre y un dolor “incapacitante” en las articulaciones, que suele remitir a los pocos días, aunque puede prolongarse durante meses o incluso años.
Por otra parte, Anthropic ha detectado el intento de un organismo estatal de recurrir a sus modelos de IA para analizar venenos no transmisibles entre personas. Asimismo, terminó vetando a otro usuario que estudiaba toxinas bacterianas y proteínas asociadas a fiebres hemorrágicas virales con potencial pandémico, como el ébola.
La firma tecnológica estadounidense también ha identificado peticiones de uso similares, aunque con objetivos considerados menos preocupantes, relacionadas con el virus de la viruela y con investigaciones sobre la adaptación de la gripe aviar a mamíferos.