Anthropic, a empresa responsável pelo assistente de IA "Claude", abortou até agora neste ano pelo menos cinco projetos de pesquisa científica potencialmente vinculados ao desenvolvimento de armas biológicas, vários deles com um elevado risco pandêmico.
Assim está registrado no relatório "Detectar e combater o mau uso da IA", divulgado nesta quinta-feira, onde se detalha que, no mínimo, quatro desses episódios estavam relacionados a organismos estatais. Anthropic optou por não identificar tais instituições, ao considerar possível que se tratasse de trabalhos estritamente acadêmicos.
No primeiro dos casos descritos, a proposta de pesquisa se apresentava como um pedido de financiamento para atividades de P&D voltadas a tornar o vírus da chikungunya mais transmissível e resistente ao sistema imunológico humano.
"A subsídio tinha como objetivo identificar mutações potencializadoras no vírus da chikungunya, transformá-las em clones infecciosos e selecionar as mais virulentas 'in vivo'. Em outras palavras, o vírus se tornaria progressivamente mais prejudicial à medida que infectasse repetidamente animais vivos e os pesquisadores conservariam as variantes mais patogênicas em cada iteração", resumiu o documento.
A companhia sublinha que esse tipo de conhecimento poderia ser utilizado para desenvolver vacinas ou terapias. No entanto, o fato de que no formulário da ajuda se especificasse que os pesquisadores seriam civis, mas que os resultados seriam replicados em um laboratório militar, levou a Anthropic a cancelar o acesso daquela conta ao Claude.
De acordo com a Organização Mundial da Saúde (OMS), a chikungunya é uma infecção transmitida por mosquitos que causa febre e uma dor "incapacitante" nas articulações, que costuma remitir em poucos dias, embora possa se prolongar por meses ou até anos.
Por outro lado, a Anthropic detectou a tentativa de um organismo estatal de recorrer aos seus modelos de IA para analisar venenos não transmissíveis entre pessoas. Além disso, acabou vetando outro usuário que estudava toxinas bacterianas e proteínas associadas a febres hemorrágicas virais com potencial pandêmico, como o ébola.
A firma tecnológica americana também identificou pedidos de uso similares, embora com objetivos considerados menos preocupantes, relacionadas ao vírus da varíola e com investigações sobre a adaptação da gripe aviária a mamíferos.