Anthropic a bloqué cinq cas d'utilisation de ses modèles d'intelligence artificielle liés à des recherches biologiques qui, selon la société, pouvaient contribuer à rendre certains pathogènes plus dangereux ou faciliter d'autres développements susceptibles d'avoir une utilisation militaire. L'entreprise admet, cependant, qu'elle ne peut pas déterminer dans tous les cas si ceux qui ont utilisé ses systèmes poursuivaient un objectif malveillant ou développaient des recherches scientifiques légitimes.
La société a détaillé ces épisodes dans un nouveau rapport sur les usages abusifs de ses modèles, dans lequel elle analyse également des activités liées à la cybersécurité, aux armes conventionnelles et aux opérations d'influence.
Les cinq cas liés à la biologie ont été détectés pendant 2026 et ont affecté des utilisateurs qui accédaient à Claude depuis des pays où Anthropic n'offre pas directement ses services. Selon l'entreprise, pour ce faire, ils ont eu recours à des mécanismes tels que des revendeurs ou des comptes faux.
La difficulté à déterminer les véritables intentions de ces utilisateurs est au cœur du problème. Certaines des recherches détectées ont un possible double usage : elles peuvent contribuer au développement de vaccins, de traitements ou de médicaments, mais les mêmes connaissances peuvent être utilisées pour augmenter la dangerosité d'un pathogène ou développer une capacité biologique nuisible.
Des mutations du chikungunya à une grippe aviaire plus contagieuse
Un des cas analysés par Anthropic a concerné un scientifique lié à un institut de recherche militaire qui a utilisé Claude pour préparer une demande de financement destinée à étudier le virus du chikungunya.
Selon le rapport, le projet incluait la conception de mutations du virus par des infections successives sur des animaux vivants dans le but d'étudier des changements qui pouvaient accroître sa dangerosité.
Anthropic reconnaît l'ambivalence de ce type de travaux. La recherche pourrait contribuer à développer de meilleurs vaccins et traitements contre le chikungunya, mais les mêmes procédures pourraient également être utilisées pour obtenir un pathogène plus dangereux.
La société a finalement choisi de bloquer l'accès en raison du contexte dans lequel la recherche se déroulait et du risque potentiel associé.
Le rapport recueille d'autres épisodes où ses modèles ont été utilisés pour des travaux liés à l'augmentation de la transmissibilité de la grippe aviaire, l'analyse de variantes du virus de la variole ayant une plus grande capacité à résister à la réponse immunitaire ou l'élaboration d'un catalogue de toxines provenant d'animaux venimeux.
Également dans ce dernier cas, il existe un possible double usage. La connaissance de ces toxines peut servir à développer de nouveaux médicaments, mais elle pourrait également être utilisée à des fins nuisibles.
Anthropic reconnaît qu'il ne connaît pas les intentions
La propre entreprise évite de présenter les cinq cas comme des tentatives confirmées de fabriquer des armes biologiques. Son rapport indique qu'il est difficile de déterminer où se termine une recherche scientifique légitime et où commence un possible usage dangereux.
Cette limite devient l'un des principaux défis pour les entreprises qui développent les modèles d'IA les plus avancés : des systèmes capables d'aider les chercheurs dans des tâches scientifiques peuvent également fournir des connaissances utiles à des acteurs poursuivant des objectifs différents.
Anthropic explique que ces cas servent précisément à évaluer quelles demandes peuvent s'avérer dangereuses et quand il doit empêcher que ses modèles continuent à fournir de l'assistance.
Les épisodes décrits se sont également produits, en utilisant des versions antérieures des modèles de l'entreprise. Anthropic soutient que ses systèmes les plus récents incorporent des sauvegardes plus avancées destinées à rendre difficiles les usages malveillants.
Il détecte également des usages liés aux armes conventionnelles
Le rapport va au-delà des risques biologiques. Anthropic affirme avoir également détecté des usages de ses systèmes liés à des armes conventionnelles, des opérations d'influence et des activités de cybersécurité.
Parmi les épisodes qu'il décrit figure l'utilisation de Claude par un acteur situé dans le nord du Yémen pour obtenir une assistance liée au développement de différents systèmes d'armement.
L'entreprise situe derrière les différents cas analysés dans son rapport des profils très variés, allant d'acteurs soutenus par des États à des organisations criminelles et des individus ayant des motivations politiques.
Le document suppose une nouvelle livraison des rapports périodiques avec lesquels Anthropic essaie de montrer comment il détecte et répond aux usages potentiellement dangereux de ses systèmes. La publication remet l'accent sur l'une des questions qui accompagnent le développement rapide de l'intelligence artificielle : jusqu'à quel point les capacités qui permettent d'accélérer la recherche scientifique peuvent également devenir un outil pour développer des menaces plus sophistiquées.