Anthropic, l'entreprise responsable de l'assistant IA "Claude", a avorté jusqu'à présent cette année au moins cinq projets de recherche scientifique potentiellement liés au développement d'armes biologiques, dont plusieurs présentent un risque pandémique élevé.
C'est ce qui est rapporté dans le rapport "Détecter et combattre le mauvais usage de l'IA", diffusé ce jeudi, où il est détaillé que, au minimum, quatre de ces épisodes étaient liés à des organismes étatiques. Anthropic a choisi de ne pas identifier ces institutions, considérant qu'il pourrait s'agir de travaux strictement académiques.
Dans le premier des cas décrits, la proposition de recherche se présentait comme une demande de financement pour des activités de R&D visant à rendre le virus du chikungunya plus transmissible et résistant face au système immunitaire humain.
"La subvention avait pour objectif d'identifier des mutations amplificatrices dans le virus du chikungunya, de les transformer en clones infectieux et de sélectionner les plus virulents 'in vivo'. En d'autres termes, le virus deviendrait progressivement plus nuisible à mesure qu'il infecterait de manière répétée des animaux vivants et les chercheurs conserveraient les variantes les plus pathogènes à chaque itération", a résumé le document.
La société souligne que ce type de connaissance pourrait être utilisé pour développer des vaccins ou des thérapies. Néanmoins, le fait que dans le formulaire d'aide il soit précisé que les chercheurs seraient des civils, mais que les résultats seraient reproduits dans un laboratoire militaire, a conduit Anthropic à annuler l'accès de ce compte à Claude.
Selon l'Organisation mondiale de la santé (OMS), le chikungunya est une infection transmise par des moustiques qui cause de la fièvre et une douleur "invalidante" dans les articulations, qui disparaît généralement après quelques jours, bien qu'elle puisse se prolonger pendant des mois, voire des années.
D'autre part, Anthropic a détecté la tentative d'un organisme étatique de recourir à ses modèles d'IA pour analyser des poisons non transmissibles entre personnes. De même, elle a fini par interdire un autre utilisateur qui étudiait des toxines bactériennes et des protéines associées à des fièvres hémorragiques virales avec un potentiel pandémique, comme Ebola.
La société technologique américaine a également identifié des demandes d'utilisation similaires, bien que considérées comme moins préoccupantes, liées au virus de la variole et à des recherches sur l'adaptation de la grippe aviaire aux mammifères.