La companyia d'intel·ligència artificial Anthropic va comunicar aquest divendres que interromp l'accés als seus sistemes més punters, "Claude Fable 5" i "Mythos 5", per a usuaris estrangers, en acatament d'una ordre del Govern dels Estats Units que en limita la utilització per raons de "seguretat nacional".
En una nota oficial, la firma nord-americana va detallar que la directiva de la Casa Blanca no concreta els motius tècnics de la mesura, encara que interpreten que les autoritats consideren haver detectat una forma de sortejar les barreres de seguretat del model.
"Avui rebem la directiva del govern. La carta no especificava els motius de la seva preocupació per la seguretat nacional. Entenem que el govern creu haver descobert un mètode per eludir, o desbloquejar, Fable 5", han informat.
L'empresa ha subratllat que aquest model ja incorporava controls estrictes per minimitzar el risc d'usos indeguts en àmbits de ciberseguretat, i ha retret a l'Executiu que només els hagi traslladat les suposades vulnerabilitats de manera verbal, sense documentació detallada.
"Com hem manifestat públicament, creiem que el Govern hauria de tenir la facultat de bloquejar desplegaments insegurs, mitjançant un procés legal transparent, just, clar i basat en fets tècnics. Aquesta acció no s'ajusta a aquests principis", han denunciat.
La intervenció del Govern arriba tot just 48 hores després que Anthropic presentés "Claude Fable 5" com el primer model operatiu de la família "Mythos", una tecnologia d'altes prestacions distribuïda únicament de forma limitada a entitats que participen en la iniciativa "Project Glasswing".
Per reduir el risc d'usos maliciosos, Anthropic havia incorporat un sistema de contenció que restringeix automàticament les respostes davant de peticions delicades relacionades amb ciberseguretat, biologia o química. En aquests casos, en lloc de generar informació potencialment perillosa, la consulta es redirigeix internament a un model d'IA amb menor capacitat.
Amb aquest enfocament, l'empresa pretenia oferir ajuda general en aquestes disciplines, però sense facilitar dades sensibles que poguessin aprofitar-se per llançar ciberatacs a gran escala o per al desenvolupament d'armes biològiques.