Anthropic frena una operación con IA para manipular la narrativa sobre la guerra de Sudán

Anthropic desvela y bloquea una sofisticada campaña de desinformación y desarrollo de armamento apoyada en IA sobre los conflictos de Sudán y Yemen.

2 minutos

El logo de Anthropic  Thomas Fuller / Zuma Press / Europa Press

El logo de Anthropic Thomas Fuller / Zuma Press / Europa Press

Añadir DEMÓCRATA en Google

Pregunta a FREN

Publicado

2 minutos

Más leídas

Anthropic ha hecho público en un informe que ha logrado neutralizar una campaña de desinformación destinada a desacreditar a los Hermanos Musulmanes y a moldear la percepción internacional sobre el papel de Emiratos Árabes Unidos en la guerra de Sudán, señalando que la operación habría sido orquestada por “altos funcionarios emiratíes”.

Según el documento, un único operador, identificado como 'Deadshot' y que trabajaba desde su propia plataforma privada, empleó su asistente de IA para repetir la misma secuencia de instrucciones en numerosas sesiones paralelas, con el propósito de sostener una operación coordinada a escala regional y transatlántica.

El informe detalla que “Construyeron y gestionaron una red de aproximadamente 300 'influencers' inventados en cuentas de redes sociales. Crearon una ONG de fachada que copió la identidad de una organización suiza real y publicó informes de Derechos Humanos de autoría estatal en su nombre”.

Asimismo, se indica que se redactaron “testimonios oficiales para hacérselos llegar a dos personas en la 62ª sesión del Consejo de Derechos Humanos de Naciones Unidas”. “El contenido fue diseñado con restricciones específicas para asegurar que ninguno de los dos discursos mencionara a EAU”, precisa el texto.

La compañía añade que se llevó a cabo una investigación “a fondo a 18 miembros del Parlamento Europeo y periodistas prominentes”, para los que se prepararon dosieres exhaustivos, y que también se elaboraron expedientes sobre relatores especiales de la ONU que habían criticado la actuación de Abu Dabi en Sudán.

El informe subraya que “Aunque la operación fue construida de manera que no se pudiera remontar a actores, nuestro la investigación lo ha vinculado con total seguridad a funcionarios del Gobierno de EAU”.

SOBRE EL CONFLICTO EN YEMEN

En la misma publicación, Anthropic explica que detectó “una célula de actores” situada en el norte de Yemen —sin mencionar de forma directa a los rebeldes hutíes— que estaba llevando a cabo tres programas de desarrollo de armamento con ayuda de su asistente, entre ellos un cohete guiado, un misil balístico con un alcance superior a los 2.000 kilómetros y un misil de la serie R2000.

El informe recoge que “Los actores utilizaron Claude Code en lugar de a ingenieros de software humanos para desarrollar el software de guiado, navegación y control (GNC) que dirige y estabiliza un vehículo volador. Por ejemplo, utilizaron Claude para integrar un piloto automático de código abierto en una computadora de vuelo de tamaño similar a un teléfono, escribiendo el software de control y estimación de posición”.

La empresa aclara que, en la mayoría de los casos, los sistemas de protección incorporados en su modelo “bloquearon muchas de sus solicitudes”, aunque no “todas” ellas. “Emplearon diversas tácticas para eludir dichas medidas, como ocultar sus objetivos y los productos para los que estaba destinado el software, y fragmentaron su trabajo en múltiples sesiones para que ninguna de ellas revelara por sí sola sus verdaderas intenciones”, añade.

Finalmente, Anthropic señala que las cuentas implicadas fueron suspendidas y que compartieron los hallazgos “con socios de los sectores público y privado para mitigar los riesgos”. “Tenemos pruebas de que los actores ya habían creado un conjunto de herramientas de simulación fuera que no dependen de Claude”, concluye la compañía.

Hola, soy Fren. ¿Cómo te ayudo?