Bruselas da un nuevo paso en su ofensiva digital contra X. Esta vez, el Ejecutivo comunitario ha abierto una nueva investigación contra el gigante tecnológico propiedad de Elon Musk por su servicio de inteligencia artificial, Grok, centrada en la gestión de sus sistemas de recomendación y la generación de contenido.
El procedimiento analizará si la compañía ha examinado y solucionado adecuadamente los riesgos relacionados con la difusión de contenido ilegal en la Unión Europea. Aquí se analizará la propagación de imágenes sexualmente explícitas manipuladas o cualquier otro contenido que pueda constituir material de abuso sexual infantil.
X lanzó en 2024 una solución basada en inteligencia artificial —actualmente objeto de investigación— que se desarrolló en varios formatos y permite crear contenidos textuales y visuales, así como añadir contexto informativo a las publicaciones de los usuarios.
Falsificaciones sexuales y violencia digital
Desde el departamento de la vicepresidenta ejecutiva Henna Virkkunen subrayan que las falsificaciones sexuales no consentidas de mujeres y menores constituyen una forma de degradación violenta e inaceptable.
«Con esta investigación determinaremos si X cumplió con sus obligaciones legales en virtud de la Ley de Servicios Digitales (DSA) o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio», ha afirmado la responsable del área digital del Ejecutivo comunitario.
En la Comisión sostienen que estos riesgos podrían haberse materializado, lo que habría expuesto a los ciudadanos europeos a daños contra su integridad. Por este motivo, y al amparo de la DSA, se evaluarán los denominados “riesgos sistémicos”, así como los efectos negativos vinculados a la violencia de género y las “graves consecuencias negativas” para el bienestar físico derivadas de las múltiples funciones de Grok.
Ampliación del expediente contra X
Además, Bruselas ha decidido ampliar el procedimiento abierto hace dos años contra X para determinar si la empresa ha tenido en cuenta todas las afecciones previstas en la legislación europea en lo relativo a sus sistemas de recomendación.
Si la Comisión certificase estos incumplimientos, se constataría una infracción de varios artículos de la normativa comunitaria.
La ley obliga a las grandes plataformas digitales a realizar, al menos una vez al año, una evaluación formal de los riesgos sistémicos derivados del diseño y uso de sus servicios. En este marco se incluyen la difusión de contenidos ilegales, los impactos negativos sobre derechos fundamentales —como la libertad de expresión, la privacidad o la no discriminación—, así como los efectos adversos en el discurso cívico y la salud pública.
Estas evaluaciones deben abordar de forma específica la contribución del diseño y funcionamiento de los sistemas clave: recommender systems, algoritmos de priorización, sistemas publicitarios y reglas de moderación.
Evaluaciones “superficiales”
La Comisión insiste en que no basta con enumerar riesgos de forma abstracta. Las compañías deben analizar de manera razonablemente granular cómo sus propias decisiones de diseño —como priorizar el engagement, sugerir contenido similar o recurrir al micro-targeting publicitario— alimentan estas vulnerabilidades.
En el caso de X, Bruselas considera que la evaluación realizada habría sido muy superficial o meramente declarativa.
Cuando se detectan estos riesgos, las plataformas están obligadas a adoptar medidas razonables para mitigarlos. Desde la entrada en vigor de la DSA, la Comisión ha impulsado propuestas como ajustes en el diseño de la interfaz, cambios en los parámetros de recomendación o el refuerzo de los recursos de moderación.
Funcionarios comunitarios afirman que existen motivos suficientes para creer que no se llevaron a cabo evaluaciones de riesgos adecuadas durante el desarrollo de la herramienta.
«Esto expone a las personas. No se trata de imágenes individuales», señalan, al indicar que se ha detectado un enfoque sistémico en la posible exposición. «Nuestra investigación es mucho más amplia; no se limita al contenido sexual. En el pasado ya se observaron otras características preocupantes», añaden estas fuentes.
Próximos pasos y posibles medidas provisionales
A partir de ahora, la investigación continuará con la recopilación de pruebas, mediante el envío de solicitudes de información adicionales, la realización de entrevistas y posibles inspecciones. Este proceso permitirá al Ejecutivo comunitario imponer medidas provisionales si no se introducen ajustes significativos.
¿Qué implica la apertura de este procedimiento? Cuando la Comisión inicia una investigación formal, dispone de facultades para aceptar compromisos asumidos por la empresa con el objetivo de subsanar las deficiencias detectadas. Esto excluye la competencia de las autoridades nacionales para supervisar el cumplimiento de la normativa digital en estas prácticas concretas.
Grok, bajo la lupa desde su lanzamiento
X puso en marcha su herramienta de inteligencia artificial, ahora bajo investigación, en 2024, a través de distintos formatos. La aplicación permite generar texto e imágenes, además de ofrecer información contextual en las publicaciones de los usuarios.
Dado su tamaño en el mercado europeo, la compañía está obligada a monitorizar cualquier riesgo asociado a estas funciones en el territorio comunitario. La investigación anterior se centró en el funcionamiento del mecanismo de notificación y acción, por ejemplo frente a contenido terrorista.
En aquel expediente también se analizaron prácticas como el uso de diseño engañoso, la falta de transparencia publicitaria y el acceso insuficiente a datos para investigadores, lo que desembocó en el anuncio de una sanción de 120 millones de euros.
Ya en septiembre, Bruselas había exigido a la empresa información adicional sobre el contenido antisemita generado por Grok.
Nueva escalada política
Tras aquella primera multa, por la que se responsabilizó a X de socavar los derechos de los usuarios, Elon Musk abrió una ofensiva política contra la Comisión Europea. Virkkunen recalcó entonces que las normas digitales de la UE son “iguales para todos”, con independencia del país de origen de cada plataforma.
«Es muy importante que apliquemos nuestras reglas; cuando hablamos de normas digitales, sabemos que son las mismas para todas las compañías que operan y hacen negocios en Europa», sentenció.
Estas declaraciones no sentaron bien en Washington. El secretario de Estado estadounidense, Marco Rubio, calificó la multa de ataque contra las plataformas tecnológicas estadounidenses y contra el pueblo americano. «Se acabaron los días de censurar a los estadounidenses en Internet», afirmó. Poco después, X decidió eliminar el perfil oficial de la Comisión Europea de su plataforma.
El vicesecretario Christopher Landau elevó aún más el tono al declarar que Estados Unidos no puede fingir ser socio de Europa mientras «esas naciones permiten que una burocracia no electa, antidemocrática y no representativa aplique políticas de suicidio civilizatorio».
«La UE debería ser abolida y la soberanía devuelta a los Estados miembros, para que los gobiernos puedan representar mejor a sus pueblos», escribió Musk en su propia red social.
«Su cuenta publicitaria ha sido cancelada», explicó el jefe de producto de X, Nikita Bier, en referencia a la suspensión del perfil del Ejecutivo comunitario, al que la plataforma acusó de intentar amplificar el anuncio de la multa.