El Gobierno pedirá a la Fiscalía que investigue a X, Meta y TikTok por la posible creación y difusión de pornografía infantil con IA

El Consejo de Ministros solicitará este martes a la Fiscalía que investigue si plataformas como X, Meta y TikTok podrían estar incurriendo en delitos relacionados con la creación y difusión de pornografía infantil mediante herramientas de inteligencia artificial generativa. El anuncio lo ha realizado el presidente del Gobierno, Pedro Sánchez.

2 minutos

 El Presidente del Gobierno, Pedro Sánchez interviene en el acto de clausura de la presentación del nuevo fondo ‘España Crece` | Alejandro Martínez Vélez

El Presidente del Gobierno, Pedro Sánchez interviene en el acto de clausura de la presentación del nuevo fondo ‘España Crece` | Alejandro Martínez Vélez

Comenta

Publicado

Última actualización

2 minutos

Investigación sobre el uso de IA generativa

El Ejecutivo ha decidido dar traslado a la Fiscalía para que analice si determinadas funcionalidades de inteligencia artificial disponibles en grandes plataformas digitales pueden estar siendo utilizadas para generar o difundir contenido de carácter ilícito.

Según ha explicado Pedro Sánchez, la petición busca esclarecer si existe responsabilidad penal derivada del uso de herramientas de IA que permitan la creación de material de pornografía infantil o faciliten su circulación.

 

El presidente ha señalado que “estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas”, y ha añadido que “el Estado no lo puede permitir”.

El foco en la responsabilidad de las plataformas

La iniciativa del Gobierno pone el foco en la responsabilidad de las compañías tecnológicas respecto al uso que terceros puedan hacer de sus sistemas de inteligencia artificial.

En su mensaje público, Sánchez ha defendido que “la impunidad de los gigantes debe acabar”, en referencia a la necesidad de reforzar los mecanismos de control y supervisión sobre los entornos digitales, especialmente cuando están en juego derechos fundamentales de menores.

La Fiscalía será ahora la encargada de determinar si concurren indicios de delito y si procede abrir diligencias de investigación.

Debate abierto sobre regulación y protección de menores

El anuncio se produce en un contexto de creciente preocupación institucional en Europa por los riesgos asociados a la inteligencia artificial generativa, especialmente en lo relativo a la manipulación de imágenes, la creación de contenido sintético y la protección de menores.

En España, la legislación penal ya contempla penas específicas para la producción, posesión y distribución de pornografía infantil, así como para la utilización de tecnologías que faciliten su elaboración.

La decisión del Consejo de Ministros añade un nuevo capítulo al debate sobre los límites de la IA y la responsabilidad de las grandes plataformas digitales en la prevención de delitos.