Investigación sobre el uso de IA generativa
El Ejecutivo ha decidido dar traslado a la Fiscalía para que analice si determinadas funcionalidades de inteligencia artificial disponibles en grandes plataformas digitales pueden estar siendo utilizadas para generar o difundir contenido de carácter ilícito.
Según ha explicado Pedro Sánchez, la petición busca esclarecer si existe responsabilidad penal derivada del uso de herramientas de IA que permitan la creación de material de pornografía infantil o faciliten su circulación.
El presidente ha señalado que “estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas”, y ha añadido que “el Estado no lo puede permitir”.
El foco en la responsabilidad de las plataformas
La iniciativa del Gobierno pone el foco en la responsabilidad de las compañías tecnológicas respecto al uso que terceros puedan hacer de sus sistemas de inteligencia artificial.
En su mensaje público, Sánchez ha defendido que “la impunidad de los gigantes debe acabar”, en referencia a la necesidad de reforzar los mecanismos de control y supervisión sobre los entornos digitales, especialmente cuando están en juego derechos fundamentales de menores.
La Fiscalía será ahora la encargada de determinar si concurren indicios de delito y si procede abrir diligencias de investigación.
Debate abierto sobre regulación y protección de menores
El anuncio se produce en un contexto de creciente preocupación institucional en Europa por los riesgos asociados a la inteligencia artificial generativa, especialmente en lo relativo a la manipulación de imágenes, la creación de contenido sintético y la protección de menores.
En España, la legislación penal ya contempla penas específicas para la producción, posesión y distribución de pornografía infantil, así como para la utilización de tecnologías que faciliten su elaboración.
La decisión del Consejo de Ministros añade un nuevo capítulo al debate sobre los límites de la IA y la responsabilidad de las grandes plataformas digitales en la prevención de delitos.