Unidas Podemos ha registrado en el Congreso hace unos días la primera y más ambiciosa iniciativa legislativa presentada hasta ahora en un país de la Unión Europea para regular las afectaciones que en los derechos fundamentales y derechos civiles pueden tener las simulaciones de imágenes y voces de personas generadas a través de la inteligencia artificial (IA).
Siempre hemos pensado que la IA puede ser una vía que contribuya a traer progreso y bienestar a nuestras sociedades, pero que este desarrollo se produzca sin un mínimo control, como ocurre en estos momentos, puede llevar a distintas problemáticas. Sin duda, una de las que más nos preocupan es su posible incidencia directa en los derechos fundamentales de las personas, las vulneraciones de derechos civiles básicos y el retroceso de la calidad de la democracia, suficientemente amenazada ya en nuestros días por la emergencia del autoritarismo y la utilización de la mentira para hacer política.
Sería muy presuntuoso intentar a fecha de hoy regular la totalidad de los efectos que la inteligencia artificial va a tener en el mundo que nos rodea. Son innumerables los alcances y futuras aplicaciones que va a tener, ya sean económicas, políticas o vinculadas a la comunicación social. Nuestra iniciativa legislativa pretende abordar el efecto de la utilización de esta herramienta para la recreación de imágenes y voces personales, para que su uso sea compatible con la protección de los derechos a la intimidad, al honor o a la propia imagen, entre otros.
Se trata de impedir que la información generada por IA pueda ser “nociva” al afectar negativamente al derecho a la propia imagen y proyección social de la persona como, por poner varios ejemplos, información sobre la salud, situación económica, competencia desleal o también manipulaciones electorales.
Esta propuesta de regulación pretende evitar el uso malintencionado de una tecnología que, además de que puede menoscabar el derecho al honor o el derecho a la intimidad de las personas, ya se ha comprobado en la práctica que puede ser utilizada para propagar información falsa, lo que además de afectar la imagen y reputación de la persona también puede extenderse a tratar de influir en un proceso electoral con el uso de ciertas imágenes o audios de los/as candidatos/as durante las campañas electorales.
Nuestra proposición de ley, que tiene carácter orgánico, está basada en un modelo ‘ex ante’ que estima riesgos y valora resultados, de ahí que planteemos modificar hasta seis leyes, cinco de ellas orgánicas: el Código Penal, la Ley de Protección del Menor, la Ley Electoral, la de Comunicación Audiovisual, la de Competencia Desleal y la Ley de Enjuiciamiento Civil.
Nuestra proposición de ley, que tiene carácter orgánico, está basada en un modelo ‘ex ante’ que estima riesgos y valora resultados, de ahí que planteemos modificar hasta seis leyes, cinco de ellas orgánicas
Esta propuesta legal no pretende prohibir la difusión de imágenes o sonidos generados por inteligencia artificial, pero sí hace obligatorio advertir que lo han sido con esta herramienta. Además, contempla que cualquier imagen o voz de una persona generada íntegramente o modificada intencionadamente a través de IA tenga que tener la advertencia -sobreimpresa en caso de ser una imagen y un audio indicativo adjunto si se trata de una voz- de que es una imagen o sonido falso, lo que en caso de no constar y ser difundida podrá acarrear una sanción de orden administrativo, civil o incluso penal.
A modo de ejemplo en esta limitada explicación, señalamos que el texto también introduce nuevos apartados en la Ley General de Comunicación Audiovisual para que se consideren infracciones ‘muy graves’ la difusión de imágenes, vídeos o audios ‘generados a través de sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial sin la previa autorización o consentimiento expreso de la persona o personas objeto, salvo que incluyan de forma clara y sobresaliente una advertencia de su condición de imagen generada artificialmente por inteligencia artificial’.
Vistos los antecedentes conocidos de intento de manipulación de procesos electorales mediante la generación y difusión de información falsa relativa a candidatos o candidatas, se introduce en la proposición de ley un nuevo delito electoral en relación al uso de imágenes o voces de personas candidatas para alterar el resultado de un proceso electoral. Esta utilización fraudulenta sería considerada delito desde el momento en el que se convoque un proceso electoral hasta su conclusión efectiva.
SOBRE LA FIRMA: Enrique Santiago (Madrid, 1964) es portavoz de Izquierda Unida en el Congreso y portavoz adjunto de Unidas Podemos.