QUIÉN ES QUIÉN
A MANO ALZADA
En el Boletín Oficial del Estado del sábado 2 de septiembre de 2023 se publicó el Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial (en adelante, AESIA).
La publicación de esta norma viene a formalizar el mandato otorgado por el Consejo de Ministros el pasado mes de agosto, de crear un organismo adscrito al Ministerio de Asuntos Económicos y Transformación Digital a través de su Secretaría de Estado de Digitalización e Inteligencia Artificial, para minimizar los riesgos que puede suponer el uso de la inteligencia artificial, además de garantizar el adecuado desarrollo y potenciación de estos sistemas.
Fines de la AESIA
Para lograr tales fines, se encomienda a la AESIA tareas de supervisión, asesoramiento, concienciación y formación, para la adecuada implementación de la normativa que regulará el uso y desarrollo de los sistemas de inteligencia artificial en nuestro país.
Hay que tener en cuenta que, al tratarse de un organismo con naturaleza jurídica de Agencia estatal, la AESIA tiene personalidad jurídica pública, patrimonio propio y autonomía en su gestión, además de facultad para ejercer potestades administrativas para el cumplimiento de sus objetivos, incluyendo las de inspección, comprobación y sanción, además de las de recaudación ya que, según parece desprenderse del artículo 43 del Estatuto, los servicios prestados pueden no ser gratuitos.
Efectivamente, los estatutos publicados prevén que, a nivel estatal, esta nueva Agencia “ejerza las funciones de autoridad responsable de la supervisión, y en su caso sanción, de los sistemas de inteligencia artificial con el objeto de eliminar o reducir los riesgos para la integridad, la intimidad, la igualdad de trato y la no discriminación, en particular entre mujeres y hombres, y demás derechos fundamentales que pueden verse afectados por el mal uso de los sistemas”.
Objetivos de la AESIA
En lo que respecta a los objetivos que persigue esta Agencia, podemos destacar varios.
En primer lugar, los de difundir el conocimiento de la IA, a través de acciones destinadas a la concienciación, divulgación y promoción de la formación, además de otras dirigidas al desarrollo y uso responsable, sostenible y confiable de la inteligencia artificial.
En segundo lugar, la AESIA debe convertirse en un órgano de asesoramiento, lo que requiere adoptar mecanismos de atención a la sociedad y a otros actores relacionados con el desarrollo y uso de la inteligencia artificial.
Un tercer objetivo sería el de lograr una colaboración y coordinación eficaz con otras autoridades, nacionales y supranacionales, de supervisión de inteligencia artificial.
Finalmente, la supervisión, donde la Agencia debe vigilar la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para la salud, seguridad, la igualdad de trato y no discriminación, en particular entre mujeres y hombres, y para los demás derechos fundamentales.
Por último, el sandboxing, dentro de lo cual la AESIA debe fomentar entornos reales de prueba de los sistemas de inteligencia artificial, para reforzar la protección de los usuarios y evitar sesgos discriminatorios. Esto último va alineado con el próximo Real Decreto regulador del entorno de pruebas, que permitirá una correcta adaptación de sistemas innovadores de IA a los marcos jurídicos en vigor, y cuya competencia se adjudica también a la AESIA en su Estatuto.
Competencias de la AESIA
Para poder desarrollar sus funciones y alcanzar sus objetivos, el artículo 10 del Estatuto recoge la relación de competencias que, además de la del entono de pruebas, se otorgan a esta Agencia.
A nivel operativo, podemos destacar tres grandes competencias, que serán las que marcarán la interacción con ciudadanos y empresas:
En primer lugar, la competencia para la creación de un marco de certificación voluntario para entidades privadas, con respecto al cual se espera que ofrezca garantías sobre el diseño responsable de soluciones digitales y garantice los estándares técnicos, evitando la sobrerregulación y permitiendo la innovación.
En segundo lugar, la facultad de supervisión de los sistemas de inteligencia artificial para garantizar el cumplimiento de la normativa, tanto nacional como europea. Más concretamente, le corresponderá́ la supervisión y, en su caso, sanción de acuerdo con lo estipulado en la normativa europea en lo que respecta a la supervisión de sistemas de Inteligencia Artificial.
En tercer lugar, la competencia formativa y de divulgación, que incluye la creación de conocimiento, formación y difusión en relación con la inteligencia artificial ética y humanista, para mostrar tanto su potencial y oportunidades para el desarrollo socioeconómico, la innovación y la transformación del modelo productivo, como los retos, riesgos e incertidumbres que plantea su desarrollo y adopción.
De conformidad con el Estatuto, estas competencias deben desarrollarse de forma alineada con varios criterios, que deben regir las actuaciones de la Agencia. Estos son:
– Perspectiva ambiental y sostenible: promoviendo un desarrollo y uso energéticamente eficiente e impulsando la adopción de esta tecnología para favorecer la resolución de problemas ambientales.
– Perspectiva de igualdad: incorporando el principio de igualdad de oportunidades entre mujeres y hombres en su diseño y ejecución y promoviendo la realización de evaluaciones de impacto capaces de identificar posibles sesgos discriminatorios por cualquiera de los motivos prohibidos por el ordenamiento jurídico. Todo ello con el objetivo de eliminar los sesgos discriminatorios de cualquier tipo y, en particular, los sesgos de género y los de índole étnico-racial.
– Perspectiva colaborativa: dinamizando el mercado, analizando su evolución y tendencias, y, con una doble perspectiva, de promoción de la coordinación con iniciativas de terceros (incluyendo acuerdos y convenios) e impulsando la colaboración público-privada para favorecer la creación de marcos de acompañamiento en el sector con el fin de impulsar su desarrollo humanista y su correcto uso por parte del tejido productivo-empresarial.
Estructura orgánica de la AESIA
En cuanto a su estructura, la Agencia se estructura en órganos de gobierno (la Presidencia y el Consejo Rector, del cual depende la Comisión de Control) y órganos ejecutivos, donde se encuadran la Dirección, la Secretaría General, la Subdirección de Informes e Infraestructuras de Prueba y la Subdirección de Certificación, Evaluación de Tendencias, Coordinación y Formación en inteligencia artificial. Sus actuaciones se regirán por la capacidad de emitir normas internas de conformidad con el artículo 9 del Estatuto.
Puesta en funcionamiento de la AESIA
La fecha de efectiva puesta en funcionamiento de las actuaciones de la AESIA será la del 3 de diciembre de 2023, momento en el que la Presidencia de la Agencia elegirá la figura de su director o directora, tal y como indica su Disposición adicional primera.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex secretario general del Instituto Nacional de Ciberseguridad (INCIBE).
