QUIÉN ES QUIÉN
A MANO ALZADA
Como es sabido, España se ha propuesto liderar el impulso y fomento de la Inteligencia Artificial, lo que ha llevado a nuestro país a publicar una estrategia nacional (ENIA), a acordar la creación de una agencia nacional de supervisión (AESIA), y a aprobar un entorno de pruebas o sandbox, donde desde el pasado 2 de octubre las entidades ya pueden registrar su interés para participar en el mismo.
Todo ello mientras en Europa continúan los trámites y las negociaciones para alcanzar un acuerdo con respecto al texto definitivo de un Reglamento cuya versión inicial fue presentada por la Comisión Europea en el año 2021, y que tiene por objetivo el de establecer normas armonizadas sobre inteligencia artificial con el objetivo de garantizar el respeto de los derechos fundamentales de los ciudadanos.
España se ha propuesto liderar el impulso y fomento de la Inteligencia Artificial, lo que ha llevado a nuestro país a publicar una estrategia nacional
A la vista de las negociaciones mantenidas entre la Comisión con el Parlamento Europeo y el Consejo (trílogos), parece que podría llegarse a un acuerdo sobre el texto definitivo a finales de este mes de octubre (la última reunión está prevista para el día 25), por lo que -presumiblemente- podría publicarse antes de finalizar este año. Si bien, como es sabido, no será hasta transcurridos 24 meses desde su entrada en vigor cuando será plenamente aplicable.
El debate social se centra, principalmente, en las preocupaciones expresadas por algunas entidades dedicadas a la protección de los derechos fundamentales y de los consumidores (como Amnistía Internacional o EDRi), que reclaman un mayor refuerzo del principio de legalidad para tratar de aplicar, de manera eficaz, el principio de “human centricity” sobre el cual debía construirse la regulación de la Inteligencia Artificial en Europa.
En particular, se reclama al legislador europeo que cualquier utilización de sistemas de IA de alto riesgo disponga de un análisis de impacto previo en los derechos fundamentales que -además- deberá llevarse a cabo de forma transparente e, incluso, esté accesibles de forma pública, yendo un paso más allá de lo que exigen otras normas, como puede ser el Reglamento General de Protección de Datos, cuando trata, por ejemplo, el informe justificativo de concurrencia de interés legítimo para un determinado tratamiento de datos de carácter personal.
El debate social se centra en las preocupaciones expresadas por algunas entidades dedicadas a la protección de los derechos fundamentales y de los consumidores
Otro aspecto controvertido viene siendo el recogido en una enmienda presentada por el Consejo Europeo al artículo 2 del Reglamento, que aboga por excluir de su ámbito de aplicación de los sistemas de IA desarrollados o utilizados con fines de seguridad nacional. En este sentido, estos colectivos reclaman rechazar tal enmienda, incluyendo en el ámbito de aplicación del Reglamento el uso de esta tecnología con dichas finalidades. Este aspecto siempre da lugar a profundos debates, basados en la prevalencia de la seguridad nacional por encima de los derechos individuales de los ciudadanos, cuando existan razones fundamentadas que justifiquen dicho desequilibrio.
Por su parte, organizaciones como BEUC también han hecho oír su voz a través de pronunciamientos públicos, donde reclaman al legislador europeo que la calificación de un sistema de IA como “de alto riesgo” sea automática si el sistema en cuestión se encuentra mencionado en el Anexo III del Reglamento, impidiendo que sean las propias empresas las que puedan considerar si existen motivos que permitan excluir a un sistema de IA de tal consideración.
Adicionalmente, reclaman la inclusión expresa de los sistemas de reconocimiento de emociones a través de la IA como una práctica prohibida de las previstas en el artículo 5 de la actual versión del Reglamento. Asimismo, también reclaman la inclusión de la inteligencia artificial generativa como figura expresamente regulada en esta norma, y no únicamente en un entorno de IA de alto riesgo.
Finalmente, y junto a la demanda de que el ámbito de aplicación de la norma no se limite a las grandes empresas, se exige un refuerzo en la protección de los derechos de los consumidores acorde con las tendencias actuales, lo que podría suponer un mayor alcance en derechos tales como los de transparencia (el derecho a saber cómo está siendo utilizado un determinado sistema), el derecho a la tutela judicial efectiva a través de la posibilidad de presentar reclamaciones ante las autoridades competentes, incluyendo las autoridades administrativas, o el derecho a presentar demandas colectivas a través de las que los consumidores afectados por una práctica ilícita puedan exigir compensaciones económicas al proveedor responsable de una determinada infracción de la norma que redunde en perjuicio de los derechos de los consumidores.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).
