QUIÉN ES QUIÉN
A MANO ALZADA
Estos últimos días han sido frenéticos en lo que se refiere a la regulación de la inteligencia artificial, lo que sigue demostrando la relevancia que esta tecnología ha adquirido entre la población.
En efecto, sólo en el entorno más cercano, mientras que la OCDE actualizaba sus principios éticos sobre IA, España presentaba su nueva Estrategia nacional sobre inteligencia artificial y cerraba el plazo para presentar candidaturas a dirigir su Agencia de supervisión de la IA, el Consejo de Europa aprobaba, con fecha 17 de mayo, un convenio internacional para sentar las bases sobre las que deberán construirse las medidas que garanticen que las actividades desarrolladas durante el ciclo de vida de los sistemas de inteligencia artificial respeten y sean plenamente coherentes con los derechos fundamentales, la democracia y el estado de derecho.
Convenio del Consejo de Europa
Esta última iniciativa, la de un instrumento internacional con espíritu homogeneizador, venía siendo reclamada desde hace tiempo, ya que, ante las graves amenazas para los derechos y libertades fundamentales de las personas, se hacía imprescindible una regulación global que permita a otros estados mostrar su compromiso con los derechos de la persona en la implantación de la IA.
Se hacía imprescindible una regulación global que permita a otros estados mostrar su compromiso con los derechos de la persona en la implantación de la IA
Que este Convenio haya sido impulsado en el seno del Consejo de Europa le dota, además, de un valor simbólico. No en vano en ese fuero se han aprobado otros convenios relacionados con el ámbito digital, que han servido para sentar los fundamentos de un desarrollo tecnológico justo y responsable en Europa, como pueda ser, entre otros, el Convenio de Budapest para la persecución de los ciberdelitos o el Convenio sobre derechos humanos y biomedicina, este último con un amplio componente ético.
Volviendo al documento que ahora nos interesa, los criterios del Convenio van muy en línea con los principios que fundamentan el nuevo Reglamento europeo de Inteligencia Artificial, especialmente en todo lo relativo a la protección y el respeto a la dignidad humana, transparencia igualdad y no discriminación, o privacidad, entre otras.
Sin embargo, de dicho documento podemos destacar varios aspectos que, a mi juicio, van a tener una especial relevancia en un futuro cercano.
En primer lugar, hay que señalar que una de las principales novedades que trae consigo este Convenio es la que tiene que ver con la definición de “sistema de inteligencia artificial”, que a efectos de dicho Convenio significa, con carácter general, un sistema que infiere, a partir de la entrada que recibe, cómo generar resultados tales como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales.
Una de las principales novedades que trae consigo este Convenio es la que tiene que ver con la definición de “sistema de inteligencia artificial
De otro lado, son importantes las referencias hechas a la alfabetización y desarrollo de competencias digitales relacionadas con la inteligencia artificial. Obligación esta que ya viene recogida en la propuesta de Reglamento de IA en su artículo 4, y que el Convenio se refiere a ello de la siguiente manera:
Cada Parte fomentará y promoverá la alfabetización digital y las habilidades digitales adecuadas para todos los segmentos de la población, incluidas las habilidades específicas de los expertos para los responsables de la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de inteligencia artificial.
Especial protección a los colectivos vulnerables
Finalmente, no podemos olvidar la referencia que hace el Convenio a los colectivos vulnerables, al igual que también hace el Reglamento europeo. Con respecto a ello podemos concluir que existe cierto grado de inseguridad jurídica a la hora de poder considerar cuáles son las personas que, a los efectos de la regulación de la IA, deben ser consideradas “colectivos vulnerables” a estos efectos.
En cuanto a ello, el propio Preámbulo afirma que uno de los fundamentos que justifican esta regulación tiene que ver con la preocupación del legislador “por los riesgos de discriminación en los contextos digitales, en particular los que involucran sistemas de inteligencia artificial, y su efecto potencial de crear o agravar las desigualdades, incluidas las que experimentan las mujeres y las personas en situaciones vulnerables, con respecto al disfrute de sus derechos humanos y su participación plena, igualitaria y efectiva en los asuntos económicos, sociales, culturales y políticos”.
Esta previsión se traslada al cuerpo del propio texto. En particular en su artículo 18 el cual, bajo el título “derechos de las personas con discapacidad y de los niños”, afirma que los países que suscriban o se adhieran deberán tener debidamente en cuenta cualquier necesidad y vulnerabilidad específica en relación con el respeto de los derechos de las personas con discapacidad y de los niños.
Queda ver qué países suscribirán este Convenio y si seremos capaces de extender sus bondades a la mayoría de los países del mundo
En el caso de España, por ejemplo, tal condición se ha venido utilizando de distintas maneras y con distintos alcances, lo que ha creado ciertas dudas con respecto a su alcance en la normativa que regula la IA. Se hace necesario, así, delimitar claramente qué debemos considerar como persona o colectivo vulnerable a efectos del desarrollo y uso de la inteligencia artificial.
Siguientes pasos
Una vez ratificados, los convenios se convierten en parte del derecho internacional obligatorio para el Estado signatario, quedando comprometido a respetar sus disposiciones y a implementar las medidas necesarias en su ordenamiento jurídico interno para cumplir con los objetivos del convenio.
Queda, por tanto, ver qué países suscribirán este Convenio, y si seremos capaces de extender sus bondades a la mayoría de los países del mundo, al objeto de trabajar conjuntamente por un desarrollo responsable y confiable de esta tecnología.
Lógicamente, será imposible lograr que algunos países, alejados de los principios democráticos pero líderes en IA, suscriban este acuerdo. Pero debe trabajarse para mantener alineados unos principios de IA basados en la defensa de los derechos fundamentales.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).
