QUIÉN ES QUIÉN
A MANO ALZADA
David Córdova, presidente ejecutivo de Demócrata, es una de esas personas de la que siempre aprendes cuando hablas con él. En esta ocasión, me pidió mi opinión sobre la nueva regulación europea de la Inteligencia Artificial.
Al terminar, me invitó a leer un fragmento de la biografía de Elon Musk. En dicho fragmento se explica cómo el día del cumpleaños de Musk, allá por el año 2013, aquel debatía con algunos de sus invitados acerca de la necesidad de establecer medidas de seguridad para el desarrollo de esta nueva tecnología ya que, de lo contrario, “los sistemas de inteligencia artificial podrían sustituir a los humanos y condenar a nuestra especie a la irrelevancia o, incluso, a la extinción”.
Máquinas, humanos e Inteligencia Artificial
Según prosigue el libro, entre los invitados se encontraba Larry Page, quien rebatía el temor de Musk afirmando que no importaba si llegaba un día en el que las máquinas superasen a los humanos en inteligencia y hasta en conciencia, ya que, simplemente -sostenía el fundador de Google- sería la siguiente fase de la evolución.
De hecho, el propio Page acusaba a Musk de “especista”, tratando de definirle como alguien que tiene prejuicios a favor de su propia especie.
“Joder, a mí me gusta la humanidad, tío”, sentenció Musk.
Los sistemas de inteligencia artificial podrían sustituir a los humanos y condenar a nuestra especie a la irrelevancia o, incluso, a la extinción
Elon Musk
Debo confesar que no fui invitado a esa fiesta, por lo que no puedo confirmar la veracidad de esta discusión ni que, en caso de producirse, Page no estuviera bromeando.
Sin embargo, el debate ético entre la postura humanista y la tecnológica se vuelve a plantear a la hora de determinar cuál debe ser el alcance de su regulación en los distintos países del mundo, con sus propias culturas, creencias, ambiciones y prejuicios.
En este caso, la postura europea, basada en desarrollar una tecnología centrada en la protección del ser humano (“human centric”), ha decidido poner límites a las capacidades, casi ilimitadas, que ofrece esta tecnología.
Y espera poder hacerlo a través de la identificación de una serie de usos cuyo impacto en la defensa de los derechos humanos y libertades fundamentales de las personas resultan del todo inaceptables para la concepción europea y, por tanto, deben estar prohibidos en todo caso, aunque sin descartar ciertas excepciones.
La postura europea, basada en desarrollar una tecnología centrada en la protección del ser humano, ha decidido poner límites a las capacidades que ofrece la IA
En efecto, el acuerdo provisional para la aprobación del Reglamento sobre inteligencia artificial al que llegaron los distintos organismos europeos el pasado 9 de diciembre, establece unos criterios horizontales de protección, en particular una clasificación de sistemas de alto riesgo.
En este caso, llama la atención la referencia que se hace a aquellos, sobre los que se dice que se reconocen con el fin de garantizar que no se incluyan en dicha clasificación sistemas de IA que probablemente no acarrearán violaciones graves de los derechos fundamentales ni otros riesgos considerables.
Ciencia ficción
Dicho con otras palabras, algunos usos de la inteligencia artificial entrañan riesgos que se consideran inaceptables, por lo que su uso en el espacio europeo quedará prohibido.
Entre dichos usos (algunos de los cuales ya se han visto reflejados en algunas películas históricamente clasificadas como de “ciencia ficción”) se incluyen las siguientes prohibiciones:
- La manipulación cognitiva conductual.
- El rastreo indiscriminado de imágenes faciales sacadas de internet o de circuitos cerrados de televisión.
- El reconocimiento de emociones en los lugares de trabajo y en las instituciones de enseñanza.
- La puntuación ciudadana.
- La categorización biométrica para deducir datos sensibles, como la orientación sexual o las creencias religiosas y algunos casos de vigilancia policial predictiva de personas.
Europa ha visto el potencial que tiene la inteligencia artificial
Europa ha visto el potencial que tiene la inteligencia artificial. Y parece tener claro que, aún a pesar del potencial de esta tecnología, no se le debe permitir que actúe sin límites porque está en juego la defensa de los Derechos humanos.
Lo contrario sería dejar en manos de las grandes empresas tecnológicas el futuro de la raza humana, y que sean estas corporaciones quienes gobiernen de forma exclusiva (¿y excluyente?) dicha tecnología, sabiendo que lo harán, estrictamente, en base a criterios económicos y empresariales, y no éticos ni de protección de los derechos y libertades fundamentales, ni -mucho menos- de protección del bien común.
Y es que a los europeos también nos gusta la humanidad, tío.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).
