QUIÉN ES QUIÉN
A MANO ALZADA
La regulación de la Inteligencia Artificial es uno de los grandes retos mundiales. El Gobierno de España ya ha aprobado su Proyecto de Ley para complementar el Reglamento europeo. Pero esta es solo una de las diversas -y novedosas- líneas de trabajo que nutre la agenda de la secretaria de Estado de Digitalización e IA, María González Veracruz, quien charla con Demócrata para desvelar las claves del Proyecto de Ley de gobernanza de IA, profundizar en el Reglamento, anticipar la Estrategia de Tecnologías Cuánticas, abordar la hoja de ruta para hacer de España un hub audiovisual y explicar cómo se ha reestructurado el Ministerio para afrontar todos estos desafíos.
Reestructuración
Pregunta: La Secretaría de Estado de Digitalización e IA se ha reestructurado. ¿Cómo han quedado las ramas de trabajo y por qué se ha hecho este proceso?
Respuesta: Yo creo que era necesario actualizar la estructura en base a las prioridades. Las áreas responden a este nuevo tiempo. Sostengo que la Secretaría de Estado de Digitalización e Inteligencia Artificial es innovación pública pura y dura, en vena, y eso supone que en un área tan novedosa, tan cambiante, hay que tener cierto dinamismo, cierta capacidad de cambio.
La Dirección General del Dato, que era de reciente creación, porque tiene todo el sentido del mundo por el plan de impulso de datos sectoriales, pero también porque en el marco europeo viene la estrategia de datos. España, que está bien posicionada y que estamos convencidos de que el dato es el petróleo de la economía digital, en la que cada vez vamos aumentando en volumen en términos generales, necesitaba el compromiso y las políticas del equipo de Ruth del Campo, y es la única estructura que se mantiene igual.
Con respecto a la nueva Dirección General de Inteligencia Artificial, Aleida Alcaide, hemos conseguido que la IA tenga solo un equipo dedicado a ella, sacándole la parte de digitalización y creando una nueva. En Inteligencia Artificial está la responsabilidad del modelo ALIA, del desarrollo de toda la estrategia. Son distintas palancas, desde aumentar la capacidad de supercomputación, que se ha conseguido con la IA Factory europea, con una de las siete fábricas, gracias a la potencialidad del Centro Nacional de Supercomputación, pero también de una gran inversión por parte del Gobierno de España. En esa Dirección General, están desde el Plan Nacional de Algoritmos Verdes, hasta el diseño de la Estrategia Nacional de Tecnologías Cuánticas, lo que fue el Plan Nacional de Tecnología de Lenguaje.
Y la Dirección General de nueva creación, liderada por Carla Redondo, es Ordenación de los Servicios de Digitalización y de Comunicación Audiovisual. Esa es una novedad, porque la Ciberseguridad ha pasado a integrarse a la Secretaría de Estado de Telecomunicaciones e Infraestructuras Digitales, y la comunicación audiovisual ha pasado a esta Secretaría de Estado [Digitalización y Comunicación Audiovisual].
Ahí tenemos toda la parte de talento, toda la parte del emprendimiento, el desarrollo de la Ley de startups, y también toda la regulación de la era digital, toda la regulación de los servicios digitales y la parte de comunicación audiovisual.
Somos un equipo de mujeres, también mi directora de gabinete. Personas muy comprometidas, con mucha capacidad de trabajo y también de creatividad para lo que viene.
Inteligencia Artificial: Reglamento y Proyecto de Ley
Habla de ‘lo que viene’, y ‘lo que viene’ es el Reglamento de IA. El Consejo de Ministros ya ha aprobado el Proyecto de Ley. ¿Cuáles son sus puntos clave y los desafíos que pretende afrontar?
Cuando España lideró en la Presidencia de la Unión Europea el Reglamento de Inteligencia Artificial europeo, la primera Ley de IA del mundo, fuimos muy cuidadosos. Creo que se hizo un gran debate europeo para que la regulación fuera una garantía para la ciudadanía, una garantía de los derechos fundamentales, de los derechos digitales, pero que fuera siempre compatible con la capacidad de innovación. Eso ha sido fundamental en el diseño del proyecto de ley, pero también en el propio Reglamento.
El proyecto de ley va a aquellas partes que son competencias del Estado miembro, pero toda la filosofía del Reglamento es proteger al ciudadano frente a la salud, a la vulneración de derechos, por supuesto de los ataques a la democracia o a la desinformación; pero siempre con un enfoque muy de fomento a la innovación, favoreciendo, por ejemplo, los entornos de pruebas, como el que hemos puesto en marcha en España.
Ser uno de los países que ha puesto encima de la mesa antes que el resto el proyecto de ley, que hemos sido pioneros con la Agencia Europea de Supervisión de Inteligencia Artificial, es también una manera de ser fieles a esa creencia de dar ejemplo. Estamos convencidos de que el fomento de la IA pasa por la certidumbre.
«El fomento de la IA pasa por la certidumbre».
Lo que marca el proyecto de ley es cómo vamos a hacer la gobernanza de la IA en España, basada principalmente en la Agencia Española de Supervisión de la Inteligencia Artificial, pero con otros agentes supervisores, autoridades de vigilancia de mercado, como son la Agencia Española de Protección de Datos; en términos de justicia, el Consejo General del Poder Judicial; en términos de lo que puedan ser sistemas de IA que puedan ser definitivos en procesos electorales, la Junta Electoral Central; en sistemas de IA para el sistema financiero el Banco de España o la CNMV…
En definitiva, lo que pretende el diseño que hemos hecho, tanto en Europa como en España, es que sea simple, que tengamos un sitio donde ir, que es la Agencia Española, que va a supervisar la mayoría de sistemas. La filosofía de la primera ley del mundo es poner por delante la protección de la ciudadanía y que cuando su aplicación sea integral, las sanciones que recoge sean los de menos, porque ya nos habremos educado, nos habremos acostumbrado a esta nueva gobernanza que plantea el proyecto de ley.
Entiendo que el Proyecto de ley tendrá que modificar las normativas de todas esas entidades que ha citado, pero le pregunto. ¿El Gobierno irá más allá de la aplicación al Reglamento? Por ejemplo como ocurrió con la Ley de Paridad no solo se adecuó la normativa al Reglamento europeo, sino que se fue más allá.
En este caso, no es que España no vaya más allá, porque realmente España, con la fuerza de los hechos, está adelantándose a prácticamente todo. Pero sí que es importante resaltar que en los propios acuerdos del Reglamento europeo el que la norma, las sanciones, la fórmula de gobernanza etc. fuera homologable era muy importante porque no pretendemos que haya un Reglamento de IA en cada Estado.
Pretendemos que sea sencillo generar esa certidumbre que se necesita para favorecer la innovación y por eso para nosotros es tan importante haber puesto en marcha el primer sandbox de IA, el primer entorno de pruebas que se ha puesto en marcha en la UE.
«Pretendemos que sea sencillo generar esa certidumbre que se necesita para favorecer la innovación».
Los primeros en la Agencia, los primeros en el propio planteamiento de la ley… Ahí es donde España quiere ser referente, no en regular más, porque creemos que el debate se ha hecho en el marco que se tiene que hacer, de hecho, estamos trabajando mucho porque el debate sea global, sea mundial.
Ciñéndome un poquito a lo que ha sido el sandbox de IA, la verdad que ha tenido un gran acogimiento, hemos tenido casi 50 solicitudes de sistemas de IA que es lo que se va a evaluar, más de 100 pequeñas y medianas empresas, startups e incluso grandes empresas han participado en la convocatoria. Nos parece muy interesante el tener este entorno de pruebas regulatorio que nos permita, junto a sistemas de IA de alto riesgo reales, ver qué tenemos claro, qué no tenemos claro, qué les preocupa a las empresas, y a partir de ahí poder publicar esas guías que tenemos preparadas para que sean útiles para todo el ecosistema español.
El Reglamento europeo dedica una parte importante a clasificar los sistemas de IA en función del riesgo. ¿Cómo se va a supervisar y garantizar, por parte del Gobierno, que se cumplen estas categorías?
La definición está muy marcada por la Comisión Europea, de hecho ya están publicadas las guías para los sistemas prohibidos, que son los que entraron en vigor el 2 de febrero y para los que arrancan las sanciones ahora en agosto de este año. La Comisión creo que está haciendo un gran trabajo, junto con los Estados miembros, para que podamos terminar este proceso de ir adaptándonos todos, y, por lo tanto, no va a haber mucho margen.
Están muy definidos al mal uso de la Inteligencia Artificial, y por eso el proyecto se llama Anteproyecto de Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial. Estamos hablando de prevenir posibles casos de salud muy graves, como se han dado, con muertes o, por ejemplo, sistemas de IA que puedan llevar a un joven que tiene cierta facilidad por el juego a llegar a una enfermedad como puede ser la ludopatía. Desde la Agencia Española de Supervisión vamos a seguir las pautas del Reglamento.
Hablando precisamente de la Agencia Española. ¿Está ya preparada para afrontar este reto o aún tienen que llegar recursos? La tarea, desde luego, es ardua.
Yo creo que el ejercicio que hemos hecho de innovación, poniendo en marcha una Agencia tan pronto, haciendo un proceso de selección de los directivos de forma tan rápida, creo que es ejemplar y que nos podemos sentir orgullosos de ello.
La Agencia está creciendo a una velocidad adecuada, en tanto en cuanto ese crecimiento responde a las obligaciones. Yo lo que puedo asegurar es que en cada hito que marca el Reglamento, la Agencia está absolutamente preparada y lo va a estar. El otro día pudimos inaugurarla presencialmente, aunque estaban trabajando desde el principio, en una sede que, aunque es temporal, está perfectamente habilitada en Coruña.
Ahora sale otra convocatoria de empleo público para los próximos diez empleos, que serán también muy rápidos, y en el Consejo Rector que celebramos en Coruña, aprobamos todos los convenios necesarios para seguir avanzando y un plan de alfabetización, que es tan importante, por el que en los próximos meses habrá una ruta por toda España dando a conocer el proyecto de ley y todos los recursos, como puede ser la guía de sistemas prohibidos. Es importante ir junto con el sector, pero también con la sociedad civil que le preocupa un poco qué está pasando con lo que supone esta revolución digital que es la IA.
La Agencia está creciendo a una velocidad adecuada. Está preparada.
Dentro de esta revolución, un poco la luz que guía es la Estrategia Nacional de IA. ¿En qué punto está?
Lo que está haciendo la Estrategia de Inteligencia Artificial es sembrar. Precisamente, el ministro [Óscar López] presentó el martes en el Consejo de Ministros un informe sobre la implementación de la IA. La última versión de la Estrategia de IA fue de mayo, que hace muy pocos meses, y tengo el orgullo de decir que vamos alcanzando hitos en las palancas más importantes de forma muy eficaz.
Hemos impulsado la capacidad de supercomputación de este país, que es uno de los mayores retos que puede tener el crecimiento, la implantación de la Inteligencia Artificial. Ser una de las siete fábricas de inteligencia artificial de Europa ni es casualidad ni es baladí. Al final, tenemos el Centro Nacional de Supercomputación, el Barcelona Supercomputing Center, pero si no hubiéramos invertido casi 62 millones de euros desde el Gobierno de España, si no hubiéramos hecho un trabajo conjunto, el BSC, el Gobierno, distintos ministerios, con otros países como Portugal o Turquía, no tendríamos la posibilidad de decir que somos uno de los siete en Europa que va a conseguir, gracias a esta fábrica de IA, mejorar nuestra capacidad de supercomputación, pero, sobre todo, que la va a hacer accesible y la va a democratizar, va a ser accesible a las pequeñas y medianas empresas y a los emprendedores de este país.
Las medidas en talento, el impulso de los propios derechos digitales, el impulso del modelo de IA con ALIA y los casos de uso… Pero para mí, lo más importante es algo que yo creo que define a toda la IA: democratizarla y tener las suficientes capacidades en este país para ser potentes. Y eso es capacidad de supercomputación, eso es soberanía digital con nuestro modelo, eso es aplicación a la Administración Pública, pero es también muchísima inversión y proyectos en talento, en el sector privado, directamente inversión en pequeñas y medianas empresas, en la capacidad de inversión que tiene la SETT (Sociedad Española para la Transformación Tecnológica), que son 16.000 millones de euros que movilizarán la misma cantidad de inversión. En definitiva, es una estrategia de IA que no solo está diseñada para que España pueda desarrollar todas sus potencialidades, sino que está siendo ejecutada de forma muy eficaz.
Ha citado ALIA. ¿Puede competir este sistema con otros modelos de IA como ChatGPT o Deepseek? ¿Qué aplicaciones puede tener para las pymes?
Entender lo que significa ALIA es muy importante porque es lo que le da sentido. ALIA es uno de los primeros modelos públicos en el mundo, el primero que es abierto, transparente, que ha sido verificado por el propio Reglamento de la IA, que eso es un valor para las empresas, y que, además, tiene un 20% de sus datos, de su pensamiento en castellano y lenguas cooficiales.
¿Pretendemos ser competitivos con las grandes empresas? Obviamente no. ¿Qué pretendemos? Tener una capacidad que te da unos recursos lingüísticos sin precedentes. Por eso, ALIA ya es útil para las pymes. Sobre todo ya es útil para los desarrolladores, para los emprendedores. Con ellos es con quienes vamos a seguir trabajando y mejorando los modelos.
«ALIA ya es útil para las pymes. Sobre todo ya es útil para los desarrolladores, para los emprendedores».
ALIA es una familia, no es un modelo solo. Ya hay subidas en la plataforma los dos primeros modelos, que aunque se llamaban Salamandra, son también modelos ALIA. Cuando hicimos el anuncio es porque habíamos subido el 40B, que todavía tiene que ser instruido. Estos modelos que ya están subidos se acompañan, además, de Dataset. Para promover la Inteligencia Artificial en castellano y en lenguas cooficiales, es tan importante subir los datos y generar que esos modelos sean abiertos y que todo el mundo, como digo yo, pueda cacharrear, tunearlos y volverlos a subir, que por eso en el Mobile World Congress anunciamos en el marco del Talent Arena, un formato nuevo, que es la primera comunidad de IA abierta en español. Tendrá una convocatoria pública y lo que va a permitir es fomentar el uso y el desarrollo de los modelos ALIA para determinados usos, para que nuestro talento pueda tener mayor know-how que nos permita tener esa soberanía tecnológica tan importante.
ALIA tiene otro elemento de utilidad muy importante que son los casos de uso para la Administración. Ya hay dos casos de uso que están en marcha, uno se llama Cardiomentor, está elaborado con la Asociación de Cardiólogos y su objetivo es mejorar la capacidad de diagnóstico y prevención de enfermedades cardiovasculares. Y el otro, con la Agencia Tributaria, que esto sí que será un sistema más tipo chatbot, porque todo el mundo piensa que la IA es un chatbot, pero la IA generativa, lo más importante que está haciendo es ser capaz de adelantarnos en años de investigación científica. En el caso de la Agencia Tributaria, pretende mejorar el trabajo entre los propios funcionarios para con el ciudadano.
Además, tenemos un laboratorio que se llama GobTechLab, en el que estamos trabajando con todos los ministerios del Gobierno y también valorando la posibilidad de hacer casos de uso con otras Administraciones, para que ALIA en la utilización de casos de uso en la Administración.
¿Esperamos, por tanto, que la IA llegue a otros Ministerios o aún es temprano?
Sí, en el laboratorio que tenemos ya en marcha, los casos de uso que estamos valorando son de todos los ministerios. Todavía lo que no podemos saber es cuáles van a salir y cuáles no. Estamos aprendiendo en la IA y estamos en ese punto de evaluación.
Antes ha mencionado la gobernanza como un elemento nuclear tanto del Reglamento como del Proyecto de Ley. ¿Cómo han dotado los trabajos de una línea humanista? ¿Cómo se equilibra la balanza entre garantizar la innovación pero también los derechos civiles, digitales y humanos?
El propio proyecto de ley, pero el Reglamento en sí también, es esa garantía de que los derechos, sobre todo los fundamentales, los que tienen que ver con la salud, están protegidos.
El propio proyecto de ley desarrolla esa parte, pero para mí es casi más importante todas las labores que estamos haciendo con la Carta de Derechos Digitales, donde fuimos pioneros en el país, pero ha sido inspiradora para la Carta Iberoamericana y para todos los trabajos de Naciones Unidas, de la UNESCO, de la OCDE.
Hace muy poco pusimos en marcha el Observatorio de Derechos Digitales, es el primero en el mundo. Lo hemos dotado de recursos, nace además del convenio con distintas entidades muy relevantes y que llevan muchísimo tiempo estudiando los distintos aspectos que se pueden ver alterados, sobre los aspectos en los que habría que hacer un cambio regulatorio o no. Tenemos una firme convicción de una tecnología humanista, pero eso no se reduce solo a que, por supuesto, no podamos permitir sistemas a los que hemos llamado prohibidos, porque atentan contra tu libertad, o contra la protección de los menores, en el caso de la utilización de imágenes o de deepfakes con contenido sexual, por ejemplo, como recoge el hablo de menores, eso para mí va de base; pero además de eso, España está haciendo un despliegue de inversión, de proyectos de tecnología tech for good que es espectacular.
En el Mobile World Congress vimos como la Fundación ONCE presentaba un informe que demuestra que la IA reduce el aislamiento en los casos de soledad no deseada. Y además, para mí lo más bonito del informe fue que no suple el cariño humano, que no es algo que sustituye al humano, sino que mejora la calidad de vida en esos momentos, en las situaciones cuando estás solo.
Esto es solo un ejemplo, pero en todo lo que tiene que ver con salud, la eficacia del Sistema Nacional de Salud gracias a la gran inversión que estamos haciendo, 223 millones de euros que está gestionando Red junto con el Ministerio de Sanidad, para las comunidades autónomas, en aplicación de la IA, en eficiencia del sistema, en mejora de diagnósticos, eso se traduce en que tenemos empresas, que además son potenciales unicornios.
Otro ejemplo es un chaleco con muchísimos sensores de IA que te permiten ver el corazón en tiempo real. Mejora la eficiencia económica y la capacidad de predecir enfermedades cardiovasculares.
En definitiva, para el Gobierno de España es importante proteger a la ciudadanía en aquellos aspectos en los que la irrupción de la IA genera una controversia de derechos fundamentales, derechos de autor, o todo lo que tiene que ver con desinformación e implantación por la democracia.
Hub Audiovisual
Cambiando el tercio, el Gobierno se ha fijado como objetivo erguir a España como una suerte de hub audiovisual. ¿Cuál es la hoja de ruta?
Se visualizaron oportunidades y se fue ambicioso. En la agenda España Digital se ubicó el Plan Hub audiovisual de Europa, que ha tenido una fase muy clara con subvenciones directas de 1.600 millones de euros, pero con una implicación hasta 13 ministerios. Hemos facilitado visados, hemos mejorado incentivos fiscales, hemos puesto en marcha toda una política de centralización por medio del Audiovisual Bureau gracias a la colaboración con el ICEX y una potencial presencia internacional que nos ha permitido ser país invitado en Cannes.
Se marcó un objetivo, que es ser ese hub audiovisual, aumentar la producción audiovisual; y se ha cumplido. España hoy es el modelo a seguir. El sector vive un momento dulce, en el que desde toda Europa se mira al modelo español. Se mira a la inversión en España y por eso nos ha parecido tan importante continuar con ese plan.
«Se marcó un objetivo, que es ser ese hub audiovisual, aumentar la producción audiovisual; y se ha cumplido. España hoy es el modelo a seguir».
Ahora se está continuando con una segunda fase, digamos. Está el Fondo Spain Audiovisual Hub, que es uno de los tres fondos que tiene la Sociedad Española para la Transformación Tecnológica. A mí me gustaría parar aquí un segundo para pedirle a todas las empresas de este país, grandes, pequeñas, en rondas de inversión, por ambiciosas que sean, para decirles que, por primera vez, en España hay una empresa pública, con potestades administrativas, con 16.000 millones de euros para capitalizar empresas, para préstamos en mejores condiciones que en el mercado, que pretende tener capacidades en el sector del ámbito electrónico, invertir en Deep Tech, en inteligencia artificial, en todas estas tecnologías disruptivas, pero también está el Fondo Español Audiovisual Hub, que son 1.700 millones de euros, que es una oportunidad para el sector y también una fórmula para generar sostenibilidad después de esa inyección que supuso la primera parte del plan.
Tecnologías Cuánticas
Por último, España está trabajando en su Estrategia Nacional de Tecnologías Cuánticas. ¿Qué nos puede adelantar? ¿Cuándo verá la luz?
Vemos con claridad, y muy alineados también con la Comisión Europea, que este es el año de las tecnologías cuánticas y que España tiene capacidades, que tenemos que potenciarlas y generar sinergias para estrechar ese gap, ese hueco que hay entre la comunidad científica y el mercado.
Hemos arrancado con un proceso participativo. Tuvimos una mesa en el Ministerio en la que estamos colaborando distintos ministerios, sobre todo Ciencia y Defensa. Tardaremos aproximadamente un par meses en elaborarla. Hay que repensar cuáles son los ejes clave, cuáles son las verticales más importantes para que España pueda jugar un buen papel en todo lo que se está decidiendo en tecnologías cuánticas, desde sensores hasta comunicaciones, pasando por metrología.
Esperamos poder presentar un documento ambicioso, contando con todos los elementos clave y también con las distintas comunidades autónomas, porque tenemos referencias territoriales muy importantes como Galicia, Asturias o por supuesto Euskadi, que es una gran referencia en cuántica.
Además en esta Secretaría de Estado, en el Ministerio, hemos invertido 22 millones de euros en el proyecto Quantum y tenemos una super capacidad. Hace poco pudimos inaugurar el primer ordenador cuántico ubicado en la capilla del Centro Nacional de Supercomputación.
El ordenador cuántico fueron ocho millones. Es tecnología 100% europea. Al final, estamos en una estrategia europea de soberanía y esa aportación que hace España por este ordenador cuántico es muy relevante.
Puede consultar la entrevista completa a María González Veracruz, secretaria de Estado de Digitalización e IA, en el siguiente enlace.
