Progreso, evolución, desarrollo, pero con límites. Con control. La inteligencia artificial ha abierto un nuevo escenario en el que el desarrollo tecnológico avanza al mismo tiempo que crece el debate sobre cómo supervisarlo. Si hace apenas unos años la atención se centraba en el potencial de estos sistemas, el foco se desplaza ahora hacia la gobernanza: quién establece las reglas, cómo se aplican y qué mecanismos permiten comprobar que los modelos más avanzados funcionan dentro de unos límites seguros.
El desafío no termina con la aprobación de un marco regulatorio. La implantación de la inteligencia artificial en empresas y organizaciones obliga a convertir principios como la transparencia, la supervisión humana o la gestión de riesgos en procedimientos concretos que puedan aplicarse de forma efectiva en el uso diario de estos sistemas.
De las normas a la aplicación cotidiana
Esa transición desde la regulación hacia la práctica constituye una de las principales conclusiones del informe presentado este mes de julio por el Lab de Gobernanza de IA para la Humanidad de Naciones Unidas durante la Convención de Ginebra, un documento en cuya elaboración también ha participado DigitalES aportando la visión de la industria tecnológica española.
El informe sostiene que la gobernanza comienza realmente cuando las organizaciones incorporan esas reglas a su actividad diaria. La aplicación de criterios sobre transparencia, seguridad o explicabilidad deja de ser una declaración de principios para convertirse en decisiones operativas: evaluar riesgos antes del despliegue de un sistema, definir responsabilidades durante todo su ciclo de vida o establecer mecanismos que permitan comprender cómo actúa un modelo.
Lejos de plantear un único esquema válido para cualquier organización, el documento subraya que esos principios pueden adaptarse a realidades muy distintas. Las necesidades de una empresa especializada en inteligencia artificial difieren de las de una compañía industrial que incorpora estas herramientas a sus procesos, del mismo modo que los retos cambian según el contexto económico o geográfico en el que operan.
El papel de las empresas en la gobernanza
El informe atribuye a las empresas un papel decisivo en esa evolución. Cada implantación de inteligencia artificial, cada nuevo caso de uso y cada experiencia práctica generan conocimiento que permite perfeccionar los modelos de gobernanza y consolidar nuevas buenas prácticas.
La idea es que la regulación y la experiencia avancen de forma paralela. Mientras las normas proporcionan un marco de actuación, la aplicación cotidiana permite detectar nuevos desafíos y perfeccionar las herramientas con las que se supervisan estos sistemas.
Noticia destacada
El nuevo mapa del empleo tecnológico: las ciudades que ganan peso más allá de Madrid y Barcelona
3 minutos
También pone el acento en la dimensión colectiva del proceso. La gobernanza no depende únicamente de quien desarrolla un modelo, sino que involucra a proveedores tecnológicos, integradores, clientes y usuarios finales. En consecuencia, la responsabilidad debe distribuirse entre todos los actores que participan en el ciclo de vida de los sistemas de inteligencia artificial.
En ese contexto, la contratación pública y privada adquiere un peso creciente. La incorporación de requisitos relacionados con la transparencia, la evaluación de riesgos o la trazabilidad en los procesos de compra puede extender esos estándares al conjunto de la cadena de valor y favorecer una adopción más homogénea de las buenas prácticas.
El desafío de supervisar sistemas cada vez más autónomos
La evolución de la inteligencia artificial añade un nuevo elemento al debate. Frente a modelos que podían evaluarse antes de su lanzamiento, los sistemas más recientes son capaces de aprender, interactuar con su entorno y ejecutar tareas con un mayor grado de autonomía.
El informe señala que este cambio obliga a sustituir un modelo basado únicamente en certificaciones previas por otro que incorpore mecanismos de supervisión continuada. No plantea los mismos riesgos un asistente que redacta un borrador de correo que un sistema capaz de enviar ese mensaje, ejecutar una operación o tomar decisiones sin intervención humana inmediata.
Por ello, algunas organizaciones ya están desarrollando controles adaptados al tipo de actuaciones que realiza cada sistema, diferenciando entre acciones reversibles y aquellas que requieren niveles más elevados de supervisión.
La propuesta de un supervisor internacional
La necesidad de reforzar esos mecanismos de control también aparece en la propuesta planteada por Demis Hassabis, consejero delegado de Google DeepMind y premio Nobel de Química en 2024.
En un ensayo titulado A Framework for Frontier AI and the Dawning of a New Age, Hassabis defiende la creación de un organismo internacional encargado de someter a pruebas independientes los modelos de inteligencia artificial más avanzados antes de que lleguen al mercado.
Noticia destacada
La inteligencia artificial entra en defensa: el reto de proteger, decidir y mantener el control
6 minutos
Su planteamiento contempla evaluar los llamados modelos de frontera para detectar posibles riesgos relacionados con la ciberseguridad, el desarrollo de armas biológicas o la capacidad de actuar de manera autónoma. Si un sistema no superara esas pruebas, el organismo tendría capacidad para retrasar o impedir su despliegue.
La propuesta plantea una estructura inspirada en la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA): una entidad financiada por la industria, pero con autonomía técnica para realizar evaluaciones independientes.
Según Hassabis, la puesta en marcha debería comenzar con la participación voluntaria de los principales laboratorios de inteligencia artificial, con el objetivo de evolucionar posteriormente hacia un modelo basado en normas compartidas y de aplicación obligatoria. El responsable de Google DeepMind considera además que ese organismo debería estar operativo antes de que finalice 2026.
Los peligros de una IA sin mecanismos de control
¿Y si no se regula la inteligencia artificial? Entre las principales amenazas figuran capacidades relacionadas con la ciberseguridad, el posible desarrollo de armas biológicas o la ejecución autónoma de determinadas acciones sin intervención humana inmediata.
Tanto el informe presentado por el Lab de Gobernanza de IA para la Humanidad de Naciones Unidas como la propuesta defendida por Demis Hassabis coinciden en que esos riesgos exigen mecanismos capaces de identificar amenazas antes del despliegue de los sistemas y mantener controles adaptados a su evolución. El objetivo es reducir el impacto de posibles incidentes en una tecnología cuyo grado de autonomía no deja de aumentar.
La carrera hacia una inteligencia artificial cuasi humana
Uno de los factores que está acelerando el debate regulatorio es la rapidez con la que evolucionan los sistemas de inteligencia artificial. Demis Hassabis sostiene que la aparición de una inteligencia artificial general, capaz de igualar o superar numerosas capacidades cognitivas humanas, podría producirse en los próximos años.
Aunque también incide en que todavía existe una ventana de tiempo para establecer mecanismos eficaces de supervisión antes de que esos modelos alcancen ese nivel de desarrollo. A su juicio, el potencial de esta tecnología para impulsar avances en ámbitos como la medicina o la energía convive con riesgos que exigen evaluaciones independientes antes de su despliegue.
Si esa previsión se cumple, el debate dejará de centrarse únicamente en la capacidad técnica de los nuevos modelos para trasladarse también a su impacto económico, político y social. De ahí que cada vez más voces defiendan la necesidad de preparar mecanismos de control antes de que esa nueva generación de sistemas llegue al mercado.