La inteligencia artificial ha aterrizado de lleno esta semana en la Asamblea General de Naciones Unidas, que ha congregado desde este pasado miércoles a los líderes mundiales en su sede en Nueva York para intercmbiar impresiones sobre las preocupaciones, retos y horizonte de los Estados. Sin embargo, el debate sobre su uso ha escalado. Ya no se habla del qué sino de quién y cómo debe establecer sus límites.
El presidente del Consejo Europeo, António Costa, ha llevado este jueves ese debate al pleno de Naciones Unidas con una defensa explícita de una gobernanza internacional de la IA. "La industria de la IA no puede estar regulada por unas pocas grandes empresas", ha advertido,
Y aunque su lectura es compartida entre muchos líderes, no es unánime. Costa ha pronunciado estas palabras apenas dos días después de que el presidente estadounidense, Donald Trump, rechazara ante la misma Asamblea cualquier intento de crear un sistema global de control de esta tecnología.
Y sobre esa arena, los líderes de la ONU echan un pulso para comprobar qué fórmula acabará imponiéndose en un escenario global en el que la IA apunta a ser una de las grandes protagonistas del plano tecnológico.
Noticia destacada
EEUU, Dinamarca y Groenlandia sellan un pacto para reforzar la presencia militar de Trump en el Ártico
4 minutos
Costa: "Debemos estar siempre al volante"
En la tarde de este jueves, Costa ha colocado la inteligencia artificial junto a la paz, la emergencia climática y la inseguridad económica entre los grandes desafíos que requieren una respuesta multilateral.
"Ningún país" puede regular por sí solo la inteligencia artificial, ha defendido el presidente del Consejo Europeo, que reclama una arquitectura "responsable, transparente y regulada".
Su planteamiento va directamente al reparto de poder que está generando la nueva tecnología. "Necesitamos una IA que sirva a la humanidad, no que la controle. Debemos estar siempre al volante", ha afirmado.
Costa ha reclamado establecer un ritmo "seguro" de innovación y desarrollo y ha rechazado que las propias compañías sean quienes determinen en solitario las reglas del sector. Para ello, apuesta por situar a Naciones Unidas en el centro de la elaboración de estándares internacionales a través del Pacto Digital Global, el Panel Científico Internacional Independiente sobre IA y el Diálogo Global sobre Gobernanza de la IA.
La intervención sitúa a la Unión Europea en uno de los lados del debate que ha atravesado la semana de la Asamblea General: cómo mantener la carrera tecnológica sin dejar su control exclusivamente en manos de los países y compañías capaces de desarrollar los modelos más potentes.
Trump rechaza un control mundial de la IA
La posición expresada por Costa contrasta con la defendida el martes por Donald Trump desde la misma tribuna.
El presidente estadounidense aseguró que Estados Unidos "rechaza cualquier intento de construir un esquema globalista de control" de la inteligencia artificial y sostuvo que no está dispuesto a frenar una tecnología cuyo impacto, a su juicio, será superior al de la Revolución Industrial.
"No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial", afirmó Trump, que incluso anunció que la Administración estadounidense comenzará a utilizar el término "superinteligencia" para referirse a la IA.
Noticia destacada
Delcy Rodríguez se aproxima a Pedro Sánchez en la ONU y le reclama mantener el diálogo sobre Venezuela
2 minutos
Washington no plantea, sin embargo, una ausencia completa de vigilancia. Trump señaló que su Gobierno seguirá de cerca al sector a través del Departamento de Justicia. La diferencia está en quién fija las reglas: la Casa Blanca rechaza que Naciones Unidas u otra institución supranacional construya un régimen regulatorio global.
Esa posición fue reiterada al día siguiente ante el Consejo de Seguridad por el asesor de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios. "No se puede gobernar una tecnología que no se entiende", señaló, defendiendo que Naciones Unidas se concentre en compartir buenas prácticas y aumentar las capacidades nacionales en lugar de establecer un sistema internacional de regulación.
Milei se alinea con Trump y promete no regular la IA "de manera preventiva"
La posición de Trump encontró un aliado explícito en Javier Milei, que este miércoles dedicó parte de su discurso ante la Asamblea General a cuestionar el control estatal sobre la inteligencia artificial. El presidente argentino sostuvo que, frente a los escenarios más pesimistas, la IA debe entenderse como una herramienta capaz de multiplicar la productividad y transformar la economía, la medicina, la educación y la propia gestión pública.
Milei rechazó que la prudencia frente a los riesgos de la tecnología desemboque automáticamente en más intervención pública. "Cuando escuchamos que el Estado debe controlar la inteligencia artificial", afirmó, conviene recordar que concederle ese poder supone también dar a funcionarios y burócratas capacidad para limitar "lo que los demás pueden crear".
Guterres alerta del poder que pasa de los gobiernos a las empresas
El secretario general de Naciones Unidas, António Guterres, había abierto la Asamblea General situando precisamente la cuestión del poder en el centro de su intervención.
Guterres alertó de una "extraordinaria transferencia de poder" desde los gobiernos hacia un reducido número de empresas privadas e individuos, cuya influencia alcanza ya la política, la economía, los flujos de información y el desarrollo tecnológico. También advirtió de que los seres humanos están comenzando a entregar capacidad de decisión a las propias máquinas.
Para el secretario general, el problema no es la tecnología en sí misma, sino "la tecnología sin rendición de cuentas", las capacidades sin supervisión y las decisiones sin transparencia.
Noticia destacada
Pezeshkian asegura que “defenderá con firmeza” la postura de Irán ante la Asamblea General de la ONU
3 minutos
Su propuesta pasa por avanzar hacia un marco multilateral de gestión de riesgos de la inteligencia artificial, acompañado de una supervisión independiente y de mecanismos comunes para compartir información, evaluar los sistemas y establecer salvaguardas.
"Las decisiones de vida o muerte nunca deben entregarse a las máquinas", ha advertido Guterres, que ha convertido la IA, junto con la paz, la desigualdad y el cambio climático, en uno de los cuatro grandes desafíos de poder que afronta la comunidad internacional.
Sánchez carga contra los "tecno-oligarcas"
España también ha utilizado la semana de Naciones Unidas para reclamar límites.
El presidente del Gobierno, Pedro Sánchez, participó el martes en un diálogo de alto nivel sobre inteligencia artificial y protección de los menores junto a líderes como Emmanuel Macron y Anthony Albanese. Allí advirtió de que "un pequeño grupo de tecno-oligarcas concentra poder y riqueza" y tiene capacidad para moldear valores y preferencias.
El presidente español sostuvo que las empresas deben responder por las consecuencias de sus productos y resumió su posición con una frase: "Un mundo digital sin reglas no es un espacio de juego; es una jungla sin ley".
Sánchez defendió una respuesta nacional y europea, pero también internacional, y reclamó cooperación entre gobiernos, organismos multilaterales, empresas, educadores y familias.
Su discurso incide especialmente en los menores, pero comparte con Costa y Guterres una misma cuestión de fondo, evitar que la capacidad para decidir las reglas de la nueva tecnología quede concentrada en las compañías que la desarrollan.
Las propias tecnológicas llevan la alarma al Consejo de Seguridad
La división resulta más compleja porque ni siquiera las grandes empresas tecnológicas mantienen una posición uniforme.
Este miércoles, los responsables de algunas de las principales compañías de IA comparecieron ante el Consejo de Seguridad de Naciones Unidas para advertir de los riesgos que puede generar una tecnología cada vez más potente.
El consejero delegado de Anthropic, Dario Amodei, afirmó que una IA mal gestionada podría convertirse en "un riesgo para la humanidad en su conjunto" y reclamó cooperación internacional. "Ningún líder, ninguna empresa y ninguna nación puede gestionar esto por sí sola", aseguró.
También Sam Altman, consejero delegado de OpenAI, defendió que las decisiones fundamentales no pueden tomarse únicamente dentro de los laboratorios tecnológicos.
"Si la IA debe ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios de San Francisco", sostuvo Altman ante el Consejo de Seguridad, reclamando que intervengan procesos democráticos y gobiernos responsables ante sus ciudadanos.
Sin embargo, la posición de ambos contrasta a su vez con otros responsables del sector. Mientras Amodei, Altman y Elon Musk han defendido algún tipo de coordinación para contener determinados riesgos, Mark Zuckerberg se ha inclinado por salvaguardas determinadas en mayor medida por el mercado y Jensen Huang, consejero delegado de Nvidia, ha rechazado la necesidad de nuevas regulaciones.
EEUU y China también chocan sobre quién pone las reglas
La gobernanza de la IA se superpone además a la competición tecnológica entre Estados Unidos y China, los dos países que concentran buena parte del desarrollo de los modelos más avanzados.
Mientras Washington rechaza un esquema internacional de regulación, el embajador chino ante Naciones Unidas, Fu Cong, defendió ante el Consejo de Seguridad la mejora continua de los marcos regulatorios, los mecanismos de emergencia y la cooperación transfronteriza.
Las diferencias no eliminan algunos puntos de coincidencia. Ambos reconocen el carácter estratégico de la inteligencia artificial y sus implicaciones para la seguridad, aunque divergen sobre hasta qué punto las reglas deben fijarse internacionalmente y qué instituciones deben hacerlo.
El debate adquiere todavía más peso mientras Trump y Xi Jinping mantienen en Washington una cumbre en la que la competición tecnológica y la inteligencia artificial figuran entre los asuntos de fondo de la relación bilateral.
La ONU busca un lugar en la carrera de la IA
Naciones Unidas intenta aprovechar este momento para consolidarse como foro de gobernanza de una tecnología cuyo desarrollo ha avanzado mucho más rápido que los acuerdos internacionales.
El organismo ya cuenta con el Pacto Digital Global, el Diálogo Global sobre Gobernanza de la IA y un Panel Científico Internacional Independiente, instrumentos que Costa y Guterres quieren utilizar como base para avanzar hacia estándares compartidos.
Pero la Asamblea General ha dejado patente que todavía existe una diferencia fundamental sobre el siguiente paso.