QUIÉN ES QUIÉN
A MANO ALZADA
No tengo constancia de pronunciamientos emitidos por los principales líderes religiosos mundiales con respecto al tema de la Inteligencia Artificial.
Pero sí parece que el Papa Francisco es uno de los más activos a la hora de plantear cuestiones relevantes en torno a los aspectos éticos y sociológicos del impacto de la IA en el futuro de la humanidad.
La más reciente, la publicada el 1 de enero de 2024, durante la celebración de la 57ª Jornada Mundial de la Paz, es un escrito que lleva por título “Inteligencia artificial y paz”.
En este documento se alerta de que no podemos presumir a priori que el desarrollo de la IA aporte una contribución benéfica al futuro de la humanidad y a la paz entre los pueblos. No basta ni siquiera suponer de quien desarrolla algoritmos y tecnologías digitales, un compromiso de actuar de forma ética y responsable, añade.
La Iglesia Católica y la revolución digital
Esa parece ser una de las principales preocupaciones que dan pie a la publicación de dicho mensaje: la necesidad de dotar a la revolución tecnológica de sólidos fundamentos éticos, que la hagan sostenible y se conviertan en una fuente real de progreso.
El Papa Francisco es uno de los más activos a la hora de plantear cuestiones relevantes en torno a los aspectos éticos y sociológicos del impacto de la IA en el futuro de la humanidad
En este sentido, a juicio del líder de la Iglesia Católica tenemos el deber de orientar la búsqueda técnico-científica hacia la consecución de la paz y del bien común, y ponerla al servicio del desarrollo integral del hombre y de la comunidad:
La dignidad intrínseca de cada persona y la fraternidad que nos vincula como miembros de una única familia humana deben estar en la base del desarrollo de las nuevas tecnologías y servir como criterios indiscutibles para valorarlas antes de su uso, de modo que el progreso digital pueda realizarse en el respeto de la justicia y contribuir a la causa de la paz. Los desarrollos tecnológicos que no llevan a una mejora de la calidad de vida de toda la humanidad, sino que, por el contrario, agravan las desigualdades y los conflictos, no podrán ser considerados un verdadero progreso.
Parece referirse a lo que más adelante calificará como “algorética”, entendida como una necesidad de un diálogo interdisciplinar destinado a un desarrollo ético de los algoritmos.
Planificación ética de la IA
Este concepto incluye un diseño ético desde su propia planificación y concepción (ethic by design) hasta una incorporación de criterios éticos a lo largo de su evolución. En definitiva, estaría hablando de un enfoque basado en la planificación ética de cualquier solución de inteligencia artificial.
En línea con lo anterior, este documento considera que lograr efectos positivos para la humanidad a través de la inteligencia artificial sólo será posible si somos capaces de actuar de forma responsable y de respetar los valores humanos fundamentales como «la inclusión, la transparencia, la seguridad, la equidad, la privacidad y la responsabilidad».
A la vista de lo anterior, este documento dedica su apartado 5 a tratar lo que califica de “temas candentes para la ética”, donde identifica algunos puntos en los que, a juicio del Sumo Pontífice, el reto de la IA es especialmente relevante.
En particular, se refiere a aspectos tales como la discriminación, la vigilancia y control social, la dependencia tecnológica, la manipulación o la desigualdad. Pero también a su uso en el ámbito laboral, a los peligros del uso bélico de la IA, su impacto en la educación y en el derecho internacional.
Entre sus planteamientos, el Papa Francisco hace una llamada al uso responsable de esta tecnología, animando a su uso para promover lo que califica como “el desarrollo humano integral”. En particular, se refiere a que un uso adecuado de la IA podría introducir importantes innovaciones en la agricultura, la educación y la cultura, una mejora del nivel de vida de las naciones, y el crecimiento de la fraternidad humana y de la amistad social.
El modo en que usemos la inteligencia artificial para incluir a los más débiles y necesitados, es la medida que revelará nuestra humanidad
Con respecto a la formación y capacitación en el manejo de esta tecnología, a la que se dedica un apartado específico, se destaca que la educación en el uso de la inteligencia artificial debería centrarse, sobre todo, en promover el pensamiento crítico.
La importancia de instituciones educativas y científicas
A tales efectos, afirma, las escuelas, las universidades y las sociedades científicas deberán jugar un papel protagonista en la enseñanza de los aspectos sociales y éticos del desarrollo y el uso de la tecnología.
Con el objeto de lograr una coordinación adecuada en el uso de la IA por parte de los distintos países, el Papa Francisco exhorta a la comunidad internacional a adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas, no sólo para prevenir las malas prácticas, sino también para estimular planteamientos nuevos y creativos y facilitar iniciativas personales y colectivas.
El Papa Francisco incide en la necesidad de lograr modelos normativos que puedan proporcionar una guía ética a quienes desarrollan tecnologías digitales
En cuanto a su regulación, Francisco también incide en la necesidad de lograr modelos normativos que puedan proporcionar una guía ética a quienes desarrollan tecnologías digitales, al objeto de que les permitan identificar los valores humanos que deberían estar en la base del compromiso de las sociedades a la hora de elaborar y aplicar los marcos legislativos necesarios.
Además, considera que tales orientaciones éticas para el uso de inteligencia artificial no pueden prescindir de la consideración de cuestiones más profundas, relacionadas con el significado de la existencia humana, la tutela de los derechos humanos fundamentales y la búsqueda de la justicia y de la paz.
Se trata, en definitiva, concluye el Papa, de que nos demos cuenta de que estamos ante una valiosa ocasión para reflexionar acerca del rol que la tecnología debería jugar en nuestra vida personal y comunitaria, y sobre cómo su uso podría contribuir a la creación de un mundo más justo y humano.
El ser humano, en efecto, mortal por definición, pensando en sobrepasar todo límite gracias a la técnica, corre el riesgo, en la obsesión de querer controlarlo todo, de perder el control de sí mismo, y en la búsqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnológica.
Decía nuestro reputado genetista Ángel Carracedo: “me preocupa más cómo será la sociedad del futuro que cómo será la ciencia”. Y es que, en efecto, seremos nosotros los que debamos modular el avance de la tecnología no sólo teniendo en cuenta lo que podrá llegar a hacer, sino, sobre todo, lo que debería poder hacer.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).
