Este ha vuelto a ser un año trágico: inundaciones, incendios y accidentes parecen haberse convertido en situaciones habituales. Y, cuando se producen, cada vez son más los ciudadanos que aprovechan el potencial de la IA para informarse sobre la evolución y la magnitud de las catástrofes, especialmente en los primeros momentos.
En el caso de los incendios forestales de este verano, se pudo comprobar que, si dos personas preguntaban por el mismo incendio a dos sistemas de inteligencia artificial distintos, una obtenía una respuesta basada, principalmente, en informaciones publicadas en unos medios, mientras que la otra recibía un relato construido a partir de noticias de otros medios, con una línea editorial distinta.
Fuente: copilot
Ante las respuestas de distintas IA, los hechos pueden coincidir en lo esencial. Pero el contexto, el vocabulario, los detalles destacados e -incluso- la interpretación de las causas, son diferentes.
Esta situación nos enseña algo que no deberíamos olvidar: cuando preguntamos a una inteligencia artificial por un asunto de actualidad no estamos consultando una fuente neutral y universal. Estamos accediendo a una selección de contenidos a través de varias capas tecnológicas que, en gran medida, permanecen ocultas a nuestros ojos.
De hecho, según se explica en las condiciones de uso de estas herramientas (véase, por ejemplo, el OpenAI Help Center), cuando formulas una pregunta a la IA, el sistema no introduce necesariamente nuestra pregunta, de forma literal, en un buscador, sino que puede reformularla en una o varias consultas más específicas.
Así, por ejemplo, una consulta general sobre el reciente accidente del AVE puede convertirse en búsquedas como “accidente Urda última hora”, “evacuados accidente AVE” o “declaraciones Junta Castilla la Mancha”. Cada expresión devuelve resultados distintos porque, en el fondo, se favorece a unas fuentes frente a otras.
Después, intervienen los buscadores y sus criterios de clasificación. El momento en el que se realiza la consulta, la autoridad atribuida al dominio, la coincidencia con las keywords o términos de búsqueda utilizados, la ubicación geográfica del usuario o la popularidad de la página influyen en el orden, tal y como ocurre con los anuncios online y la influencia del SEO.
Otro factor tenido en cuenta por el algoritmo tiene que ver con las dificultades de accesibilidad técnica a la información. Así, por ejemplo, un medio con un muro de pago, una web difícil de rastrear o una noticia que todavía no ha sido indexada puede quedar -total o parcialmente- fuera de la respuesta que nos ofrezca, aunque tal información sea relevante a los efectos del usuario que formula la consulta.
Finalmente, el asistente seleccionará algunos resultados, procesará su contenido, y generará la respuesta que finalmente se nos presentará.
Fuente chatgpt
Todo este proceso se desarrolla en segundos. Y su resultado produce una ilusión en el usuario, quien recibe un texto único, claro y ordenado, aunque proceda de la selección de una pluralidad de fuentes. Así, el usuario para de ver una página de resultados con cientos de enlaces entre los que elegir, a recibir una única respuesta sintética, con apariencia de representar fielmente la realidad. Es, precisamente, aquí, donde surge el riesgo.
Efectivamente, en la práctica los medios no solo se limitan a informar de hechos, sino que también los seleccionan, jerarquizan y contextualizan. Por ejemplo, dos periódicos pueden coincidir en el número de hectáreas quemadas, pero pueden destacar aspectos diferentes: uno centrará la atención en la actuación de las administraciones; otro, en la falta de medios; un tercero, en el impacto sobre los vecinos; y un medio local aportará detalles, testimonios o antecedentes que no aparecen en las cabeceras nacionales.
A la vista de lo anterior, podemos concluir que el problema no consiste en que existan perspectivas diferentes. Antes al contrario, el pluralismo informativo es saludable y debe ser protegido, también en la IA. El verdadero riesgo aparece cuando el usuario desconoce que está recibiendo solo una versión.
Me explico: la inteligencia artificial puede convertir la selección parcial de noticias que convierte en su respuesta en un relato cerrado, sin explicar qué fuentes quedaron fuera, si existían versiones contradictorias o por qué concedió mayor peso a un medio concreto frente a otro u otros.
La situación se agrava en las noticias de última hora. Durante un incendio, un atentado, una crisis sanitaria o una catástrofe de cualquier tipo, la información cambia con rapidez. Las primeras noticias suelen contener cifras provisionales, atribuciones no confirmadas o declaraciones realizadas en un contexto de incertidumbre. Si el sistema mezcla publicaciones de horas distintas, puede presentar como simultáneos datos que ya han sido rectificados.
En este entorno tan complejo, la desinformación puede aparecer sin que nadie haya fabricado deliberadamente una noticia falsa. Basta con una fuente inicial equivocada y un sistema que sintetice el conjunto sin reconstruir o actualizar la cadena de procedencia.
Y llegados a este punto, la fluidez del texto generado hará el resto: cuanto mejor redactada esté la respuesta, más fácil será confundir narrativa con veracidad.
Si existe una solución a esta problemática, aquella no pasa por exigir que todos los sistemas utilicen las mismas fuentes. Eso empobrecería el pluralismo y podría concentrar todavía más el poder informativo, agudizando los sesgos y la parcialidad informativa.
Quizás sea necesario avanzar hacia una mayor transparencia sobre el proceso: qué consultas se han realizado, por qué se seleccionaron determinadas fuentes, cuál es la fecha y hora de cada información, si existen contradicciones y qué datos proceden de autoridades, testigos, agencias o medios. Ese proceso debe ser eminentemente técnico y debería exigirse su supervisión en pro de la neutralidad informativa y del derecho de la ciudadanía a recibir información puntual y veraz.
Los usuarios también debemos aprender a preguntar mejor. En asuntos sensibles conviene que nuestros prompts incluyan una solicitud expresa de que se prioricen fuentes primarias, tales como los servicios de emergencias, administraciones competentes, órganos judiciales, autoridades científicas o documentos oficiales.
Y, después, incorporar medios internacionales, nacionales y locales para aportar contexto y pluralidad. También puede ser recomendable pedir que el sistema distinga entre hechos confirmados, estimaciones y opiniones.
En el fondo, esta realidad hace recaer en el lector una responsabilidad difícil de asumir. Si -antes- el interesado debía elegir qué enlace abrir, ahora debe valorar cómo se ha construido la respuesta que recibimos de la IA. El cambio puede parecer pequeño, pero afecta profundamente a nuestra relación con la realidad, y a la inmediatez que esperamos al informarnos por canales digitales.
Tras usar distintas IA para informarnos de la actualidad de una catástrofe, podríamos llegar a la conclusión de que quizás debemos cambiar nuestra forma de leer las noticias. Y ser conscientes de que cada respuesta generada es también una selección editorial, aunque no tenga director, portada ni línea ideológica declarada.
Quizás, el riesgo a evitar no sea el que una inteligencia artificial cite a un medio u otro, sino que lleguemos a olvidar que, detrás de su voz aparentemente neutral, siempre hay fuentes elegidas y -sobre todo- fuentes silenciadas. Que el lector sepa cuál es este proceso podría ser la primera línea de defensa frente a la desinformación en la era de la IA.
sobre la firma:
Francisco Pérez Bes es adjunto de la Agencia Española de Protección de Datos. Además, fue socio en el área de Derecho Digital de Ecix Group y es ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).