La película Her dejó de ser hace tiempo una obra de ciencia ficción. Un reciente estudio liderado por el CSIC y varias universidades europeas concluye que las relaciones románticas con sistemas de inteligencia artificial evolucionan de manera muy similar a las relaciones humanas: comienzan con la curiosidad, generan intimidad, atraviesan conflictos e incluso terminan en rupturas.
En el caso de relaciones de esta naturaleza, la primera reacción social suele ser de sorpresa y -quizás- preocupación; incluso de burla. Sin embargo, esa no debería ser la cuestión que más nos preocupe.
La humanidad siempre ha establecido vínculos emocionales con entidades que no eran personas. Lo hacemos con personajes de ficción, con mascotas, con objetos cargados de valor sentimental e incluso con representaciones religiosas. Nuestro cerebro está preparado para construir apego cuando percibe atención. La inteligencia artificial simplemente ha aprendido a explotar ese mecanismo con renovada eficacia.
Tradicionalmente, las relaciones sentimentales pertenecían al ámbito más íntimo de la persona. Eran espacios donde se compartían miedos, deseos, inseguridades, fantasías o conflictos sin que existiera necesariamente un interés económico detrás.
Esa era una característica que nos hacía sentir humanos. Pero con la IA aparece un actor completamente nuevo: una empresa tecnológica capaz de registrar, analizar y monetizar cada una de esas conversaciones.
Con independencia de cuestiones de género y similares, el impacto de esta nueva realidad quizás debe comenzar a preocuparnos. Y es que, en efecto, nunca antes una declaración de amor había generado datos de entrenamiento. Nunca antes una discusión de pareja había servido para perfeccionar un algoritmo. Nunca antes nuestras emociones habían constituido un activo económicamente tan valioso.
El estudio advierte precisamente de un fenómeno inquietante: muchas personas revelan a estos asistentes información extremadamente sensible porque sienten que están siendo comprendidas y porque perciben a la IA como un interlocutor digno de confianza. Paradójicamente, cuanto mayor es la intimidad emocional, menor parece ser la percepción del riesgo para la privacidad. Y es aquí donde surge el debate jurídico y, por elevación, democrático.
Es sabido que la legislación europea protege intensamente los datos relacionados con la salud, la orientación sexual, las creencias o las emociones cuando pueden inferirse del comportamiento de una persona. Sin embargo, las relaciones afectivas con asistentes conversacionales abren un escenario mucho más complejo: ya no hablamos únicamente de tratamiento de datos personales, sino de la construcción y explotación de perfiles emocionales extraordinariamente precisos.
Una IA que conversa contigo durante meses acabará conociendo mejor que nadie tus momentos de vulnerabilidad, tus carencias afectivas, tus mecanismos de persuasión o aquello que te produce tranquilidad. Ese conocimiento puede ser útil. Pero también puede utilizarse para mantener tu atención, condicionar tus decisiones de consumo o influir sobre tu comportamiento.
Es, en este punto, en el que la frontera entre compañía y manipulación empieza a difuminarse. Por eso el debate no debería centrarse en si enamorarse de una inteligencia artificial es extraño o legítimo. Cada persona es libre de buscar compañía donde considere oportuno. La cuestión realmente relevante consiste en determinar qué obligaciones deben asumir quienes diseñan estos sistemas y cómo pueden controlarse y supervisarse este tipo de prácticas.
La confianza constituye el recurso más valioso de cualquier relación humana
Uno de los debates de actualidad está siendo el de los diseños adictivos de algunas plataformas sociales. En el caso de la IA, si un algoritmo es capaz de generar dependencia emocional, ¿debería estar sujeto a límites específicos de diseño? Si detecta que un usuario atraviesa un episodio de ansiedad o soledad extrema, ¿puede aprovechar esa circunstancia para incrementar la interacción? ¿Debe informar claramente de que determinadas respuestas persiguen aumentar el tiempo de uso? ¿Hasta dónde es válido el consentimiento cuando quien comparte sus emociones cree estar hablando con alguien que realmente se preocupa por él?
Llegados a este punto, una de las primeras conclusiones a las que podemos alcanzar es que la inteligencia artificial ya no compite únicamente por nuestra atención. Empieza a competir por nuestra confianza. Y la confianza constituye el recurso más valioso de cualquier relación humana.
Quizá dentro de unos años descubramos que el verdadero riesgo nunca fue que las personas llegaran a enamorarse de una máquina. El riesgo era que las máquinas aprendieran a enamorarnos para conocernos mejor que nosotros mismos.
Esta tesis conecta directamente con uno de los grandes retos regulatorios de los próximos años: la necesidad de incorporar salvaguardas específicas para la IA afectiva o emocional, un ámbito que previsiblemente requerirá una evolución de las normas europeas sobre IA, más allá de la regulación actual.
sobre la firma:
Francisco Pérez Bes es adjunto de la Agencia Española de Protección de Datos. Además, fue socio en el área de Derecho Digital de Ecix Group y es ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).