La pel·lícula Her va deixar de ser fa temps una obra de ciència ficció. Un recent estudi liderat pel CSIC i diverses universitats europees conclou que les relacions romàntiques amb sistemes d'intel·ligència artificial evolucionen de manera molt similar a les relacions humanes: comencen amb la curiositat, generen intimitat, atravessen conflictes i fins i tot acaben en ruptures.
En el cas de relacions d'aquesta naturalesa, la primera reacció social sol ser de sorpresa i -potser- preocupació; fins i tot de burla. No obstant això, aquesta no hauria de ser la qüestió que més ens preocupi.
La humanitat sempre ha establert vincles emocionals amb entitats que no eren persones. Ho fem amb personatges de ficció, amb mascotes, amb objectes carregats de valor sentimental i fins i tot amb representacions religioses. El nostre cervell està preparat per construir apego quan percep atenció. La intel·ligència artificial simplement ha après a explotar aquest mecanisme amb renovada eficàcia.
Tradicionalment, les relacions sentimentals pertanyien a l'àmbit més íntim de la persona. Eren espais on es compartien pors, desitjos, inseguretats, fantasies o conflictes sense que existís necessàriament un interès econòmic darrere.
Això era una característica que ens feia sentir humans. Però amb la IA apareix un actor completament nou: una empresa tecnològica capaç de registrar, analitzar i monetitzar cadascuna d'aquestes converses.
Amb independència de qüestions de gènere i similars, l'impacte d'aquesta nova realitat potser ha de començar a preocupar-nos. I és que, en efecte, mai abans una declaració d'amor havia generat dades d'entrenament. Mai abans una discussió de parella havia servit per perfeccionar un algoritme. Mai abans les nostres emocions havien constituït un actiu econòmicament tan valuós.
L'estudi adverteix precisament d'un fenomen inquietant: moltes persones revelen a aquests assistents informació extremadament sensible perquè senten que estan sent compreses i perquè perceben a la IA com un interlocutor digne de confiança. Paradoxalment, com més gran és la intimitat emocional, menor sembla ser la percepció del risc per a la privadesa. I és aquí on sorgeix el debat jurídic i, per elevació, democràtic.
És sabut que la legislació europea protegeix intensament les dades relacionades amb la salut, l'orientació sexual, les creences o les emocions quan poden inferir-se del comportament d'una persona. No obstant això, les relacions afectives amb assistents conversacionals obren un escenari molt més complex: ja no parlem únicament de tractament de dades personals, sinó de la construcció i explotació de perfils emocionals extraordinàriament precisos.
Una IA que conversa amb tu durant mesos acabarà coneixent millor que ningú els teus moments de vulnerabilitat, les teves carències afectives, els teus mecanismes de persuasió o allò que et produeix tranquil·litat. Aquest coneixement pot ser útil. Però també pot utilitzar-se per mantenir la teva atenció, condicionar les teves decisions de consum o influir sobre el teu comportament.
És, en aquest punt, en el qual la frontera entre companyia i manipulació comença a difuminar-se. Per això el debat no hauria de centrar-se en si enamorar-se d'una intel·ligència artificial és estrany o legítim. Cada persona és lliure de buscar companyia on consideri oportú. La qüestió realment rellevant consisteix a determinar quines obligacions han d'assumir qui dissenyen aquests sistemes i com poden controlar-se i supervisar-se aquest tipus de pràctiques.
La confiança constitueix el recurs més valuós de qualsevol relació humana
Un dels debats d'actualitat està sent el dels dissenys addictius d'algunes plataformes socials. En el cas de la IA, si un algoritme és capaç de generar dependència emocional, ¿hauria d'estar subjecte a límits específics de disseny? Si detecta que un usuari atravessa un episodi d'ansietat o solitud extrema, ¿pot aprofitar aquesta circumstància per incrementar la interacció? ¿Ha d'informar clarament que determinades respostes persegueixen augmentar el temps d'ús? ¿Fins a on és vàlid el consentiment quan qui comparteix les seves emocions creu estar parlant amb algú que realment es preocupa per ell?
Arribats a aquest punt, una de les primeres conclusions a les quals podem arribar és que la intel·ligència artificial ja no competeix únicament per la nostra atenció. Comença a competir per la nostra confiança. I la confiança constitueix el recurs més valuós de qualsevol relació humana.
Potser dins d'uns anys descobrirem que el veritable risc mai va ser que les persones arribessin a enamorar-se d'una màquina. El risc era que les màquines aprenguessin a enamorar-nos per conèixer-nos millor que nosaltres mateixos.
Aquesta tesi connecta directament amb un dels grans reptes regulatoris dels pròxims anys: la necessitat d'incorporar salvaguardes específiques per a la IA afectiva o emocional, un àmbit que previsiblement requerirà una evolució de les normes europees sobre IA, més enllà de la regulació actual.
sobre la firma:
Francisco Pérez Bes és adjunt de l'Agència Espanyola de Protecció de Dades. A més, va ser soci a l'àrea de Dret Digital d'Ecix Group i és ex Secretari General de l'Institut Nacional de Ciberseguretat (INCIBE).