Le film Her a cessé d'être depuis longtemps une œuvre de science-fiction. Une étude récente dirigée par le CSIC et plusieurs universités européennes conclut que les relations romantiques avec des systèmes d'intelligence artificielle évoluent de manière très similaire aux relations humaines : elles commencent par la curiosité, génèrent de l'intimité, traversent des conflits et se terminent même par des ruptures.
Dans le cas de relations de cette nature, la première réaction sociale est souvent de surprise et -peut-être- de préoccupation ; voire de moquerie. Cependant, cela ne devrait pas être la question qui nous préoccupe le plus.
L'humanité a toujours établi des liens émotionnels avec des entités qui n'étaient pas des personnes. Nous le faisons avec des personnages de fiction, avec des animaux de compagnie, avec des objets chargés de valeur sentimentale et même avec des représentations religieuses. Notre cerveau est préparé à construire un attachement lorsqu'il perçoit de l'attention. L'intelligence artificielle a simplement appris à exploiter ce mécanisme avec une efficacité renouvelée.
Traditionnellement, les relations sentimentales appartenaient au domaine le plus intime de la personne. C'étaient des espaces où l'on partageait des peurs, des désirs, des insécurités, des fantasmes ou des conflits sans qu'il y ait nécessairement un intérêt économique derrière.
C'était une caractéristique qui nous faisait sentir humains. Mais avec l'IA apparaît un acteur complètement nouveau : une entreprise technologique capable d'enregistrer, d'analyser et de monétiser chacune de ces conversations.
Indépendamment des questions de genre et similaires, l'impact de cette nouvelle réalité devrait peut-être commencer à nous préoccuper. Et en effet, jamais auparavant une déclaration d'amour n'avait généré de données d'entraînement. Jamais auparavant une discussion de couple n'avait servi à perfectionner un algorithme. Jamais auparavant nos émotions n'avaient constitué un actif économiquement si précieux.
L'étude avertit précisément d'un phénomène inquiétant : de nombreuses personnes révèlent à ces assistants des informations extrêmement sensibles parce qu'elles sentent qu'elles sont comprises et parce qu'elles perçoivent l'IA comme un interlocuteur de confiance. Paradoxalement, plus l'intimité émotionnelle est grande, moins la perception du risque pour la vie privée semble élevée. Et c'est ici que surgit le débat juridique et, par élévation, démocratique.
Il est bien connu que la législation européenne protège intensément les données liées à la santé, à l'orientation sexuelle, aux croyances ou aux émotions lorsqu'elles peuvent être déduites du comportement d'une personne. Cependant, les relations affectives avec des assistants conversationnels ouvrent un scénario beaucoup plus complexe : nous ne parlons plus uniquement de traitement de données personnelles, mais de la construction et de l'exploitation de profils émotionnels extraordinairement précis.
Une IA qui converse avec toi pendant des mois finira par connaître mieux que quiconque tes moments de vulnérabilité, tes carences affectives, tes mécanismes de persuasion ou ce qui te produit de la tranquillité. Cette connaissance peut être utile. Mais elle peut aussi être utilisée pour maintenir ton attention, conditionner tes décisions de consommation ou influencer ton comportement.
C'est, à ce stade, que la frontière entre compagnie et manipulation commence à s'estomper. C'est pourquoi le débat ne devrait pas se concentrer sur le fait de tomber amoureux d'une intelligence artificielle est étrange ou légitime. Chaque personne est libre de chercher de la compagnie où elle le juge approprié. La question réellement pertinente consiste à déterminer quelles obligations doivent assumer ceux qui conçoivent ces systèmes et comment ce type de pratiques peut être contrôlé et supervisé.
La confiance constitue la ressource la plus précieuse de toute relation humaine
Un des débats d'actualité concerne les conceptions addictives de certaines plateformes sociales. Dans le cas de l'IA, si un algorithme est capable de générer une dépendance émotionnelle, devrait-il être soumis à des limites spécifiques de conception ? S'il détecte qu'un utilisateur traverse un épisode d'anxiété ou de solitude extrême, peut-il profiter de cette circonstance pour augmenter l'interaction ? Doit-il informer clairement que certaines réponses visent à augmenter le temps d'utilisation ? Jusqu'où le consentement est-il valide lorsque celui qui partage ses émotions pense parler à quelqu'un qui se soucie réellement de lui ?
Arrivés à ce point, une des premières conclusions que nous pouvons atteindre est que l'intelligence artificielle ne concurrence plus uniquement notre attention. Elle commence à concurrencer notre confiance. Et la confiance constitue la ressource la plus précieuse de toute relation humaine.
Peut-être que dans quelques années, nous découvrirons que le véritable risque n'a jamais été que les personnes tombent amoureuses d'une machine. Le risque était que les machines apprennent à nous faire tomber amoureux pour nous connaître mieux que nous-mêmes.
Cette thèse se connecte directement à l'un des grands défis réglementaires des prochaines années : la nécessité d'incorporer des sauvegardes spécifiques pour l'IA affective ou émotionnelle, un domaine qui nécessitera vraisemblablement une évolution des normes européennes sur l'IA, au-delà de la réglementation actuelle.
sur la signature :
Francisco Pérez Bes est adjoint de l'Agence Espagnole de Protection des Données. De plus, il a été associé dans le domaine du Droit Numérique d'Ecix Group et est ancien Secrétaire Général de l'Institut National de Cybersécurité (INCIBE).