Progrès, évolution, développement, mais avec des limites. Avec contrôle. L'intelligence artificielle a ouvert un nouveau scénario dans lequel le développement technologique avance en même temps que le débat sur la manière de le superviser grandit. Si il y a à peine quelques années l'attention se concentrait sur le potentiel de ces systèmes, le focus se déplace maintenant vers la gouvernance : qui établit les règles, comment elles sont appliquées et quels mécanismes permettent de vérifier que les modèles les plus avancés fonctionnent dans des limites sûres.
Le défi ne se termine pas avec l'approbation d'un cadre réglementaire. L'implantation de l'intelligence artificielle dans les entreprises et organisations oblige à transformer des principes comme la transparence, la supervision humaine ou la gestion des risques en procédures concrètes qui peuvent être appliquées de manière effective dans l'utilisation quotidienne de ces systèmes.
Des normes à l'application quotidienne
Cette transition de la réglementation vers la pratique constitue l'une des principales conclusions du rapport présenté ce mois de juillet par le Lab de Gouvernance de l'IA pour l'Humanité des Nations Unies lors de la Convention de Genève, un document dont l'élaboration a également impliqué DigitalES apportant la vision de l'industrie technologique espagnole.
Le rapport soutient que la gouvernance commence réellement lorsque les organisations intègrent ces règles dans leur activité quotidienne. L'application de critères sur transparence, sécurité ou explicabilité cesse d'être une déclaration de principes pour devenir des décisions opérationnelles : évaluer les risques avant le déploiement d'un système, définir les responsabilités tout au long de son cycle de vie ou établir des mécanismes qui permettent de comprendre comment un modèle agit.
Loin de proposer un unique schéma valable pour toute organisation, le document souligne que ces principes peuvent être adaptés à des réalités très différentes. Les besoins d'une entreprise spécialisée en intelligence artificielle diffèrent de ceux d'une entreprise industrielle qui intègre ces outils dans ses processus, de la même manière que les défis changent selon le contexte économique ou géographique dans lequel ils opèrent.
Le rôle des entreprises dans la gouvernance
Le rapport attribue aux entreprises un rôle décisif dans cette évolution. Chaque implantation d'intelligence artificielle, chaque nouveau cas d'utilisation et chaque expérience pratique génèrent des connaissances qui permettent de perfectionner les modèles de gouvernance et de consolider de nouvelles bonnes pratiques.
L'idée est que la réglementation et l'expérience avancent de manière parallèle. Alors que les normes fournissent un cadre d'action, l'application quotidienne permet de détecter de nouveaux défis et de perfectionner les outils avec lesquels ces systèmes sont supervisés.
Elle met également l'accent sur la dimension collective du processus. La gouvernance ne dépend pas uniquement de celui qui développe un modèle, mais implique des fournisseurs technologiques, des intégrateurs, des clients et des utilisateurs finaux. En conséquence, la responsabilité doit être répartie entre tous les acteurs qui participent au cycle de vie des systèmes d'intelligence artificielle.
Dans ce contexte, la passation de marchés publics et privés acquiert un poids croissant. L'incorporation de critères liés à la transparence, à l'évaluation des risques ou à la traçabilité dans les processus d'achat peut étendre ces normes à l'ensemble de la chaîne de valeur et favoriser une adoption plus homogène des bonnes pratiques.
Le défi de superviser des systèmes de plus en plus autonomes
L'évolution de l'intelligence artificielle ajoute un nouvel élément au débat. Face à des modèles qui pouvaient être évalués avant leur lancement, les systèmes les plus récents sont capables d'apprendre, d'interagir avec leur environnement et d'exécuter des tâches avec un plus grand degré d'autonomie.
Le rapport indique que ce changement oblige à remplacer un modèle basé uniquement sur des certifications préalables par un autre qui incorpore des mécanismes de supervision continue. Un assistant qui rédige un brouillon de courriel ne présente pas les mêmes risques qu'un système capable d'envoyer ce message, d'exécuter une opération ou de prendre des décisions sans intervention humaine immédiate.
Pour cette raison, certaines organisations développent déjà des contrôles adaptés au type d'actions réalisées par chaque système, différenciant entre actions réversibles et celles qui nécessitent des niveaux plus élevés de supervision.
La proposition d'un superviseur international
La nécessité de renforcer ces mécanismes de contrôle apparaît également dans la proposition formulée par Demis Hassabis, directeur général de Google DeepMind et prix Nobel de Chimie en 2024.
Dans un essai intitulé A Framework for Frontier AI and the Dawning of a New Age, Hassabis défend la création d'un organisme international chargé de soumettre à des tests indépendants les modèles d'intelligence artificielle les plus avancés avant qu'ils n'atteignent le marché.
Son approche prévoit d'évaluer les soi-disant modèles de frontière pour détecter d'éventuels risques liés à la cybersécurité, au développement d'armes biologiques ou à la capacité d'agir de manière autonome. Si un système ne réussissait pas ces tests, l'organisme aurait la capacité de retarder ou d'empêcher son déploiement.
La proposition propose une structure inspirée de l'Autorité de Régulation de l'Industrie Financière des États-Unis (FINRA) : une entité financée par l'industrie, mais avec une autonomie technique pour réaliser des évaluations indépendantes.
Selon Hassabis, le lancement devrait commencer par la participation volontaire des principaux laboratoires d'intelligence artificielle, avec l'objectif d'évoluer par la suite vers un modèle basé sur des normes partagées et d'application obligatoire. Le responsable de Google DeepMind considère en outre que cet organisme devrait être opérationnel avant la fin de 2026.
Les dangers d'une IA sans mécanismes de contrôle
Et si l'intelligence artificielle n'est pas régulée ? Parmi les principales menaces figurent des capacités liées à la cybersécurité, le développement possible d'armes biologiques ou l'exécution autonome de certaines actions sans intervention humaine immédiate.
Tant le rapport présenté par le Lab de Gouvernance de l'IA pour l'Humanité des Nations Unies que la proposition défendue par Demis Hassabis s'accordent à dire que ces risques exigent des mécanismes capables d'identifier les menaces avant le déploiement des systèmes et de maintenir des contrôles adaptés à leur évolution. L'objectif est de réduire l'impact d'éventuels incidents dans une technologie dont le degré d'autonomie ne cesse d'augmenter.
La course vers une intelligence artificielle quasi humaine
Un des facteurs qui accélère le débat réglementaire est la rapidité avec laquelle évoluent les systèmes d'intelligence artificielle. Demis Hassabis soutient que l'apparition d'une intelligence artificielle générale, capable d'égaler ou de surpasser de nombreuses capacités cognitives humaines, pourrait se produire dans les prochaines années.
Bien qu'il souligne également qu'il existe encore une fenêtre de temps pour établir des mécanismes efficaces de supervision avant que ces modèles n'atteignent ce niveau de développement. À son avis, le potentiel de cette technologie pour impulser des avancées dans des domaines tels que la médecine ou l'énergie coexiste avec des risques qui exigent des évaluations indépendantes avant leur déploiement.
Si cette prévision se réalise, le débat cessera de se concentrer uniquement sur la capacité technique des nouveaux modèles pour se déplacer également vers leur impact économique, politique et social. D'où le fait que de plus en plus de voix défendent la nécessité de préparer des mécanismes de contrôle avant que cette nouvelle génération de systèmes n'arrive sur le marché.