L'intelligence artificielle est également arrivée dans la commande publique. À mesure que de plus en plus d'administrations commencent à utiliser des algorithmes pour gérer des dossiers et automatiser des démarches, les entreprises soumissionnaires recourent également à des systèmes d'IA pour rédiger des offres techniques, interpréter des cahiers des charges, identifier des critères d'attribution ou même estimer les probabilités de succès d'une proposition.
C'est un processus coûteux, dans lequel disposer de bons conseillers fait partie de la concurrence entre soumissionnaires. Aujourd'hui, beaucoup de ces tâches peuvent être réalisées en quelques minutes. Un modèle d'IA est capable de résumer un cahier des charges de centaines de pages, d'extraire automatiquement les critères d'évaluation, d'identifier des exigences excluantes, d'élaborer des brouillons complets de mémoires techniques, de proposer des améliorations alignées avec les critères subjectifs d'attribution et même d'adapter le langage de l'offre au style habituel de chaque administration contractante.
L'optimisation des offres à travers la IA représente un saut de productivité extraordinaire. Mais cela soulève également des questions sur l'adéquation de la réglementation en matière de commande publique à cette nouvelle réalité technologique. Par exemple, un premier aspect concerne l'égalité des chances entre les opérateurs économiques.
Dans ce sens, il convient de rappeler que la commande publique repose sur des principes tels que l'égalité, la libre concurrence et la non-discrimination. Cependant, la disponibilité d'outils avancés d'IA peut devenir un nouveau facteur d'inégalité compétitive. En d'autres termes, les entreprises qui disposent de ressources pour entraîner des modèles sur des milliers d'appels d'offres précédents, intégrer des bases documentaires propres ou développer des assistants spécialisés en commande publique, auront plus de chances de devenir attributaires.
Paradoxalement, la technologie qui promettait de démocratiser l'accès à la connaissance pourrait finir par concentrer encore plus la capacité compétitive entre ceux qui disposent de plus grandes ressources technologiques. Il existe, de plus, un second risque moins visible, celui de l'homogénéisation des offres.
Nous faisons référence à un scénario dans lequel, lorsque plusieurs entreprises utilisent des modèles similaires entraînés sur les mêmes données et optimisés pour maximiser le score selon certains critères, les propositions tendent inévitablement à se ressembler. Les différences de style disparaissent, les structures convergent et les améliorations proposées commencent à se répéter.
La conséquence peut être une perte progressive d'innovation réelle. Si toutes les intelligences artificielles arrivent à des conclusions similaires sur la façon de maximiser le score d'un cahier des charges, les offres finiront par ressembler à des versions légèrement différentes d'un même document. Et si toutes les réponses sont identiques, la capacité des organes de passation de marchés à distinguer quelle est réellement la meilleure proposition est considérablement réduite.
Il mérite également une réflexion particulière l'impact de l'IA sur la rédaction même des cahiers des charges. Les modèles d'IA fonctionnent mieux lorsque les instructions qu'ils reçoivent sont plus précises. Curieusement, cette même logique peut être appliquée à la conception des cahiers des charges administratifs. Les ambiguïtés, les contradictions ou les critères excessivement ouverts peuvent être exploités par des assistants d'IA capables de détecter des incohérences qui passeraient inaperçues pour un lecteur humain.
Cela obligera vraisemblablement les administrations à rédiger des cahiers des charges beaucoup plus clairs, structurés et techniquement cohérents. Non seulement pour faciliter la concurrence, mais aussi pour éviter des interprétations stratégiques générées automatiquement par des systèmes d'IA.
En même temps, on peut imaginer un avenir proche dans lequel l'administration elle-même utilise l'intelligence artificielle pour examiner les offres reçues. Des outils capables de vérifier automatiquement le respect des exigences, de détecter des contradictions internes, d'identifier d'éventuels plagiats entre soumissionnaires ou même d'analyser la cohérence entre les engagements offerts et la documentation fournie.
Mais ici apparaît un autre défi d'une énorme pertinence juridique, en plus de nouveaux risques d'illégalité, comme cela pourrait être l'attribution automatique ; ou le risque de prompt injection, c'est-à-dire l'insertion d'instructions invisibles aux yeux de la commission de passation de marchés, mais lisibles par l'IA au moment d'évaluer -de manière plus bénéfique- l'offre en question. Il existe, de plus, un risque supplémentaire dont on commence à peine à débattre.
Si tant les entreprises que les administrations utilisent des modèles d'IA entraînés sur des appels d'offres précédents, le système peut entrer dans un cercle de rétroaction. Les modèles apprendront des décisions passées ; les nouveaux cahiers des charges incorporeront des motifs détectés par ces modèles ; les offres s'adapteront à ces mêmes motifs et les futures décisions viendront à nouveau les renforcer.
Sans le vouloir, nous pourrions être en train d'automatiser non seulement la gestion documentaire de la commande publique, mais aussi certaines inerties interprétatives, rendant difficile l'apparition de solutions véritablement innovantes pour le secteur public.
La commande publique constitue l'un des principaux instruments d'exécution des politiques publiques et de gestion des ressources collectives. C'est précisément pour cela que la révolution de l'intelligence artificielle exige quelque chose de plus que l'efficacité : elle exige de préserver la confiance que les décisions continuent d'être prises selon le mérite des offres et non selon la puissance des algorithmes qui les rédigent.
sur la signature :
Francisco Pérez Bes est adjoint de l'Agence Espagnole de Protection des Données. De plus, il a été associé dans le domaine du Droit Numérique d'Ecix Group et est ancien Secrétaire Général de l'Institut National de Cybersécurité (INCIBE).