La intel·ligència artificial ha arribat també a la contractació pública. A mesura que cada vegada més administracions comencen a utilitzar algoritmes per gestionar expedients i automatitzar tràmits, també les empreses licitadores recorren a sistemes d'IA per redactar ofertes tècniques, interpretar plecs, identificar criteris d'adjudicació o fins i tot estimar les probabilitats d'èxit d'una proposta.
És un procés costós, en el qual disposar de bons assessors forma part de la competència entre licitadors. Avui, moltes d'aquestes tasques poden realitzar-se en qüestió de minuts. Un model d'IA és capaç de resumir un plec de centenars de pàgines, extreure automàticament els criteris de valoració, identificar requisits excloents, elaborar esborranys complets de memòries tècniques, proposar millores alineades amb els criteris subjectius d'adjudicació i fins i tot adaptar el llenguatge de l'oferta a l'estil habitual de cada administració contractant.
La optimització de les ofertes a través de la IA suposa un salt de productivitat extraordinari. Però també planteja interrogants sobre l'adequació de la regulació en matèria de contractació pública a aquesta nova realitat tecnològica. Per exemple, un primer aspecte és el que afecta a la igualtat d'oportunitats entre operadors econòmics.
En aquest sentit, cal recordar que la contractació pública es fonamenta sobre principis com el d'igualtat, la lliure competència i la no discriminació. No obstant això, la disponibilitat d'eines avançades d'IA pot convertir-se en un nou factor de desigualtat competitiva. En altres paraules, aquelles empreses que disposin de recursos per entrenar models sobre milers de licitacions anteriors, integrar bases documentals pròpies o desenvolupar assistents especialitzats en contractació pública, tindran més opcions de resultar adjudicatària.
Paradoxalment, la tecnologia que prometia democratitzar l'accés al coneixement podria acabar concentrant encara més la capacitat competitiva en qui disposen de majors recursos tecnològics. Existeix, a més, un segon risc menys visible, com és el de la homogenització de les ofertes.
Ens referim a un escenari en el qual quan múltiples empreses utilitzen models similars entrenats sobre les mateixes dades i optimitzats per maximitzar la puntuació conforme a uns determinats criteris, les propostes tendeixen inevitablement a semblar-se entre si. Les diferències d'estil desapareixen, les estructures convergeixen i les millores proposades comencen a repetir-se.
La conseqüència pot ser una pèrdua progressiva d'innovació real. Si totes les intel·ligències artificials arriben a conclusions semblants sobre com maximitzar la puntuació d'un plec, les ofertes acabaran semblant versions lleugerament diferents d'un mateix document. I si totes les respostes són iguals, la capacitat dels òrgans de contractació per distingir quina és realment la millor proposta es redueix considerablement.
També mereix una especial reflexió l'impacte de la IA en la pròpia redacció dels plecs. Els models de IA funcionen millor quant més precises són les instruccions que reben. Curiosament, aquesta mateixa lògica es pot traslladar al disseny dels plecs administratius. Ambigüitats, contradiccions o criteris excessivament oberts poden ser explotats per assistents de IA capaços de detectar inconsistències que passarien inadvertides per a un lector humà.
Això obligarà previsiblement les administracions a redactar plecs molt més clars, estructurats i tècnicament consistents. No només per facilitar la concurrència, sinó per evitar interpretacions estratègiques generades automàticament per sistemes de IA.
Al mateix temps, cal imaginar un futur proper en el qual la pròpia Administració utilitzi intel·ligència artificial per revisar les ofertes rebudes. Eines capaces de comprovar automàticament el compliment de requisits, detectar contradiccions internes, identificar possibles plagi entre licitadors o fins i tot analitzar la coherència entre els compromisos ofertats i la documentació aportada.
Però aquí apareix un altre repte d'enorme rellevància jurídica, a més de nous riscos d'il·licitud, com pugui ser l'adjudicació automàtica; o el risc de prompt injection, és a dir, la inserció d'instruccions invisibles als ulls de la taula de contractació, però llegibles per la IA a l'hora de valorar -de manera més beneficiosa- l'oferta en qüestió. Existeix, a més, un risc addicional del qual gairebé comença a debatre's.
Si tant les empreses com les administracions utilitzen models d'IA entrenats sobre licitacions anteriors, el sistema pot entrar en un cercle de retroalimentació. Els models aprendran de decisions passades; els nous plecs incorporaran patrons detectats per aquests models; les ofertes s'adaptaran a aquests mateixos patrons i les futures decisions tornaran a reforçar-los.
Sense pretendre-ho, podríem estar automatitzant no només la gestió documental de la contractació pública, sinó també determinades inèrcies interpretatives, dificultant l'aparició de solucions veritablement innovadores per al sector públic.
La contractació pública constitueix un dels principals instruments d'execució de les polítiques públiques i de gestió de recursos col·lectius. Precisament per això, la revolució de la intel·ligència artificial exigeix alguna cosa més que eficiència: exigeix preservar la confiança que les decisions continuen adoptant-se d'acord amb el mèrit de les ofertes i no amb la potència dels algoritmes que les redacten.
sobre la firma:
Francisco Pérez Bes és adjunt de l'Agència Espanyola de Protecció de Dades. A més, va ser soci a l'àrea de Dret Digital d'Ecix Group i és ex Secretari General de l'Institut Nacional de Ciberseguretat (INCIBE).