L'intelligenza artificiale è arrivata anche agli appalti pubblici. Man mano che sempre più amministrazioni iniziano a utilizzare algoritmi per gestire pratiche e automatizzare procedure, anche le aziende offerenti ricorrono a sistemi di IA per redigere offerte tecniche, interpretare documenti, identificare criteri di aggiudicazione o persino stimare le probabilità di successo di una proposta.
È un processo costoso, nel quale avere buoni consulenti fa parte della competizione tra offerenti. Oggi, molte di queste attività possono essere svolte in pochi minuti. Un modello di IA è in grado di riassumere un documento di centinaia di pagine, estrarre automaticamente i criteri di valutazione, identificare requisiti esclusivi, elaborare bozze complete di relazioni tecniche, proporre miglioramenti allineati con i criteri soggettivi di aggiudicazione e persino adattare il linguaggio dell'offerta allo stile abituale di ogni amministrazione appaltante.
L'ottimizzazione delle offerte attraverso la IA comporta un salto di produttività straordinario. Ma solleva anche interrogativi riguardo all'adeguatezza della regolamentazione in materia di appalti pubblici a questa nuova realtà tecnologica. Ad esempio, un primo aspetto è quello che riguarda l'uguaglianza di opportunità tra operatori economici.
In questo senso, è opportuno ricordare che gli appalti pubblici si fondano su principi come quello di uguaglianza, la libera concorrenza e la non discriminazione. Tuttavia, la disponibilità di strumenti avanzati di IA può diventare un nuovo fattore di disuguaglianza competitiva. In altre parole, quelle aziende che dispongono di risorse per addestrare modelli su migliaia di gare precedenti, integrare basi documentali proprie o sviluppare assistenti specializzati in appalti pubblici, avranno maggiori possibilità di risultare aggiudicatarie.
Paradossalmente, la tecnologia che prometteva di democratizzare l'accesso alla conoscenza potrebbe finire per concentrare ancora di più la capacità competitiva in coloro che dispongono di maggiori risorse tecnologiche. Esiste, inoltre, un secondo rischio meno visibile, come quello dell'omogeneizzazione delle offerte.
Ci riferiamo a uno scenario in cui, quando più aziende utilizzano modelli simili addestrati sugli stessi dati e ottimizzati per massimizzare il punteggio in base a determinati criteri, le proposte tendono inevitabilmente a somigliarsi. Le differenze di stile scompaiono, le strutture convergono e i miglioramenti proposti iniziano a ripetersi.
La conseguenza può essere una perdita progressiva di innovazione reale. Se tutte le intelligenze artificiali arrivano a conclusioni simili su come massimizzare il punteggio di un capitolato, le offerte finiranno per sembrare versioni leggermente diverse di un unico documento. E se tutte le risposte sono uguali, la capacità degli organi di gara di distinguere quale sia realmente la migliore proposta si riduce considerevolmente.
Merita anche una riflessione speciale l'impatto dell'IA nella redazione stessa dei capitolati. I modelli di IA funzionano meglio quanto più precise sono le istruzioni che ricevono. Curiosamente, quella stessa logica può essere trasferita alla progettazione dei capitolati amministrativi. Ambiguità, contraddizioni o criteri eccessivamente aperti possono essere sfruttati da assistenti di IA capaci di rilevare incoerenze che passerebbero inosservate a un lettore umano.
Questo obbligherà prevedibilmente le amministrazioni a redigere capitolati molto più chiari, strutturati e tecnicamente coerenti. Non solo per facilitare la concorrenza, ma per evitare interpretazioni strategiche generate automaticamente da sistemi di IA.
Allo stesso tempo, è possibile immaginare un futuro prossimo in cui la stessa Amministrazione utilizzi intelligenza artificiale per esaminare le offerte ricevute. Strumenti capaci di verificare automaticamente il rispetto dei requisiti, rilevare contraddizioni interne, identificare possibili plagi tra i concorrenti o persino analizzare la coerenza tra gli impegni offerti e la documentazione fornita.
Ma qui appare un'altra sfida di enorme rilevanza giuridica, oltre a nuovi rischi di illiceità, come potrebbe essere l'aggiudicazione automatica; o il rischio di prompt injection, ossia l'inserimento di istruzioni invisibili agli occhi della commissione di gara, ma leggibili dall'IA al momento di valutare -in modo più vantaggioso- l'offerta in questione. Esiste, inoltre, un rischio aggiuntivo di cui si inizia appena a discutere.
Se tanto le aziende quanto le amministrazioni utilizzano modelli di IA addestrati su gare precedenti, il sistema può entrare in un circolo di retroazione. I modelli impareranno da decisioni passate; i nuovi capitolati incorporeranno schemi rilevati da quei modelli; le offerte si adatteranno a quegli stessi schemi e le future decisioni li rafforzeranno di nuovo.
Senza volerlo, potremmo stare automatizzando non solo la gestione documentale degli appalti pubblici, ma anche determinate inerzie interpretative, rendendo difficile l'emergere di soluzioni veramente innovative per il settore pubblico.
Gli appalti pubblici costituiscono uno dei principali strumenti di attuazione delle politiche pubbliche e di gestione delle risorse collettive. Proprio per questo, la rivoluzione dell'intelligenza artificiale richiede qualcosa di più dell'efficienza: richiede di preservare la fiducia che le decisioni continuano a essere adottate in base al merito delle offerte e non alla potenza degli algoritmi che le redigono.
sulla firma:
Francisco Pérez Bes è vicedirettore dell'Agenzia Spagnola per la Protezione dei Dati. Inoltre, è stato socio nell'area di Diritto Digitale di Ecix Group ed è ex Segretario Generale dell'Istituto Nazionale di Cybersecurity (INCIBE).