Il diritto è un organismo che si adatta alla realtà economica. Lo ha fatto quando ha regolato la responsabilità penale delle persone giuridiche, al fine di modernizzare la regolamentazione della responsabilità di corporazioni sempre più complesse e opache.
In breve, è probabile che debba tornare a farlo se proliferano le aziende governate da agenti di intelligenza artificiale e senza dirigenti umani.
Quando la finzione diventa progetto di legge
Argentina non ha aspettato che il dibattito maturasse nei forum accademici. Il Governo ha inviato al Congresso un anteprogetto di nuova Legge Generale delle Società che riconosce, per la prima volta, ciò che è conosciuto come Autonomous Enterprise, figura fino ad ora inesistente nel diritto, ma che comprende due figure:
Da un lato, la "Società Automatizzata", un'azienda con personalità giuridica piena, capacità di contrattare e responsabilità patrimoniale propria, che può operare in modo completamente autonomo tramite algoritmi, senza necessità di dipendenti per il suo funzionamento ordinario, né di controllo né supervisione umana.
E, dall'altro lato, la "Società Decentralizzata Autonoma Operativa", con origine nell'ecosistema cripto: organizzazioni totalmente o parzialmente autonome e decentralizzate, che fissano le proprie regole di governo, presa di decisioni e distribuzione dei benefici tramite contratti intelligenti distribuiti su blockchain, con partecipazione rappresentata in token.
Se prospera, l'Argentina diventerebbe una delle prime giurisdizioni del mondo a dare carta di natura giuridica all'azienda senza umani.
Ciò che il diritto romano non poté prevedere
La responsabilità delle persone giuridiche ha già obbligato il diritto a sviluppare meccanismi di imputazione concreti, basati su modelli di compliance e un concetto specifico di diligenza dovuta.
La trasformazione di questo ramo del diritto è stata considerata dalla dottrina più tradizionale come un esercizio di ingegneria giuridica considerevole, perché anche una società anonima tradizionale ha, in ultima istanza, un consiglio di amministrazione o dei dirigenti, persone fisiche identificabili dietro ogni decisione rilevante.
Tuttavia, la responsabilità penale della persona giuridica si è consolidata grazie a pronunce giurisprudenziali rilevanti. Ora, l'esistenza di un'azienda di gestione autonoma, governata da agenti di IA, pone un salto qualitativo su questo aspetto, e non poche domande.
Ad esempio, chi risponde quando la decisione di business è presa da un algoritmo, addestrato e distribuito da una comunità diffusa di titolari di token sparsi per il mondo, senza che esista un organo di amministrazione nel senso classico?
I fronti regolatori che si aprono
Nel campo societario e commerciale, riconoscere personalità giuridica a un'entità senza amministratori umani obbliga a ripensare alcuni concetti tradizionali come, ad esempio, chi detiene la rappresentanza nei confronti di terzi quando l'operatività ordinaria è decisa da un modello di linguaggio? Come si articola il dovere di diligenza e lealtà attuale quando non c'è un amministratore di carne e ossa a cui richiederlo? Che tipo di responsabilità può essere richiesta a un algoritmo?
Dal punto di vista fiscale, l'Amministrazione tributaria ha bisogno di un domicilio, un rappresentante identificabile. Un'organizzazione distribuita in codice, senza sede fisica né indirizzo effettivo nel senso classico, solleva dubbi riguardo a concetti centrali propri della fiscalità tradizionale, e apre la porta a strutture molto più sofisticate di quelle che già conosciamo.
Si dovrà anche riflettere sulla eventuale responsabilità penale dell'entità. In questo senso, se la responsabilità penale corporativa ha già richiesto di immaginare la colpa organizzativa di un'azienda, l'imputazione a un'azienda governata da IA richiede di delimitare le responsabilità in una o più delle persone che intervengono in qualche punto della catena decisionale o, semplicemente, abbiamo bisogno di una figura giuridica nuova che risponda a queste nuove necessità.
Un'opportunità per non arrivare tardi
La Spagna e l'Unione Europea da anni regolano l'intelligenza artificiale dalla prospettiva del rischio —il Regolamento di IA è una buona prova di ciò— ma hanno appena iniziato ad affrontare la domanda societaria: cosa succede quando l'azienda stessa, e non solo il suo strumento, è autonoma.
L'iniziativa argentina, con tutte le cautele che merita un progetto ancora in dibattito parlamentare, fa emergere alcune di queste domande. In particolare, su aspetti che vanno dal riciclaggio di denaro fino all'elusione dei controlli societari. In ogni caso, ha il merito di porre la domanda sul tavolo prima di chiunque altro nel mondo hispanofono.
La storia del diritto penale delle persone giuridiche ci insegna qualcosa di utile: le finzioni giuridiche che ieri sembravano finiscono per essere incorporate nell'ordinamento quando la realtà economica le rende inevitabili.
Attualmente, così come ieri è successo con la responsabilità penale di una persona giuridica, l'azienda governata da agenti di IA senza dirigenti umani può sembrare oggi una rarità o un esperimento tecnologico. Tuttavia, non lo è.
Il legislatore spagnolo farebbe bene a iniziare a studiare il problema prima che la domanda gli arrivi già trasformata in contenzioso. O, peggio ancora, che comincino a svilupparsi e a operare de facto questo tipo di entità, radicate in giurisdizioni con un basso livello di supervisione, di fronte all'assenza di una risposta chiara dell'ordinamento europeo.
sulla firma:
Francisco Pérez Bes è vicedirettore dell'Agenzia Spagnola di Protezione dei Dati. Inoltre, è stato socio nell'area di Diritto Digitale di Ecix Group ed è ex Segretario Generale dell'Istituto Nazionale di Cybersecurity (INCIBE).