El dret és un organisme que s'adapta a la realitat econòmica. Ho va fer quan va regular la responsabilitat penal de les persones jurídiques, amb l'objectiu de modernitzar la regulació de la responsabilitat d'unes corporacions cada cop més complexes i opacas.
En breu, és probable que hagi de tornar a fer-ho si proliferan les empreses governades per agents d'intel·ligència artificial i sense directius humans.
Quan la ficció es converteix en projecte de llei
Argentina no ha esperat que el debat madurés en els fòrums acadèmics. El Govern ha enviat al Congrés un anteprojecte de nova Llei General de Societats que reconeix, per primera vegada, el que es coneix com a Autonomous Enterprise, figura fins ara inexistent en el dret, però que engloba dues figures:
D'una banda, la "Societat Automatitzada", una empresa amb personalitat jurídica plena, capacitat per contractar i responsabilitat patrimonial pròpia, que pot operar de forma completament autònoma mitjançant algoritmes, sense necessitat d'empleats per al seu funcionament ordinari, ni de control ni supervisió humana.
I, d'altra banda, la "Societat Descentralitzada Autònoma Operativa", amb origen en l'ecosistema cripto: organitzacions total o parcialment autònomes i descentralitzades, que fixen les seves pròpies regles de govern, presa de decisions i repartiment de beneficis mitjançant contractes intel·ligents desplegats en blockchain, amb participació representada en tokens.
Si prospera, Argentina es convertiria en una de les primeres jurisdiccions del món a donar carta de naturalesa jurídica a l'empresa sense humans.
El que el dret romà no va poder preveure
La responsabilitat de les persones jurídiques ja va obligar el dret a desenvolupar mecanismes d'imputació concrets, basats en models de compliance i un concepte específic de diligència deguda.
La transformació d'aquesta branca del dret va ser considerada per la doctrina més tradicional com un exercici d'enginyeria jurídica considerable, perquè fins i tot una societat anònima tradicional té, en última instància, un consell d'administració o uns directius, persones físiques identificables darrere de cada decisió rellevant.
Tanmateix, la responsabilitat penal de la persona jurídica s'ha anat consolidant gràcies a pronunciaments jurisprudencials rellevants. Ara, l'existència d'una empresa de gestió autònoma, governada per agents d'IA, planteja un salt qualitatiu sobre aquest aspecte, i no poques dubtes.
Per exemple, qui respon quan la decisió de negoci la pren un algoritme, entrenat i desplegat per una comunitat difusa de titulars de tokens repartits pel món, sense que existeixi un òrgan d'administració en el sentit clàssic?
Els fronts regulatoris que s'obren
En l'àmbit societari i mercantil, reconèixer personalitat jurídica a una entitat sense administradors humans obliga a repensar alguns conceptes tradicionals com, per exemple, qui ostenta la representació davant de tercers quan l'operativa ordinària la decideix un model de llenguatge? Com s'articula el deure de diligència i lleialtat actual quan no hi ha un administrador de carn i ossos al qual exigir-s'ho? quin tipus de responsabilitat es pot exigir a un algoritme?
En l'aspecte de la fiscalitat, l'Administració tributària necessita un domicili, un representant identificable. Una organització distribuïda en codi, sense seu física ni adreça efectiva en sentit clàssic, planteja dubtes pel que fa a conceptes centrals propis de la fiscalitat tradicional, i obre la porta a estructures molt més sofisticades que les que ja coneixem.
També s'haurà de reflexionar sobre eventual la responsabilitat penal de l'entitat. En aquest sentit, si la responsabilitat penal corporativa ja va exigir imaginar la culpa organitzativa d'una empresa, la imputació a una empresa governada per IA exigeix delimitar les responsabilitats en una o diverses de les persones que intervinguin en algun punt de la cadena de decisió o, senzillament, necessitem una figura jurídica nova que doni resposta a aquestes noves necessitats.
Una oportunitat per no arribar tard
Espanya i la Unió Europea porten anys regulant la intel·ligència artificial des de l'òptica del risc —el Reglament de IA és bona prova d'això— però gairebé han començat a abordar la pregunta societària: què passa quan l'empresa mateixa, i no només la seva eina, és autònoma.
L' iniciativa argentina, amb totes les cauteles que mereix un projecte encara en debate parlamentari, fa aflorar algunes d'aquestes dubtes. En particular, sobre aspectes que van des del blanqueig de capitals fins a l'elusió de controls societaris. En qualsevol cas, té el mèrit de posar la pregunta sobre la taula abans que ningú en el món hispanoparlant.
La història del dret penal de les persones jurídiques ens ensenya alguna cosa útil: les ficcions jurídiques que ahir semblaven acaben incorporant-se a l'ordenament quan la realitat econòmica les fa inevitables.
Actualment, igual que ahir va passar amb la responsabilitat penal d'una persona jurídica, l'empresa governada per agents d'IA sense directius humans pot semblar avui una rareta o un experiment tecnològic. No obstant això, no ho és.
El legislador espanyol faria bé a començar a estudiar el problema abans que la pregunta li arribi ja convertida en litigi. O, el que és pitjor, que comencin a desenvolupar-se i a operar de facto aquest tipus d'entitats, radicades en jurisdiccions amb un baix nivell de supervisió, davant l'absència d'una resposta clara de l'ordenament europeu.
sobre la firma:
Francisco Pérez Bes és adjunt de l'Agència Espanyola de Protecció de Dades. A més, va ser soci en l'àrea de Dret Digital d'Ecix Group i és ex Secretari General de l'Institut Nacional de Ciberseguretat (INCIBE).