O direito é um organismo que se adapta à realidade econômica. Ele fez isso quando regulou a responsabilidade penal das pessoas jurídicas, com o objetivo de modernizar a regulação da responsabilidade de corporações cada vez mais complexas e opacas.
Em breve, é provável que deva voltar a fazê-lo se proliferarem as empresas governadas por agentes de inteligência artificial e sem diretores humanos.
Quando a ficção se torna projeto de lei
A Argentina não esperou que o debate amadurecesse nos fóruns acadêmicos. O Governo enviou ao Congresso um anteprojeto de nova Lei Geral de Sociedades que reconhece, pela primeira vez, o que se conhece como Autonomous Enterprise, figura até agora inexistente no direito, mas que engloba duas figuras:
De um lado, a "Sociedade Automatizada", uma empresa com personalidade jurídica plena, capacidade para contratar e responsabilidade patrimonial própria, que pode operar de forma completamente autônoma por meio de algoritmos, sem necessidade de empregados para seu funcionamento ordinário, nem de controle ou supervisão humana.
E, do outro lado, a "Sociedade Descentralizada Autônoma Operativa", com origem no ecossistema cripto: organizações total ou parcialmente autônomas e descentralizadas, que fixam suas próprias regras de governo, tomada de decisões e repartição de benefícios por meio de contratos inteligentes implementados em blockchain, com participação representada em tokens.
Se prosperar, a Argentina se tornaria uma das primeiras jurisdições do mundo a dar carta de natureza jurídica à empresa sem humanos.
O que o direito romano não pôde prever
A responsabilidade das pessoas jurídicas já obrigou o direito a desenvolver mecanismos de imputação concretos, baseados em modelos de compliance e um conceito específico de diligência devida.
A transformação desta rama do direito foi considerada pela doutrina mais tradicional como um exercício de engenharia jurídica considerável, porque mesmo uma sociedade anônima tradicional tem, em última instância, um conselho de administração ou diretores, pessoas físicas identificáveis por trás de cada decisão relevante.
No entanto, a responsabilidade penal da pessoa jurídica tem se consolidado graças a pronunciamentos jurisprudenciais relevantes. Agora, a existência de uma empresa de gestão autônoma, governada por agentes de IA, levanta um salto qualitativo sobre esse aspecto, e não poucas dúvidas.
Por exemplo, quem responde quando a decisão de negócio é tomada por um algoritmo, treinado e implementado por uma comunidade difusa de detentores de tokens espalhados pelo mundo, sem que exista um órgão de administração no sentido clássico?
Os frentes regulatórios que se abrem
No âmbito societário e mercantil, reconhecer personalidade jurídica a uma entidade sem administradores humanos obriga a repensar alguns conceitos tradicionais como, por exemplo, quem ostenta a representação frente a terceiros quando a operação ordinária é decidida por um modelo de linguagem? Como se articula o dever de diligência e lealdade atual quando não há um administrador de carne e osso a quem exigir isso? Que tipo de responsabilidade pode ser exigida a um algoritmo?
No aspecto da fiscalidade, a Administração tributária precisa de um domicílio, um representante identificável. Uma organização distribuída em código, sem sede física nem endereço efetivo no sentido clássico, levanta dúvidas quanto a conceitos centrais próprios da fiscalidade tradicional, e abre a porta a estruturas muito mais sofisticadas do que as que já conhecemos.
Também deverá ser refletido sobre eventual responsabilidade penal da entidade. Nesse sentido, se a responsabilidade penal corporativa já exigiu imaginar a culpa organizativa de uma empresa, a imputação a uma empresa governada por IA exige delimitar as responsabilidades em uma ou várias das pessoas que intervenham em algum ponto da cadeia de decisão ou, simplesmente, necessitamos de uma figura jurídica nova que dê resposta a essas novas necessidades.
Uma oportunidade para não chegar tarde
Espanha e a União Europeia levam anos regulando a inteligência artificial sob a ótica do risco —o Regulamento de IA é boa prova disso— mas mal começaram a abordar a pergunta societária: o que ocorre quando a própria empresa, e não apenas sua ferramenta, é autônoma.
A iniciativa argentina, com todas as cautelas que merece um projeto ainda em debate parlamentar, faz aflorar algumas dessas dúvidas. Em particular, sobre aspectos que vão desde a lavagem de dinheiro até a elisão de controles societários. Em qualquer caso, tem o mérito de colocar a pergunta sobre a mesa antes de ninguém no mundo hispanofalante.
A história do direito penal das pessoas jurídicas nos ensina algo útil: as ficções jurídicas que ontem pareciam acabam incorporando-se à ordenação quando a realidade econômica as torna inevitáveis.
Atualmente, assim como ontem aconteceu com a responsabilidade penal de uma pessoa jurídica, a empresa governada por agentes de IA sem diretores humanos pode parecer hoje uma raridade ou um experimento tecnológico. No entanto, não é.
O legislador espanhol faria bem em começar a estudar o problema antes que a pergunta chegue já convertida em litígio. Ou, o que é pior, que comecem a se desenvolver e a operar de fato esse tipo de entidades, radicadas em jurisdições com um baixo nível de supervisão, diante da ausência de uma resposta clara da ordenação europeia.
sobre a assinatura:
Francisco Pérez Bes é adjunto da Agência Espanhola de Proteção de Dados. Além disso, foi sócio na área de Direito Digital do Ecix Group e é ex Secretário Geral do Instituto Nacional de Cibersegurança (INCIBE).