El derecho es un organismo que se adapta a la realidad económica. Lo hizo cuando reguló la responsabilidad penal de las personas jurídicas, al objeto de modernizar la regulación de la responsabilidad de unas corporaciones cada vez más complejas y opacas.
En breve, es probable que deba volver a hacerlo si proliferan las empresas gobernadas por agentes de inteligencia artificial y sin directivos humanos.
Cuando la ficción se convierte en proyecto de ley
Argentina no ha esperado a que el debate madurara en los foros académicos. El Gobierno ha enviado al Congreso un anteproyecto de nueva Ley General de Sociedades que reconoce, por primera vez, lo que se conoce como Autonomous Enterprise, figura hasta ahora inexistente en el derecho, pero que engloba dos figuras:
De un lado, la "Sociedad Automatizada", una empresa con personalidad jurídica plena, capacidad para contratar y responsabilidad patrimonial propia, que puede operar de forma completamente autónoma mediante algoritmos, sin necesidad de empleados para su funcionamiento ordinario, ni de control ni supervisión humana.
Y, de otro lado, la "Sociedad Descentralizada Autónoma Operativa", con origen en el ecosistema cripto: organizaciones total o parcialmente autónomas y descentralizadas, que fijan sus propias reglas de gobierno, toma de decisiones y reparto de beneficios mediante contratos inteligentes desplegados en blockchain, con participación representada en tokens.
Si prospera, Argentina se convertiría en una de las primeras jurisdicciones del mundo en dar carta de naturaleza jurídica a la empresa sin humanos.
Lo que el derecho romano no pudo prever
La responsabilidad de las personas jurídicas ya obligó al derecho a desarrollar mecanismos de imputación concretos, basados en modelos de compliance y un concepto específico de diligencia debida.
La transformación de esta rama del derecho fue considerada por la doctrina más tradicional como un ejercicio de ingeniería jurídica considerable, porque incluso una sociedad anónima tradicional tiene, en última instancia, un consejo de administración o unos directivos, personas físicas identificables detrás de cada decisión relevante.
Sin embargo, la responsabilidad penal de la persona jurídica se ha venido consolidando gracias a pronunciamientos jurisprudenciales relevantes. Ahora, la existencia de una empresa de gestión autónoma, gobernada por agentes de IA, plantea un salto cualitativo sobre ese aspecto, y no pocas dudas.
Por ejemplo, ¿quién responde cuando la decisión de negocio la toma un algoritmo, entrenado y desplegado por una comunidad difusa de titulares de tokens repartidos por el mundo, sin que exista un órgano de administración en el sentido clásico?
Los frentes regulatorios que se abren
En el ámbito societario y mercantil, reconocer personalidad jurídica a una entidad sin administradores humanos obliga a repensar algunos conceptos tradicionales como, por ejemplo, ¿quién ostenta la representación frente a terceros cuando la operativa ordinaria la decide un modelo de lenguaje? ¿Cómo se articula el deber de diligencia y lealtad actual cuando no hay un administrador de carne y hueso al que exigírselo? ¿qué tipo de responsabilidad puede exigírsele a un algoritmo?
En el aspecto de la fiscalidad, la Administración tributaria necesita un domicilio, un representante identificable. Una organización distribuida en código, sin sede física ni dirección efectiva en sentido clásico, plantea dudas en cuanto a conceptos centrales propios de la fiscalidad tradicional, y abre la puerta a estructuras mucho más sofisticadas que las que ya conocemos.
También deberá reflexionarse sobre eventual la responsabilidad penal de la entidad. En este sentido, si la responsabilidad penal corporativa ya exigió imaginar la culpa organizativa de una empresa la imputación a una empresa gobernada por IA exige delimitar las responsabilidades en una o varias de las personas que intervengan en algún punto de la cadena de decisión o, sencillamente, necesitemos una figura jurídica nueva que dé respuesta a estas nuevas necesidades.
Una oportunidad para no llegar tarde
España y la Unión Europea llevan años regulando la inteligencia artificial desde la óptica del riesgo —el Reglamento de IA es buena prueba de ello— pero apenas han empezado a abordar la pregunta societaria: qué ocurre cuando la propia empresa, y no solo su herramienta, es autónoma.
La iniciativa argentina, con todas las cautelas que merece un proyecto todavía en debate parlamentario, hace aflorar algunas de estas dudas. En particular, sobre aspectos que van desde el blanqueo de capitales hasta la elusión de controles societarios. En cualquier caso, tiene el mérito de poner la pregunta sobre la mesa antes que nadie en el mundo hispanohablante.
La historia del derecho penal de las personas jurídicas nos enseña algo útil: las ficciones jurídicas que ayer parecían acaban incorporándose al ordenamiento cuando la realidad económica las hace inevitables.
En la actualidad, al igual que ayer pasó con la responsabilidad penal de una persona jurídica, la empresa gobernada por agentes de IA sin directivos humanos puede parecer hoy una rareza o un experimento tecnológico. Sin embargo, no lo es.
El legislador español haría bien en empezar a estudiar el problema antes de que la pregunta le llegue ya convertida en litigio. O, lo que es peor, que comiencen a desarrollarse y a operar de facto este tipo de entidades, radicadas en jurisdicciones con un bajo nivel de supervisión, ante la ausencia de una respuesta clara del ordenamiento europeo.
sobre la firma:
Francisco Pérez Bes es adjunto de la Agencia Española de Protección de Datos. Además, fue socio en el área de Derecho Digital de Ecix Group y es ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).