En les últimes setmanes hem conegut diversos casos d'ús inadequat de la intel·ligència artificial en el sector de la justícia, en particular per part d'advocats i fins i tot de membres de la carrera judicial. Encara que per ara els focus se centren en l'àmbit jurídic, seria ingenu pensar que el retret no assolirà aviat altres professions.
Més enllà de l'anecdòtic, aquests episodis reflecteixen una realitat difícil d'ignorar: si la intel·ligència artificial generativa permet redactar documents jurídics de forma ràpida, senzilla i amb un mínim de rigor, la seva adopció massiva és només qüestió de temps. La pregunta ja no és si s'utilitzarà, sinó com.
I aquí és on el debat comença a deixar de ser abstracte. Hem passat de discutir els riscos generals de la IA a afrontar una exigència concreta de responsabilitat professional. No es tracta de determinar si la tecnologia pot fallar —això és evident—, sinó de definir quins estàndards de diligència s'han d'exigir als qui l'empren en contextos jurídics.
A la vista d'aquest nou escenari, podem concloure que la intel·ligència artificial no substitueix el deure de diligència. Ans al contrari, el redefineix i, sobretot, l'eleva.
I, en particular, en l’àmbit de la justícia, lluny d’atenuar la responsabilitat professional, la IA l’incrementa. Això és, quan un advocat presenta un escrit amb jurisprudència inexistent generada per un sistema, o un jutge fonamenta una resolució en informació no verificada o filtra informació confidencial, no estem davant d’un “error tecnològic”, sinó davant d’un incompliment del deure bàsic de prudència.
Aquest deure no és nou. De fet, és un principi intrínsec al mateix Dret. Tanmateix, la IA generativa redissenya l'entorn en què s'ha d'aplicar aquell, on qüestions ja resoltes es tornen a replantejar i s'introdueixen nous riscos. En aquest cas, podem parlar de l'error plausible.
En efecte, tradicionalment, els errors jurídics derivaven d'interpretacions discutibles o negligències puntuals. Amb la IA emergeix una nova categoria, que podem qualificar com de “error induït per una font aparentment fiable”. Això no elimina la responsabilitat del professional, però a nivell teòric sí que planteja interrogants sobre l'abast de la bona fe en aquests supòsits.
Perquè la IA no només produeix respostes, sinó respostes versemblants: cites, estructura, llenguatge tècnic. I precisament per aquesta aparença de fiabilitat, pot relaxar —més del desitjable— els mecanismes de control exigibles al professional del Dret. Per això, l'estàndard de diligència s'ha d'ajustar a aquesta nova realitat: com més probable és l'error, més gran ha de ser l'exigència de verificació.
A partir d'aquí comença a perfilar-se un estàndard implícit del que es coneix com a “ús responsable de la IA”.
Les sancions recents apunten en aquesta direcció i suggereixen la necessitat de revisar principis deontològics i pràctiques professionals. Entre altres, es podria destacar:
- No confiar en els resultats de la IA.
- Verificar fonts, cites i dades.
- Comprendre les limitacions de les eines utilitzades.
- Evitar la delegació a la IA de tasques crítiques o decisions que requereixen judici professional.
Aquest enfocament connecta directament amb el principi d’accountability, traslladat des de la protecció de dades a l’exercici professional: no n’hi ha prou amb complir, cal poder demostrar que s’ha complert.
Així les coses, davant de certs debats més especulatius, es consolida el criteri que indica que la responsabilitat no es desplaça cap a la IA, sinó que respon qui l'utilitza, qui l'integra en la seva pràctica professional i, si escau, l'organització que no estableix controls adequats per evitar-ne el mal ús. Una obligació in eligendo i in vigilando com a criteri de diligència aplicat a la pràctica jurídica en què la IA ha deixat de ser un element opcional i ha passat a convertir-se en un element estructural de l'exercici professional.
Això té implicacions immediates per a despatxos, administracions públiques i òrgans judicials, que hauran de definir —si no ho han fet ja— polítiques internes clares sobre l'ús d'aquestes eines, com recentment han fet el Consell General del Poder Judicial o el Consell General de l'Advocacia. Falta ara establir els mecanismes de seguiment i control adequats per poder garantir-ne el compliment.
Però el problema no és només disciplinari. L'ús negligent de la IA en la pràctica jurídica pot erosionar la confiança social en el sistema de justícia. Si escrits i resolucions comencen a percebre's com a productes generats sense control humà suficient, la qüestió deixa de ser individual i passa a ser institucional.
En definitiva, les sancions recents no són fets aïllats, sinó els primers indicis d'una transformació més profunda. La incorporació de la IA a l'àmbit jurídic ve acompanyada d'un enduriment de l'estàndard de diligència: no es penalitza l'ús de la tecnologia, sinó el seu ús acrític.
I aquest matís serà determinant en els pròxims mesos.
sobre la firma
Francisco Pérez Bes és adjunt de l’Agència Espanyola de Protecció de Dades. A més, va ser soci a l’àrea de Dret Digital d’Ecix Group i és ex Secretari General de l’Institut Nacional de Ciberseguretat (INCIBE).