Sobre la justicIA

En las últimas semanas hemos conocido diversos casos de uso inadecuado de la inteligencia artificial en el sector de la justicia, en particular por parte de abogados e incluso de miembros de la carrera judicial. Aunque por ahora los focos se centran en el ámbito jurídico, sería ingenuo pensar que el reproche no alcanzará pronto a otras profesiones.

Más allá de lo anecdótico, estos episodios reflejan una realidad difícil de ignorar: si la inteligencia artificial generativa permite redactar documentos jurídicos de forma rápida, sencilla y con un mínimo de rigor, su adopción masiva es solo cuestión de tiempo. La pregunta ya no es si se utilizará, sino cómo.

Y ahí es donde el debate comienza a dejar de ser abstracto. Hemos pasado de discutir los riesgos generales de la IA a afrontar una exigencia concreta de responsabilidad profesional. No se trata de determinar si la tecnología puede fallar —eso es evidente—, sino de definir qué estándares de diligencia deben exigirse a quienes la emplean en contextos jurídicos.

A la vista de este nuevo escenario, podemos concluir que la inteligencia artificial no sustituye el deber de diligencia. Antes al contrario, lo redefine y, sobre todo, lo eleva.

Y, en particular, en el ámbito de la justicia, lejos de atenuar la responsabilidad profesional, la IA la incrementa. Esto es, cuando un abogado presenta un escrito con jurisprudencia inexistente generada por un sistema, o un juez fundamenta una resolución en información no verificada o filtra información confidencial, no estamos ante un “fallo tecnológico”, sino ante un incumplimiento del deber básico de prudencia.

Ese deber no es nuevo. De hecho, es un principio intrínseco al propio Derecho. Sin embargo, la IA generativa rediseña el entorno en el que debe aplicarse aquel, donde cuestiones ya resueltas se vuelven a replantear y se introducen nuevos riesgos. En este caso, podemos hablar del error plausible.

En efecto, tradicionalmente, los errores jurídicos derivaban de interpretaciones discutibles o negligencias puntuales. Con la IA emerge una nueva categoría, que podemos calificar como de “error inducido por una fuente aparentemente fiable”. Esto no elimina la responsabilidad del profesional, pero a nivel teórico sí plantea interrogantes sobre el alcance de la buena fe en estos supuestos.

Porque la IA no solo produce respuestas, sino respuestas verosímiles: citas, estructura, lenguaje técnico. Y precisamente por esa apariencia de fiabilidad, puede relajar —más de lo deseable— los mecanismos de control exigibles al profesional del Derecho. Por ello, el estándar de diligencia debe ajustarse a esta nueva realidad: cuanto más probable es el error, mayor debe ser la exigencia de verificación.

A partir de ahí empieza a perfilarse un estándar implícito de lo que se conoce como “uso responsable de la IA”.

Las sanciones recientes apuntan en esa dirección y sugieren la necesidad de revisar principios deontológicos y prácticas profesionales. Entre otras, cabría destacar:

• No confiar en los resultados de la IA.
• Verificar fuentes, citas y datos.
• Comprender las limitaciones de las herramientas utilizadas.
• Evitar la delegación en la IA de tareas críticas o decisiones que requieren juicio profesional.

Este enfoque conecta directamente con el principio de accountability, trasladado desde la protección de datos al ejercicio profesional: no basta con cumplir, es necesario poder demostrar que se ha cumplido.

Así las cosas, frente a ciertos debates más especulativos, se consolida el criterio que indica que la responsabilidad no se desplaza hacia la IA, sino que responde quien la utiliza, quien la integra en su práctica profesional y, en su caso, la organización que no establece controles adecuados para evitar su mal uso. Una obligación in eligendo e in vigilando como criterio de diligencia aplicado a la práctica jurídica en la que la IA ha dejado de ser un elemento opcional y ha pasado a convertirse en un elemento estructural del ejercicio profesional.

Esto tiene implicaciones inmediatas para despachos, administraciones públicas y órganos judiciales, que deberán definir —si no lo han hecho ya— políticas internas claras sobre el uso de estas herramientas, como recientemente han hecho el Consejo General del Poder Judicial o el Consejo General de la Abogacía. Falta ahora establecer los mecanismos de seguimiento y control adecuados para poder garantizar su cumplimiento.

Pero el problema no es solo disciplinario. El uso negligente de la IA en la práctica jurídica puede erosionar la confianza social en el sistema de justicia. Si escritos y resoluciones comienzan a percibirse como productos generados sin control humano suficiente, la cuestión deja de ser individual y pasa a ser institucional.

En definitiva, las sanciones recientes no son hechos aislados, sino los primeros indicios de una transformación más profunda. La incorporación de la IA al ámbito jurídico viene acompañada de un endurecimiento del estándar de diligencia: no se penaliza el uso de la tecnología, sino su uso acrítico.

Y ese matiz será determinante en los próximos meses.