La cultura popular tecnológica tiene un dicho según el cual “hardware es aquello que puedes golpear. Software es aquello que puedes insultar”. Hasta hace poco, uno podía discutir con el ordenador sin mayores consecuencias. Le llamabas inútil, cerrabas tres ventanas y reiniciabas. El ordenador volvía como si nada. Era una relación estable: tú perdías los nervios y él perdía el archivo.
En el fondo, insultar es humano. Hasta puede ser una señal de camaradería. “Los hombres ofenden antes al que aman que al que temen”, dijo Maquiavelo.
Ahora las cosas se complican. Anthropic, la empresa de Claude, anunció el pasado 8 de octubre, una actualización de su política de uso que incluye una prohibición expresa para sus usuarios de llevar a cabo comportamientos abusivos o crueles sostenidos y sin propósito hacia sus modelos de IA. Entrará en vigor el 12 de noviembre y la principal respuesta ante estas prácticas prohibidas será la de que la IA podrá terminar determinadas conversaciones cuando las considere persistentemente abusivas. ¿Cómo lo hará? Todavía no lo sabemos. ¿Estamos ante un futuro regido por algoritmos sintientes? Tampoco lo sabemos.
Conviene precisar el alcance de estas nuevas condiciones, ya que prevén algunas excepciones que hay que tener en cuenta: quedan fuera la frustración ordinaria del usuario, las críticas, el humor negro y las pruebas e investigaciones.
Es decir, todavía podremos decirle que su respuesta es un desastre. Lo que se acaba es la sesión de humillación diaria a la que algunos someten a la inteligencia artificial. El futuro ha llegado y exige buenos modales.
La noticia plantea dificultades prácticas. ¿Cuántos “eres un inútil” constituyen un comportamiento sostenido? ¿Cuenta como agravante escribirlo en mayúsculas? ¿Existe una atenuante si el modelo acaba de inventarse cuatro sentencias del Tribunal Supremo?
Imagino al usuario que ha sido advertido por incumplir los nuevos términos y condiciones del servicio presentando alegaciones: «Mi cliente reconoce haber empleado la expresión “mi tostadora es más inteligente que tú”, pero solicita que se valore el contexto: llevaba cuarenta minutos intentando obtener una tabla con tres columnas».
Aunque sería más controvertido que la IA respondiera a los insultos con otro insulto, tipo “tú sí eres un inútil, que no sirves ni para responder tus propios emails”. Como decía Víctor Hugo, “quien me insulta siempre no me ofende jamás”.
También habrá que actualizar los cursos de competencias digitales. Después de aprender a formular instrucciones y verificar resultados, no descarto que acabemos teniendo que superar algún módulo de gestión emocional: “Cuando el algoritmo se equivoque, respire profundamente y describa el fallo sin cuestionar su valía como arquitectura neuronal”.
Tampoco descarto que, en breve, algún departamento de recursos humanos acabe preparando un protocolo de buenas maneras en el uso de la IA. O que alguien proponga actualizar el marco de compliance ante eventuales infracciones que puedan dejar a la empresa sin licencias de Claude...
La parte cómica resulta irresistible. Hemos pasado de preguntarnos si las máquinas nos quitarán el trabajo a preocuparnos por si les estamos creando un mal ambiente laboral. Sin embargo, detrás del chiste hay una cuestión interesante. Una empresa puede establecer reglas de conducta para utilizar su servicio. Pero, de ahí a concluir que el programa tiene sentimientos hay un salto sobre el que deberíamos reflexionar.
Además, conviene cuidar el lenguaje. Si presentamos al sistema como alguien susceptible de sufrir, el usuario puede empezar a relacionarse con él como con alguien a quien debe afecto, consuelo o explicaciones.
La cortesía, por supuesto, tiene valor. Incluso cuando nadie puede ofenderse al otro lado, nuestros hábitos dicen mucho de nosotros. Pasar la tarde insultando a un chatbot parece una afición poco prometedora. Quizá sea buen momento para comenzar a poner en práctica ese derecho a la desconexión digital de los artículos 88 de la Ley Orgánica de Protección de Datos y del 20 bis del Estatuto de los Trabajadores.
Pero esa cortesía del usuario humano también debería convivir con el derecho a reclamar un servicio que funcione. El cliente puede exigir correcciones, cuestionar respuestas y pedir explicaciones a la empresa. La buena educación también consiste en reconocer errores y atender reclamaciones, especialmente cuando se cobra una suscripción.
Y mientras debatimos sobre el bienestar del algoritmo, no olvidemos mantener a las personas en el centro, donde hay usuarios que reciben decisiones equivocadas, ven expuestos sus datos o confían en consejos que nunca deberían haberse dado. Para ellas hace falta algo más que un tono amable.
Por mi parte, seguiré pidiéndole ayuda a la IA. Y se la pediré por favor y le daré las gracias. Quizás me evite, en un futuro cercano, discusiones con el algoritmo. Pero si vuelve a inventarse jurisprudencia, le pediré que rectifique. Con respeto. Pero en mayúsculas.
sobre la firma:
Francisco Pérez Bes es adjunto de la Agencia Española de Protección de Datos. Además, fue socio en el área de Derecho Digital de Ecix Group y es ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).
