La cultura popular tecnològica té un dit segons el qual "hardware és allò que pots colpejar. Software és allò que pots insultar". Fins fa poc, un podia discutir amb l'ordinador sense majors conseqüències. Li deies inútil, tancaves tres finestres i reiniciaves. L'ordinador tornava com si res. Era una relació estable: tu perdies els nervis i ell perdia l'arxiu.
En el fons, insultar és humà. Fins i tot pot ser una senyal de camaraderia. "Els homes ofenen abans al que estimen que al que temen", va dir Maquiavel.
Ara les coses es compliquen. Anthropic, l'empresa de Claude, va anunciar el passat 8 d'octubre, una actualització de la seva política d'ús que inclou una prohibició expressa per als seus usuaris de dur a terme comportaments abusius o cruels sostinguts i sense propòsit cap als seus models d'IA. Entrarà en vigor el 12 de novembre i la principal resposta davant d'aquestes pràctiques prohibides serà que la IA podrà acabar determinades converses quan les consideri persistentment abusives. Com ho farà? Encara no ho sabem. Estem davant d'un futur regit per algoritmes sentients? Tampoc ho sabem.
Convé precisar l'abast d'aquestes noves condicions, ja que preveuen algunes excepcions que cal tenir en compte: queden fora la frustració ordinària de l'usuari, les crítiques, l'humor negre i les proves i investigacions.
És a dir, encara podrem dir-li que la seva resposta és un desastre. El que s'acaba és la sessió d'humiliació diària a la qual alguns sotmeten la intel·ligència artificial. El futur ha arribat i exigeix bons modals.
La notícia planteja dificultats pràctiques. Quants "ets un inútil" constitueixen un comportament sostingut? Comptaria com a agreujant escriure-ho en majúscules? Existeix una atenuant si el model acaba d'inventar-se quatre sentències del Tribunal Suprem?
Imagino l'usuari que ha estat advertit per incomplir els nous termes i condicions del servei presentant al·legacions: «El meu client reconeix haver emprat l'expressió "la meva torradora és més intel·ligent que tu", però sol·licita que es valori el context: portava quaranta minuts intentant obtenir una taula amb tres columnes».
Encara que seria més controvertit que la IA respongués als insults amb un altre insult, tipus "tu sí que ets un inútil, que no serveixes ni per respondre els teus propis correus electrònics". Com deia Víctor Hugo, "qui m'insulta sempre no m'ofèn mai".
També caldrà actualitzar els cursos de competències digitals. Després d'aprendre a formular instruccions i verificar resultats, no descarto que acabem tenint que superar algun mòdul de gestió emocional: "Quan l'algoritme s'equivoqui, respiri profundament i descrigui el fallament sense qüestionar la seva vàlua com a arquitectura neuronal".
Tampoc descarto que, aviat, algun departament de recursos humans acabi preparant un protocol de bones maneres en l'ús de la IA. O que algú proposi actualitzar el marc de compliance davant eventuals infraccions que puguin deixar l'empresa sense llicències de Claude...
La part còmica resulta irresistible. Hem passat de preguntar-nos si les màquines ens trauran la feina a preocupar-nos per si els estem creant un mal ambient laboral. No obstant això, darrere de la broma hi ha una qüestió interessant. Una empresa pot establir regles de conducta per utilitzar el seu servei. Però, d'aquí a concloure que el programa té sentiments hi ha un salt sobre el qual hauríem de reflexionar.
A més, convé cuidar el llenguatge. Si presentem el sistema com algú susceptible de patir, l'usuari pot començar a relacionar-se amb ell com amb algú a qui ha de tenir afecte, consol o explicacions.
La cortesia, per descomptat, té valor. Fins i tot quan ningú pot ofendre's a l'altre costat, els nostres hàbits diuen molt de nosaltres. Passar la tarda insultant un chatbot sembla una afició poc prometedora. Potser és un bon moment per començar a posar en pràctica aquest dret a la desconnexió digital dels articles 88 de la Llei Orgànica de Protecció de Dades i del 20 bis de l'Estatut dels Treballadors.
Però aquesta cortesia de l'usuari humà també hauria de conviure amb el dret a reclamar un servei que funcioni. El client pot exigir correccions, qüestionar respostes i demanar explicacions a l'empresa. La bona educació també consisteix a reconèixer errors i atendre reclamacions, especialment quan es cobra una subscripció.
I mentre debatim sobre el benestar de l'algoritme, no oblidem mantenir les persones al centre, on hi ha usuaris que reben decisions equivocades, veuen exposats les seves dades o confien en consells que mai haurien d'haver-se donat. Per a elles cal alguna cosa més que un to amable.
Per la meva part, seguiré demanant-li ajuda a la IA. I se la demanaré si us plau i li donaré les gràcies. Potser m'evitarà, en un futur proper, discussions amb l'algoritme. Però si torna a inventar-se jurisprudència, li demanaré que rectifiqui. Amb respecte. Però en majúscules.
sobre la firma:
Francisco Pérez Bes és adjunt de l'Agència Espanyola de Protecció de Dades. A més, va ser soci en l'àrea de Dret Digital d'Ecix Group i és ex Secretari General de l'Institut Nacional de Ciberseguretat (INCIBE).
