En la era digital, y más especialmente en esta época regida por la inteligencia artificial, los chatbots se han convertido en herramientas comunes para brindar asistencia y responder preguntas en una variedad de contextos, desde el servicio al cliente hasta la consulta de cualquier naturaleza.
Con carácter previo cabe recordar que los chatbots son programas informáticos diseñados para ofrecer información a los usuarios de una página web, en respuesta a las indicaciones y preguntas de esa persona.
Las respuestas que ofrece están basadas en algoritmos y datos predefinidos y su capacidad para interpretar preguntas y proporcionar respuestas precisas puede variar.
En términos generales y desde la perspectiva legal, en este tipo de interactuaciones entre consumidores y chatbots, rige siempre la normativa de protección del consumidor, donde uno de sus principios básicos tiene que ver con el carácter vinculante de las ofertas que se les dirige o a los que alcanza.
En este sentido, en España encontraremos múltiples antecedentes con respecto al valor contractual de las alegaciones de carácter publicitario, tal y como recogen la ley 3/1991, de competencia desleal y el Texto refundido 1/2007 para la defensa de consumidores y usuarios.
Las respuestas que ofrecen los chatbots están basadas en algoritmos y datos predefinidos y su capacidad para interpretar preguntas y proporcionar respuestas precisas puede variar
Si bien en nuestro país todavía no se conocen controversias judiciales relacionadas con las afirmaciones proporcionadas por un chatbot, en Canadá acabamos de conocer el resultado de un procedimiento en el que un usuario de una página web de una aerolínea contrató un billete de avión para una tarifa determinada, siguiendo el proceso estipulado en dicha web.
Dicha tarifa especial se regía por unas condiciones, facilitadas por el citado chatbot, que -según parece- consistía en información contradictoria con respecto a la aplicación de las condiciones generales de vuelo.
Tras la reclamación del usuario afectado, la compañía le denegó las condiciones más beneficiosas que aparentemente resultaban de aplicación al proceso de contratación formalizado.
Ante esto, el afectado denunció a la compañía ante los tribunales civiles, obteniendo una resolución favorable a sus intereses, esto es, condenando a la compañía aérea a indemnizar al usuario por los daños causados, derivados de las afirmaciones vertidas por el chatbot durante el proceso de contratación.
La evolución de los chatbots
La aplicación de sistemas de inteligencia artificial en formatos chatbot han evolucionado rápidamente, y ya son bastantes los negocios que, en sus páginas web, utilizan este tipo de recursos para interactuar con sus clientes o simples usuarios de sus servicios online.
En el ámbito legal, por ejemplo, algunos chatbots están siendo programados para ofrecer asesoramiento jurídico básico sobre temas específicos. Sin embargo, es crucial comprender que estas respuestas no constituyen asesoramiento legal formal y pueden carecer de la profundidad y la contextualización necesarias para abordar situaciones legales complejas.
La licitud de las alegaciones de un chatbot también puede estar sujeta a otras consideraciones legales y éticas
Además de que el despacho responsable debe valorar la adecuación de su iniciativa a la normativa deontológica que rige la profesión.
La licitud de las alegaciones de un chatbot también puede estar sujeta a otras consideraciones legales y éticas. Por ejemplo, en el caso de los servicios financieros, los chatbots que proporcionan información sobre inversiones pueden estar sujetos a regulaciones estrictas destinadas a proteger a los inversores y garantizar la divulgación adecuada de riesgos.
Una nueva ley de inteligencia artificial
En resumen, si bien los chatbots pueden ser herramientas útiles para proporcionar información y asistencia en una variedad de contextos, es fundamental entender sus limitaciones y no depender exclusivamente de ellos para tomar decisiones importantes.
La empresa, por su parte, quedará vinculada por lo dispuesto en la normativa aplicable, debiendo garantizar el cumplimiento de, por un lado, la normativa comercial y de protección del consumidor y, de otro lado, la nueva regulación sobre inteligencia artificial.
Es fundamental entender las limitaciones de los chatbots y no depender exclusivamente de ellos para tomar decisiones importantes
Con respecto a esto último, cabe recordar que la propuesta de Reglamento de IA exige que, en base al principio de transparencia, se informe adecuadamente a los usuarios acerca del hecho de no estar interactuando con un humano.
Mientras que, en aplicación de la normativa general, deberá preverse el facilitar otra información adicional exigida por el resto de normativa, como pueda ser información sobre la naturaleza de las respuestas proporcionadas por un chatbot, incluidas las limitaciones y las circunstancias en las que se recomienda buscar asesoramiento adicional.
En definitiva, que un caso como el ocurrido en Canadá refleja la complejidad que tiene el lanzar al mercado herramientas tecnológicas basadas en inteligencia artificial, puesto que es preciso desarrollar previamente una tarea de verificación del cumplimiento normativo, general, sectorial y hasta deontológica, que reduzca el riesgo sancionador que trae consigo la IA.
Mientras que, de otra parte, los poderes públicos deberán asegurar una correcta supervisión de las empresas que usan este tipo de tecnologías a los efectos de mantener la correcta concurrencia en el mercado, a la par que facilitan canales de reclamación y denuncia ante este tipo de situaciones, a las que nos vamos a tener que acostumbrar más pronto que tarde.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex secretario General del Instituto Nacional de Ciberseguridad (INCIBE)