Colaboración de Sanidad con Meta y OpenAI para un manejo seguro de la IA en salud mental

Belén González, comisionada de Salud Mental, comunicó que su equipo, parte del Ministerio de Sanidad, colabora con Meta y OpenAI para asegurar un manejo responsable de la inteligencia artificial generativa en el ámbito de la salud mental. El objetivo es prevenir que los ‘chatbots’ produzcan comunicaciones que podrían llevar al ‘sufrimiento’ o a un ‘desenlace problemático’ en individuos con trastornos mentales o pensamientos suicidas.

‘Estamos en contacto para poder mejorar estas herramientas, que son inevitables y con las que tenemos que relacionarnos, pero desde un lugar que no es para el sufrimiento psíquico’, declaró González en la conclusión de la jornada ‘Prevención Integral del Suicidio: territorio y comunidad’. Este evento se llevó a cabo en el Ministerio de Sanidad durante el Día Internacional de la Prevención del Suicidio.

Asimismo, la comisionada explicó que se están abordando las problemáticas relacionadas con el uso de los ‘chatbots’ como acompañantes terapéuticos y los peligros derivados de la información que estos pueden ofrecer a personas con padecimientos psíquicos, incluyendo el desarrollo de mecanismos de control y seguridad por parte de la IA.

A pesar de los avances, González enfatizó que estas herramientas ‘no van a sustituir a ningún terapeuta’ y criticó la tendencia de algunas personas de buscar ayuda en la IA en momentos de crisis suicidas. ‘Ahora resulta que cuando tengo ganas de morirme, en lugar de decírselo a mi compañero, a mi hermano, a mi madre, a mi tío, a mi vecino, a mi amiga, se lo digo a un ‘chatbot’, se lo digo a ‘ChatGPT’. Esto no puede seguir pasando, porque es un síntoma de la sociedad en la que vivimos. Y tiene que ver con esta herramienta de la inteligencia artificial generativa y con la falsa sensación de que es una persona la que tenemos al otro lado’, explicó.

Finalmente, hizo hincapié en la necesidad de mejorar la capacidad de escuchar a quienes expresan deseos suicidas, incluso desde el ámbito profesional. Destacó la importancia del teléfono 024, que considera una ‘herramienta imprescindible’ recibiendo unas 600 llamadas diarias, proporcionando una escucha inicial, directa y no juzgadora, disponible de forma anónima para quien lo necesite.