María José Parejo, profesora titular y futura catedrática de Derecho Eclesiástico del Estado en la Universidad Pablo de Olavide, ha compartido sus reflexiones en una entrevista con Europa Press sobre los ‘importantes retos legales, éticos y formativos’ que implica la Inteligencia Artificial en el sector de la salud.
En su participación en el curso de verano ‘Derecho(s), enseñanza del Derecho e innovación tecnológica: retos y oportunidades de la aplicación de la inteligencia artificial’ en la UPO, celebrado en Carmona y del cual fue codirectora, Parejo centró su intervención en los ‘desafíos que entraña el uso de sistemas automatizados en contextos clínicos y en decisiones médicas de alto impacto’, incluyendo cuestiones delicadas como ‘la eutanasia’, y destacó su labor como vocal de la Comisión de Garantía y Evaluación de la Consejería de Salud de la Junta de Andalucía.
‘Estamos hablando de la vida humana’, enfatizó Parejo, resaltando los peligros de decisiones erróneas basadas en IA en la medicina que pueden ser ‘irreversibles’ y la importancia de ‘imponer límites claros’ al uso de estas tecnologías en todos los sectores sociales.
PROTECCIÓN DE DATOS Y RESPONSABILIDAD: ‘LOS GRANDES RETOS’
Parejo subrayó la importancia de la ‘protección de datos personales y la determinación de responsabilidades’. ‘La IA se alimenta de grandes cantidades de datos, pero no sabemos a dónde van esos datos ni cómo se utilizan. En el caso de los datos de salud, el riesgo es especialmente grave’, explicó, insistiendo en una regulación ‘clara’ que proteja la confidencialidad del paciente. Además, planteó quien debería ser responsable en caso de que ‘un paciente fallece como consecuencia de una indicación errónea de un sistema de inteligencia artificial’.
La docente también remarcó el riesgo de dependencia ciega en recomendaciones automatizadas y la necesidad de capacitación crítica del personal médico. ‘Hay que formar al personal sanitario para que utilice la inteligencia artificial con rigor y sin delegar en ella decisiones humanas trascendentales’, afirmó.
Parejo también advirtió sobre el potencial de la inteligencia artificial para ‘vulnerar derechos fundamentales sin que seamos plenamente conscientes de ello’ y la importancia de formar a los formadores en el uso ético y legal de estas herramientas.
‘UNA CUESTIÓN DE ÉTICA PROFESIONAL’
Desde una perspectiva ética, Parejo destacó los dilemas del uso de la IA en la medicina diaria, preguntándose sobre los límites de la ética profesional y la autenticidad del consentimiento del paciente en decisiones críticas. ‘Es crucial garantizar que el criterio humano no se vea desplazado por sistemas que, aunque eficaces, carecen de sensibilidad moral’, señaló, concluyendo con la necesidad de un marco normativo que regule la integración de la IA en la sociedad y anticipó la publicación de un ‘Código de Buenas Prácticas’ por parte del Ministerio de Universidades.
A pesar de los temores que suscita, Parejo se mostró cautelosamente optimista sobre el futuro de la IA en la educación y la medicina, considerándola una herramienta potencial para el progreso si se maneja adecuadamente.