Quod in inventute non discitur, in matura aetate nescitur
Casiodoro
Menores que acceden a contenidos inadecuados online
Estas últimas semanas han estado centradas en un complejo debate que ha tenido por protagonista una controvertida cuestión donde se barajan varios aspectos educativos y sanitarios que afectan a la salud de nuestros niños y adolescentes.
Nos referimos, en particular, a la problemática que plantea el libre acceso online de los menores de edad a contenidos inadecuados para ellos, en particular a la pornografía.
Cada vez es más urgente plantear una respuesta eficaz a la necesidad de ofrecerles una educación y capacitación adecuada para enfrentarse a un mundo regido por una tecnología
Este debate se retoma en estos tiempos, en los que la inteligencia artificial lo impregna todo, y en los que cada vez es más urgente plantear una respuesta eficaz a la necesidad de ofrecerles una educación y capacitación adecuada para enfrentarse a un mundo regido por una tecnología que sólo ha mostrado una pequeñísima parte de su capacidad, pero sobre la cual sí podemos afirmar que no ha sido diseñada ni pensada para un público menor de edad.
Los deepfakes y la responsabilidad legal
Los riesgos y amenazas que afloran con el uso de herramientas que permiten manipular fácilmente imágenes, son cada vez mayores:
Hemos sido testigos de cómo algunas herramientas, que ficticiamente muestran desnudas a personas que aparecen en una fotografía, han sido empleadas para acosar a niñas menores de edad en un colegio español. Más recientemente, hemos asistido a una auténtica crisis nacional en Estados Unidos debido a la aparición de un vídeo pornográfico en el que se utilizaba de manera ilícita la imagen de una conocida celebrity, lo que ha provocado la inmediata reacción de la propia Casa Blanca.
Así las cosas, todo parece apuntar que cada vez vamos a vivir más situaciones en las que la tecnología se seguirá empleando para amenazar los derechos fundamentales de las personas.
Y, mientras eso ocurre, se seguirán esgrimiendo, con vehemencia renovada, los mismos argumentos que sostenían -con razón- que estamos ante una responsabilidad compartida entre los padres y educadores, las plataformas, los editores de dichos contenidos y los propios usuarios, aunque estos últimos en menor medida debido a su inmadurez y mayor vulnerabilidad.
Cuestiones de futuro
En este escenario, cabe poner sobre la mesa dos ideas que quizás marquen la agenda digital o, por lo menos, el debate, de los próximos meses.
De un lado, la importancia de tener claro cuál debe ser el objetivo y, sobre todo el alcance, de la regulación de la IA que irá surgiendo en los próximos años.
En efecto, parece que la labor del legislador vuelve a ser fundamental, especialmente en un momento en que ser el primero en elaborar leyes para regular lo digital se ha convertido en un objetivo que lograr a toda costa, aunque todavía no se sea consciente del impacto social que puede tener la tecnología que trata de regularse.
Ser el primero en elaborar leyes para regular lo digital se ha convertido en un objetivo que lograr a toda costa
De hecho, no se ha aprobado todavía el Reglamento europeo que regulará la Inteligencia Artificial y ya hay comunidades autónomas, como Galicia, que han anunciado proyectos dirigidos a elaborar normativa propia. Esperemos que, en caso de avanzar en este propósito, no olviden el impacto en los menores de esta tecnología, teniendo en cuenta que el Reglamento europeo no parece haberles prestado demasiada atención.
La protección de nuestros menores en el ámbito digital no debe consistir únicamente en una serie de acciones reactivas derivadas del acceso a contenido pornográfico
De otro lado, la protección de nuestros menores en el ámbito digital no debe consistir únicamente en una serie de acciones reactivas derivadas del acceso a contenido pornográfico, sino que la planificación de esa estrategia preventiva debe centrarse en, por una parte, la restricción de acceso a cualquier contenido inadecuado (para lo cual habrá que contar con la responsabilidad de la industria de tales contenidos); y, por otra parte, en la restricción del canal a través del cual se consume (en particular los dispositivos móviles, que facilitan tal acceso evitando cualquier tipo de supervisión adulta), cuya competencia recae en los padres y tutores, y en los centros educativos.
Sólo queda desear que la iniciativa de nuestra Agencia Española de Protección de Datos tenga éxito. En cualquier caso, haber puesto esta cuestión en el centro del debate ya es una primera victoria.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE)