QUIÉN ES QUIÉN
A MANO ALZADA
En esta sociedad conectada, en la que cada vez hay más contenidos accesibles, no podemos obviar la proliferación de herramientas basadas en inteligencia artificial bajo la apariencia de juguetes, que se vienen usando -cada vez más- para ofrecer contenidos educativos a los más pequeños.
De ello se hacía eco recientemente la revista Forbes en su artículo titulado El próximo compañero de juegos de tu hijo podría ser un juguete con inteligencia artificial basado en chatGPT (“your child next playmate could be an Ai toy powered by chatGPT”)
En dicho artículo, se analizaban varios juguetes dirigidos a niños pequeños que incorporan inteligencia artificial y que están actualmente disponibles para su compra online.
Viendo esto no puedo dejar de recordar la película dirigida por Terrence Malik, titulada “Despidiendo a Yang” (After Yang, 2022), donde conviven personas y humanoides que, gracias a la IA, educan a los más pequeños en el seno familiar.
En este caso, la reflexión a la que nos lleva dicha película va más allá de la simple aplicación educativa de dicha tecnología, para poner sobre la mesa un futuro en el que los humanos, especialmente los niños, pueden llegar a sentir aprecio, cariño, dependencia o, incluso, amor, por una máquina antropomórfica.
Tal y como también se plantea en la sociedad híbrida que se representa en “The Creator” (Gareth Edwards, 2023). Cuestiones éticas que deben abordarse desde el rigor y la reflexión.
Inteligencia artificial: ¿algo más que juguetes conectados?
Sin llegar -todavía- al nivel de evolución de seres como Yang, entre los juguetes que aparecen en el citado artículo, podemos destacar a Miko, un robot con IA que se presenta como un amigo para tu hijo a partir de 5 meses.
En este caso, la publicidad del juguete afirma que “la IA de aprendizaje profundo permite a Miko 3 entender y responder al mundo de un niño, inculcando sentimientos de compañía y conexión social para ayudar a construir confianza”.
A partir de los 3 años, encontramos al prototipo sin pantalla Grok, con el que tu hijo puede hablar sobre cualquier cosa e interactuar durante su desarrollo más temprano.
Por otro lado, a partir de los 5 años encontramos a Moxie, un robot que se presenta como un “copiloto parental” que, incluso, utiliza alegaciones sanitarias que en España podrían ser consideradas como ilícitas, de ayuda psicológica a algunos niños con dificultades.
Europa ha iniciado un proceso de actualización casi total de toda la normativa digital, entre la que se incluye la referente a la seguridad de los juguetes conectados
Además de las evidentes dudas que pueden surgir con respecto a los mensajes, ideas, principios o valores que el robot pueda inculcar a los niños, encontramos las habituales cuestiones relacionadas con la privacidad y la seguridad de los datos y de los propios usuarios, que en este caso no sólo deben limitarse a su faceta más física, sino que hay que incidir, muy especialmente, en la psicológica.
Con respecto a esto último, cabe referirse a la regulación española aplicable, que en este caso es el Real Decreto 1205/2011, de 26 de agosto, sobre la seguridad de los juguetes, la cual afirma, en su artículo 17, que: “antes de introducir un juguete en el mercado, los fabricantes efectuarán un análisis de los peligros químicos, físicos, mecánicos, eléctricos, de inflamación, higiénicos y radiactivos que el juguete pueda presentar, así como una evaluación de la posible exposición a esos peligros. Dejarán registro de ello”.
Como puede verse a simple vista, se trata de una normativa que, en su origen, no preveía la aparición de sistemas tecnológicamente tan avanzados como para transformar un juguete en un recurso educativo de estas características. Por ello, Europa ha iniciado un proceso de actualización casi total de toda la normativa digital, entre la que se incluye la referente a la seguridad de los juguetes conectados.
En este caso, el Comité IMCO está preparando un proyecto de informe sobre la propuesta de reglamento sobre la seguridad de los juguetes. Se prevé que el comité vote sobre el informe en febrero o marzo de 2024.
Tal propuesta revisa la Directiva 2009/48/CE sobre la seguridad de los juguetes a la luz de los nuevos desafíos que traen consigo el comercio electrónico y las nuevas tecnologías.
Los niños deben estar protegidos de manera efectiva de los juguetes inseguros y, por eso, la legislación actual no solo debe actualizarse, sino debe ser coherente con otra legislación vigente
Para el Relator del citado informe, los niños deben estar protegidos de manera efectiva de los juguetes inseguros y, por eso, la legislación actual no solo debe actualizarse, sino que también debe ser coherente con otra legislación vigente como, por ejemplo, el Reglamento General de Seguridad de los Productos o, cómo no, el Reglamento de Inteligencia Artificial o la normativa sobre ciberseguridad.
En cualquier caso, y con independencia de la más o menos rápida evolución de estos recursos, es urgente prepararnos para, desde la Ética y el Derecho, enfrentarnos a cuestiones relativas al modelo educativo de los menores del futuro. Ya no basta con exigir medidas tecnológicas de protección.
Se necesitan medidas humanas, donde los padres y tutores se involucren y comprometan a abordar la educación de los niños de hoy, que serán los ciudadanos del mañana.
SOBRE LA FIRMA Francisco Pérez Bes es socio en el área de Derecho Digital de Ecix Group y ex Secretario General del Instituto Nacional de Ciberseguridad (INCIBE).
