En matèria d'intel·ligència artificial, la recent iniciativa impulsada als Estats Units per orientar la futura activitat legislativa dels seus congressistes (que porta per títol “AI National Policy Framework”) situa, de manera significativa, la protecció dels menors al centre del debat.
No en va, dels set blocs que componen aquest marc, la protecció dels menors és el primer i el més extens.
Aquest fet no ha de ser considerat com una decisió menor o merament simbòlica. Al contrari, reflecteix una intuïció política encertada: la primera línia de legitimitat de qualsevol regulació tecnològica passa, avui, per la seva capacitat per protegir els col·lectius més vulnerables en un entorn digital cada vegada més difícil de governar. De fet, l'educació digital dels futurs ciutadans hauria, al meu parer, de convertir-se en un assumpte de seguretat nacional o, si més no, estratègic des d'una perspectiva de salut pública.
El bloc esmentat sobre la protecció dels menors planteja una sèrie de recomanacions i mandats al legislador, amb un enfocament que combina tres elements: responsabilitat de les plataformes, apoderament parental i desenvolupament de mecanismes de verificació d'edat. Sobre el paper, la fórmula sembla equilibrada.
S'exigeix als serveis d'IA que incorporin mesures per reduir riscos evidents —com els deepfakes, l'explotació sexual o la inducció a les autolesions—, alhora que es reforça el paper dels pares com a principals gestors de l'entorn digital dels seus fills.
De fet, la responsabilitat proactiva de l'adult és un punt específic dins d'aquest document. En efecte, aquest marc regulador requereix al Congrés dels Estats Units que en la seva futura activitat legislativa prevegi obligar les plataformes a facilitar als pares i tutors eines robustes amb les quals gestionar i configurar adequadament la privadesa, el temps d'ús, l'exposició a continguts inadequats, així com altres controls aplicables als comptes dels usuaris.
A més, s'introdueixen requisits de verificació d'edat “raonables” des del punt de vista comercial i que han de ser respectuosos amb la privacitat, la qual cosa evidencia una preocupació per no generar solucions intrusives o desproporcionades.
Tanmateix, la claredat aparent d'aquests principis s'enfronta a una realitat tècnica i jurídica molt més complexa.
El primer dels grans desafiaments radica en la pròpia definició de “protecció del menor” en entorns basats en intel·ligència artificial. A diferència de les plataformes tradicionals, els sistemes d'IA no només distribueixen continguts, sinó que els generen dinàmicament, cosa que dificulta enormement el control ex ante i desplaça el problema cap a models de mitigació de riscos molt més sofisticats.
En aquest context, exigir a les plataformes que redueixin riscos sense definir amb precisió els estàndards tècnics aplicables pot generar una tensió inevitable entre compliment normatiu i viabilitat operativa.
Un segon element crític és el relatiu a la verificació d'edat (age assurance). Mentre Europa continua avançant en el foment d'aquestes tecnologies (liderat, en gran part, per l'Agència Espanyola de Protecció de Dades), La proposta nord-americana opta per un altre tipus de fórmules, com la declaració parental, evitant sistemes més intrusius.
Aquesta cautela respon a la preocupació per una possible judicialització de l'ecosistema digital
Tanmateix, aquest enfocament planteja interrogants evidents sobre la seva eficàcia real. En efecte, l'experiència demostra que els mecanismes d'autoidentificació més robustos —basats en biometria o verificació documental— obren un debat complex en matèria de privadesa i proporcionalitat. Aquest dilema, a més de tècnic, és profundament polític: quin nivell d'intrusió estem disposats a acceptar per protegir els menors en entorns digitals?
Així mateix, resulta especialment rellevant el mandat al Congrés perquè la futura regulació eviti estàndards ambigus sobre continguts o règims de responsabilitat excessivament oberts. Aquesta cautela respon, en gran mesura, a la preocupació per una possible judicialització de l'ecosistema digital, que podria derivar en efectes indesitjats, principalment l'augment de demandes multimilionàries que provoquin l'autocensura de les plataformes i, en última instància, la limitació de la innovació.
No obstant això, aquesta mateixa prudència pot traduir-se en una certa indeterminació normativa que dificulti l'aplicació efectiva de les mesures proposades.
Aquesta iniciativa introdueix a més un element de contrast interessant. Mentre que la Unió Europea ha optat per un enfocament més estructurat i preventiu —com el recollit en el marc regulador de la intel·ligència artificial—, el model nord-americà sembla inclinar-se per una combinació de principis generals i responsabilitat distribuïda entre actors. La qüestió clau serà determinar quin d'aquests models resulta més eficaç en la pràctica per protegir els menors sense comprometre altres valors essencials, com la innovació o la llibertat d'expressió.
En última instància, la protecció dels menors davant dels riscos de la intel·ligència artificial no es pot abordar únicament des de la lògica reguladora. Requereix també un enfocament educatiu, tecnològic i social que reconegui la complexitat del fenomen. Les normes són necessàries, però no suficients. El veritable repte rau a construir un ecosistema digital en què la seguretat dels menors no depengui exclusivament de barreres tècniques o jurídiques, sinó d'una cultura digital veritable basada en la responsabilitat compartida entre plataformes, institucions i societat.
Perquè, en el fons, la qüestió no és protegir els menors de la intel·ligència artificial, sinó quin tipus d'entorn digital estem disposats a construir per a les generacions que creixeran dins seu.
sobre la signatura:
Francisco Pérez Bes és adjunt de l'Agència Espanyola de Protecció de Dades. A més, va ser soci en l'àrea de Dret Digital d'Ecix Group i és exsecretari general de l'Institut Nacional de Ciberseguretat (INCIBE).