La Comissió Europea s'ha marcat una prioritat en la seva lluita per la igualtat de gènere: l'escenari digital. En la seva estratègia renovada per als pròxims cinc anys reconeix que la ciberviolència afecta de manera “desproporcionada” dones i nenes. Així, les institucions comunitàries estan immerses en nous processos legislatius per combatre els deepfakes i els deepnudes sexualment explícits, dos fenòmens que s'han multiplicat amb l'expansió de la intel·ligència artificial generativa.
D'aquesta manera, Brussel·les posarà en marxa el que anomena “un diàleg regulador estructurat” amb plataformes en línia de grans dimensions, basat en “les sòlides salvaguardes de la Llei de Serveis Digitals”. A més, el Col·legi de Comissaris vol aconseguir durant aquest any la plena aplicació de la directiva sobre la violència contra les dones, així com del pla d'acció contra el ciberassetjament, presentat fa tot just un mes.
L'Executiu comunitari afirma que es donarà suport als anomenats “denunciants de confiança” perquè informin sobre contingut de violència de gènere a les plataformes en línia. L'objectiu és que aquest material pugui ser denunciat, identificat i retirat amb més rapidesa quan sigui necessari, reforçant així els mecanismes de protecció de les víctimes en l'entorn digital.
La directiva europea que obliga a criminalitzar els deepfakes pornogràfics
El cert és que la directiva aprovada ara fa dos anys sobre la lluita contra la violència de gènere i la violència domèstica obliga els Estats membres a tipificar com a delicte la difusió no consentida de material íntim o manipulat amb contingut sexual.
Aquí els legisladors van incloure expressament els deepfakes pornogràfics no consentits. Les capitals europees tenen fins a l'estiu de 2027 per introduir aquesta mesura en la seva legislació nacional. Més enllà de la pròpia norma, la doctrina jurídica identifica expressament els deepfakes sexuals com una forma de violència de gènere digital que afecta desproporcionadament les dones.
El Parlament Europeu, durant el debat i aprovació d'aquesta directiva, va subratllar que les formes de ciberviolència constitueixen una part central de la discriminació exercida contra les dones, per la qual cosa requereixen una criminalització harmonitzada a escala europea, acompanyada de una protecció reforçada per a les víctimes.
Un marc legal pioner en l'espai digital
L'eurodiputada socialista i membre de la Comissió de Mercat Interior, Laura Ballarín, defensa que en aquest procés Europa està construint un marc legal pioner per protegir la igualtat també en l'espai digital. “La Unió Europea comença a respondre jurídicament a fenòmens com els deepfakes, l'assetjament digital o la difusió d'imatges íntimes manipulades, que afecten de forma desproporcionada les dones”, explica en reflexionar sobre l'impacte de la directiva.
Ballarín posa també l'atenció sobre el Reglament d'Intel·ligència Artificial de la Unió Europea. Tal com reconeix, el seu article 50 estableix obligacions de transparència perquè els continguts generats o manipulats per intel·ligència artificial “estiguin clarament identificats”. A més, subratlla que el Reglament de Serveis Digitals obliga les companyies tecnològiques a “avaluar i mitigar riscos sistèmics”, entre ells la difusió de continguts il·lícits o abusius en línia.
La clau: aplicar les noves normes
Els socialistes europeus consideren que la clau ara és la implementació efectiva de totes aquestes mesures, així com l'aplicació de la directiva europea contra la violència envers les dones.
Com a exemple assenyalen el fet que la Comissió Europea hagi activat en els últims mesos investigacions en el marc del Reglament de Serveis Digitals per analitzar els possibles riscos derivats de sistemes d'intel·ligència artificial integrats en plataformes digitals.
El gener, Brussel·les va fer un nou pas en la seva ofensiva digital contra X. Aquesta vegada, l'Executiu comunitari va iniciar una nova investigació contra el gegant tecnològic propietat d'Elon Musk pel seu servei d'intel·ligència artificial Grok, centrada en la gestió dels seus sistemes de recomanació i en la generació de contingut.
El procediment analitzarà si la companyia ha examinat i solucionat adequadament els riscos relacionats amb la difusió de contingut il·legal a la Unió Europea. Entre els elements que s'estudiaran figura la propagació d'imatges sexualment explícites manipulades, així com qualsevol altre contingut que pugui constituir material d'abús sexual infantil.
Des del departament de la vicepresidenta executiva Henna Virkkunen subratllaven que les falsificacions sexuals no consentides de dones i menors constitueixen una forma de degradació violenta i inacceptable. «Amb aquesta investigació determinarem si X va complir amb les seves obligacions legals en virtut de la Llei de Serveis Digitals (DSA) o si va tractar els drets dels ciutadans europeus, inclosos els de dones i nens, com a danys col·laterals del seu servei», va afirmar la responsable de l'àrea digital de l'Executiu comunitari.
Les plataformes, sota pressió política
Per la seva banda, el Partit Popular Europeu sosté que les plataformes “no són mers intermediaris”, ja que contribueixen a configurar l'entorn digital i se'n beneficien econòmicament. Davant d'aquests continguts il·legals, el principal partit de l'Eurocambra considera que “l'actuació immediata no és opcional, és obligatòria”.
“No es pot permetre que les plataformes tecnològiques obtinguin beneficis econòmics gràcies a aquestes pràctiques que menyscaben els drets i la dignitat de milions de dones”, afirma la vicepresidenta del Comitè de Drets de la Dona i eurodiputada popular Rosa Estaràs.
L'eurodiputada demana a més als Estats intensificar els esforços d'aplicació, perquè “la tecnologia avança massa ràpid” i l'obligació europea és anticipar-se per protegir les dones, els nostres fills i tots els col·lectius vulnerables, com les persones amb discapacitat.
Estrasburg alerta de la “pròxima frontera” de la violència de gènere
El Comitè de Drets de la Dona del Parlament Europeu, que presideix l'eurodiputada socialista Lina Gálvez, va adoptar al febrer les seves prioritats per a la Comissió de l'ONU sobre la Condició Jurídica i Social de la Dona. En aquest document, les eurodiputades van reclamar una ofensiva global contra els deepfakes i el contingut sexual generat per intel·ligència artificial, definits com “la pròxima frontera de la violència de gènere”.
Diverses anàlisis apunten que al món es generen cada mes prop de 900.000 deepfakes, una xifra que il·lustra la velocitat amb què s'està estenent aquesta tecnologia. “El 8 de març ha de servir per recordar que els drets fonamentals han de garantir-se també en l'entorn digital”, conclou Estaràs. A la qual cosa Ballarín afegeix que “també ens recorda que la lluita contra la violència digital és un dels grans reptes del nostre temps”. La vicepresidenta de la Comissió Europea Roxana Mînzatu resumeix el desafiament que afronta la Unió Europea en aquesta nova etapa tecnològica: “Les dones han d'estar tan segures en línia com fora d'ella”.
En el context actual, la protecció de la igualtat i la dignitat de les dones s'ha convertit també en una batalla tecnològica i jurídica. Europa pretén situar-se a l'avantguarda d'aquesta resposta, conscient que la intel·ligència artificial obre oportunitats, però també nous espais per a la violència que les democràcies han d'aprendre a regular.