Apple ha revisat i endurit les directrius de l'App Store per vetar de manera més clara les 'apps' que generen imatges de desnuds amb intel·ligència artificial (IA) sense consentiment, obligant els desenvolupadors a eliminar aquest tipus de contingut de manera activa.
La companyia ja prohibia des de fa anys el material pornogràfic a la seva botiga digital, incloent aplicacions que produeixen desnuds o imatges sexualment explícites, així com 'apps' que fabriquen aquest tipus de contingut de persones reals sense el seu permís, especialment mitjançant eines basades en IA.
Malgrat això, l'empresa havia rebut crítiques per permetre la presència a l'App Store d'aplicacions capaces de crear aquest tipus d'imatges. Un exemple és X i la IA de Grok, que van inundar la xarxa social amb al voltant de tres milions d'imatges sexualitzades al gener d'aquest any, entre elles 23.000 que mostraven menors i prop de 1,8 milions en les quals apareixien dones.
En aquest cas, els usuaris van recórrer a la IA d'Elon Musk per produir imatges de desnuds mitjançant 'deepfakes' sexuals no consensuats i, encara que Apple va arribar a amenaçar a xAI amb retirar l'aplicació de l'assistent d'IA de l'App Store, aquesta va continuar disponible a la plataforma en tot moment.
Amb l'objectiu d'evitar que es repeteixin situacions similars, Apple ha comunicat noves actualitzacions en les seves Directrius de Revisió d'Apps per "mantenir la confiança tant d'usuaris com de desenvolupadors", reforçant i ampliant les salvaguardes ja existents a l'App Store, tal com ha explicat en un comunicat.
En concret, s'han afegit de manera expressa als requisits de moderació les imatges íntimes no consensuades, incloses aquelles generades amb eines d'IA. D'aquesta manera, els desenvolupadors estaran obligats a "prevenir i eliminar" de manera proactiva aquest contingut de les seves 'apps'.
Si els desenvolupadors no apliquen aquestes mesures de protecció o no corregeixen les infraccions després de ser avisats, podran incórrer en una vulneració del Codi de Conducta per Desenvolupadors i, en conseqüència, ser expulsats de l'App Store.
De la mateixa manera, Apple ha remarcat en les seves pautes que queden vetades les aplicacions que falsegen el seu comportament durant el procés de revisió, és a dir, aquelles que incorporen o modifiquen funcions un cop obtinguda l'aprovació. Això implica que, si una aplicació ha estat revisada i aprovada i posteriorment afegeix capacitats per generar contingut de desnudez, també serà prohibida.
Les normes actualitzades també especifiquen que qualsevol aplicació que permeti "la tracta de persones o l'explotació de menors" serà retirada de la App Store i quedarà bloquejada per a la seva distribució per vies alternatives.
"Ens comprometem a impedir que els usuaris malintencionats accedeixin a la App Store, i comptem amb processos establerts per revisar i sancionar les aplicacions que infringeixen les nostres directrius", ha assenyalat Apple.
La companyia ha afegit que, durant l'últim any, va evitar que més de 150.000 aplicacions amb errors de seguretat arribessin als usuaris i va cancel·lar més de 193.000 comptes de desenvolupadors per participar en fraus i abusos d'aquest tipus.