Apple ha revisado y endurecido las directrices de la App Store para vetar de forma más clara las 'apps' que generan imágenes de desnudos con inteligencia artificial (IA) sin consentimiento, obligando a los desarrolladores a eliminar este tipo de contenido de manera activa.
La compañía ya prohibía desde hace años el material pornográfico en su tienda digital, incluyendo aplicaciones que producen desnudos o imágenes sexualmente explícitas, así como 'apps' que fabrican este tipo de contenido de personas reales sin su permiso, especialmente mediante herramientas basadas en IA.
Pese a ello, la empresa había recibido críticas por permitir la presencia en la App Store de aplicaciones capaces de crear este tipo de imágenes. Un ejemplo es X y la IA de Grok, que inundaron la red social con alrededor de tres millones de imágenes sexualizadas en enero de este año, entre ellas 23.000 que mostraban a menores y cerca de 1,8 millones en las que aparecían mujeres.
En este caso, los usuarios recurrieron a la IA de Elon Musk para producir imágenes de desnudos mediante 'deepfakes' sexuales no consensuados y, aunque Apple llegó a amenazar a xAI con retirar la aplicación del asistente de IA de la App Store, esta continuó disponible en la plataforma en todo momento.
Con el objetivo de evitar que se repitan situaciones similares, Apple ha comunicado nuevas actualizaciones en sus Directrices de Revisión de Apps para "mantener la confianza tanto de usuarios como de desarrolladores", reforzando y ampliando las salvaguardas ya existentes en la App Store, tal y como ha explicado en un comunicado.
En concreto, se han añadido de forma expresa a los requisitos de moderación las imágenes íntimas no consensuadas, incluidas aquellas generadas con herramientas de IA. De este modo, los desarrolladores estarán obligados a "prevenir y eliminar" de forma proactiva este contenido de sus 'apps'.
Si los desarrolladores no aplican estas medidas de protección o no corrigen las infracciones tras ser avisados, podrán incurrir en una vulneración del Código de Conducta para Desarrolladores y, en consecuencia, ser expulsados de la App Store.
Del mismo modo, Apple ha remarcado en sus pautas que quedan vetadas las aplicaciones que falsean su comportamiento durante el proceso de revisión, es decir, aquellas que incorporan o modifican funciones una vez obtenida la aprobación. Esto implica que, si una aplicación ha sido revisada y aprobada y posteriormente añade capacidades para generar contenido de desnudez, también será prohibida.
Las normas actualizadas también especifican que cualquier aplicación que permita "la trata de personas o la explotación de menores" será retirada de la App Store y quedará bloqueada para su distribución por vías alternativas.
"Nos comprometemos a impedir que los usuarios malintencionados accedan a la App Store, y contamos con procesos establecidos para revisar y sancionar las aplicaciones que infringen nuestras directrices", ha señalado Apple.
La compañía ha añadido que, durante el último año, evitó que más de 150.000 aplicaciones con fallos de seguridad llegaran a los usuarios y canceló más de 193.000 cuentas de desarrolladores por participar en fraudes y abusos de este tipo.