La facilidad para crear imágenes falsas con inteligencia artificial ha abierto la puerta a los llamados deepfakes sexuales, que permiten generar fotografías íntimas de personas reales sin su consentimiento. Ante la polémica por el uso de dichas herramientas y la presencia de aplicaciones capaces de producir este tipo de contenido, Apple ha endurecido las normas de su App Store y, ahora, exige a los desarrolladores que prevengan y retiren estas imágenes, bajo la amenaza de expulsar las aplicaciones que no cumplan las nuevas condiciones.
Así lo afirma la compañía de John Ternus en un comunicado oficial: «Tal como se indica en nuestras Directrices de revisión de aplicaciones, el material pornográfico está prohibido en la App Store desde hace tiempo. Esto incluye aplicaciones que generan desnudez o imágenes sexualmente explícitas, como las apps de ‘desnudez’ que crean imágenes sexualmente explícitas de personas reales sin su consentimiento. Las aplicaciones que alojan contenido generado por el usuario deben filtrar el material objetable, ofrecer a los usuarios una forma de denunciar contenido ofensivo y permitirles bloquear cuentas abusivas. Las aplicaciones con funciones ocultas también están prohibidas en la App Store, incluidas aquellas que tergiversan su propósito durante la revisión y solo revelan capacidades dañinas después de su aprobación».
También, con esta actualización en las Directrices de Revisión de Apps, los requisitos de moderación de contenido ahora incluyen explícitamente las imágenes íntimas no consensuales —incluidas las generadas con herramientas de IA— como contenido que las aplicaciones deben prevenir y eliminar de sus plataformas de forma proactiva, así pues, los desarrolladores que no implementen las medidas de seguridad adecuadas corren el riesgo de infringir el Código de Conducta para Desarrolladores y ser expulsados de la App Store.
Según la compañía, «esta regla aclara la prohibición de larga data sobre las aplicaciones que falsean su funcionamiento durante el proceso de revisión y luego lo modifican tras su aprobación», añadiendo que «las apps que incurran en esta conducta podrán ser retiradas de la App Store y del Programa para Desarrolladores de Apple».
Apple se compromete a eliminar las apps con carácter sexual
Cabe mencionar que Apple siempre ha prohibido las aplicaciones que facilitan la trata de personas o la explotación infantil, ya que, cuando detectan aplicaciones con este tipo de contenidos, las eliminan de la App Store.
A raíz de estos cambios, los de Cupertino quieren impedir que los usuarios malintencionados accedan a la App Store, por ello, cuentan con procesos establecidos para revisar y sancionar las aplicaciones que infringen sus políticas. Como ejemplo, el año pasado impidieron que más de 150.000 apps con problemas de seguridad llegaran a los usuarios y, además, cancelaron más de 193.000 cuentas de desarrolladores por participar en fraudes y abusos.
Según Apple, las infracciones se deben a actores maliciosos que trabajan para ocultar contenido dañino que solo se activa una vez que la aplicación es aprobada. Asimismo, a medida que sus tácticas evolucionan, desde la compañía siguen mejorando las herramientas y recursos para prevenir y detectar este tipo de comportamiento con mayor rapidez.