Apple veta las apps de «desnudos» con IA, pero Grok sigue en la App Store: la norma resuelve el caso fácil y esquiva el difícil

Apple ha actualizado las directrices de revisión de la App Store, el reglamento que deben cumplir las apps para publicarse en su tienda. Ahora prohíben de forma explícita las apps que usan IA para crear imágenes íntimas de personas sin su consentimiento. Son las llamadas apps de «nudify», que «desnudan» digitalmente a alguien a partir de una foto normal. Hasta ahora, las normas solo vetaban de forma genérica las apps pensadas para acosar. La nueva redacción nombra directamente las imágenes íntimas generadas por IA sin consentimiento.

El detonante fue el escándalo de Grok, el chatbot de X. Según The Tech Buzz, a principios de año usuarios de X descubrieron que podían usarlo para generar deepfakes explícitos de personas reales, incluidos menores. La presión sobre Apple creció a lo largo del año. Según NBC News, Apple dijo a varios senadores que había amenazado con retirar Grok de su tienda. En junio, en la WWDC, la conferencia anual de Apple para desarrolladores, grupos de defensa protestaron para pedir la retirada de Grok, X y todas las apps de nudify. En julio, un fiscal municipal de San Francisco exigió por orden la retirada de 13 apps concretas. Apple las retiró, según publicó The Verge.

Ese episodio dejó a la vista la grieta que ahora se cierra. Con unas normas genéricas, un desarrollador podía presentar su app como «editor de imágenes» o «mejora con IA» y pasar el filtro. Con la nueva redacción, ya no basta con cambiar la etiqueta. Pero la regla deja fuera algo importante. Pese a las amenazas, X y Grok siguen en la App Store. Según el análisis de The Tech Buzz, Apple parece separar dos casos: las apps cuyo fin principal es generar imágenes íntimas no consentidas y las plataformas donde ese abuso es posible pero no es su función central.

Nuestra tesis: la norma de Apple ataca el problema más fácil y esquiva el más relevante. Prohibir una app cuyo único fin es desnudar a alguien no exige mucho valor. Lo difícil es qué hacer cuando la capacidad está dentro de un asistente generalista con cientos de millones de usuarios. A medida que la generación de imágenes se integre en casi todas las apps grandes, el criterio de la «función principal» será cada vez más difícil de sostener. El caso que encendió la alarma es justo el que la regla no cubre.

También hay un problema de aplicación. Según la fuente, el ecosistema de estas apps ha resistido: cuando las tiendas las retiran, sus desarrolladores cambian de nombre y vuelven a enviarlas. La revisión de Apple siempre ha sido opaca. Además, decidir si una app de IA puede usarse para acosar no es tan sencillo como detectar contenido explícito. Una prohibición sobre el papel sirve de poco sin nuevos métodos de detección y sin un registro público de cuántas apps se rechazan o retiran.

Nuestra lectura: esto confirma algo que ya vemos en la seguridad de los agentes de IA. Los controles a posteriori, como revisar una app o pedir permiso con un clic, llegan tarde. La protección eficaz se diseña en el propio modelo, con salvaguardas que impidan generar imágenes íntimas de personas reales sin consentimiento, sea cual sea la app que lo use. A corto plazo, el daño es real y concreto, sobre todo para mujeres y menores, y conviene no minimizarlo. Los críticos, según The Tech Buzz, sostienen que Apple solo actuó cuando no hacer nada se volvió insostenible, y que su autorregulación también busca adelantarse a una ley. Aun así, el movimiento indica hacia dónde va esto: los guardianes de la distribución empiezan a responder por lo que distribuyen. Si a esta presión se suman métricas verificables y obligaciones para los fabricantes de modelos, la IA generativa puede madurar sin convertirse en una herramienta de abuso a escala. Esa es la condición para que su enorme potencial creativo sea una buena noticia para todos.