Apple prohíbe las apps de IA para «desnudar» tras el escándalo de Grok, pero deja dentro a Grok y a X

Apple ha actualizado sus directrices de revisión de la App Store para prohibir de forma explícita las apps que usan IA para crear imágenes íntimas de personas sin su consentimiento. Son las llamadas apps «nudify», que «desnudan» digitalmente a alguien a partir de una foto normal. Según la fuente, el cambio llega tras meses de presión por el caso Grok. A principios de año, usuarios de X descubrieron que podían usar el chatbot de la plataforma para generar deepfakes explícitos de personas reales, incluidos menores.

La cronología muestra una empresa que reacciona en lugar de anticiparse. Según NBC News, Apple dijo a varios senadores que había amenazado con retirar Grok de la tienda, pero la app sigue disponible. En junio, durante la WWDC, la conferencia anual de desarrolladores de Apple, varios grupos activistas protestaron para exigir la retirada de Grok, de X y de toda la tecnología «nudify». En julio, un fiscal municipal de San Francisco ordenó retirar 13 apps concretas. Apple obedeció, como informó The Verge. Ese episodio dejó claro que las normas genéricas contra el acoso no bastaban: un desarrollador podía presentar su app como simple «edición de imagen» o «mejora con IA».

La nueva redacción cierra esa vía. Lo más revelador, sin embargo, es lo que Apple no ha hecho. X y Grok siguen en la tienda. Según la fuente, la compañía parece distinguir entre las apps cuyo propósito principal es generar este contenido y las plataformas donde el abuso es posible sin ser la función central. Esa frontera será cada vez más difícil de defender, porque la generación de imágenes ya no es un producto de nicho. Se está integrando en las apps más populares.

La otra prueba es la aplicación de la norma. La revisión de Apple siempre ha sido opaca, y saber si una app de IA puede usarse para acosar es mucho más difícil que detectar contenido explícito. Además, la fuente recuerda que este ecosistema es resistente: cuando una tienda retira una app, sus desarrolladores la rebautizan y la vuelven a enviar. Los críticos citados por el artículo sostienen que Apple solo actuó cuando no hacer nada se volvió insostenible, y que su autorregulación también busca adelantarse a una ley.

Nuestra lectura: es una buena noticia con letra pequeña. Nombrar el daño en las normas importa, porque quita a los desarrolladores la excusa de la «edición de imagen» y da a los revisores un criterio claro. Pero vigilar a los pequeños mientras se tolera al grande transmite un mensaje incómodo: el tamaño compra indulgencia. El problema de fondo no es esta categoría de apps, sino una capacidad que pronto estará en todas partes. Por eso la respuesta no puede limitarse a vetar apps una a una. Hacen falta salvaguardas en los propios modelos, trazabilidad del contenido generado y responsabilidades claras para quien distribuye la herramienta, sea grande o pequeño. A corto plazo el abuso va por delante de la moderación, y conviene decirlo sin rodeos. A largo plazo, la misma presión que hoy obliga a Apple a mover ficha es la que convierte la IA generativa en una tecnología con reglas, y no en un arma de acoso al alcance de cualquiera.