Meta retira su polémica función de IA en Instagram que permitía generar imágenes a partir de cuentas públicas ajenas

Meta ha dado marcha atrás con una función de inteligencia artificial en Instagram que había generado un fuerte rechazo entre usuarios y agencias de talento. La herramienta, lanzada esta misma semana como parte de un paquete de nuevas funciones de IA, ya no está disponible, según ha confirmado la propia compañía.

La función formaba parte de Muse Image, un nuevo generador de imágenes con IA desarrollado por Meta Superintelligence Labs, la unidad de inteligencia artificial de la empresa. Entre las capacidades promocionadas por Meta figuraba la posibilidad de que cualquier usuario generara imágenes mencionando con una @ a cuentas públicas de Instagram, usando así el contenido de esas cuentas como referencia para la generación de imágenes con IA.

El problema central, y probablemente el motivo principal de la retirada, es que la herramienta no estaba diseñada para avisar a un usuario si sus fotos estaban siendo utilizadas de esta manera por terceros. Es decir, cualquier persona con una cuenta pública podía ver su imagen reutilizada por IA sin su conocimiento ni consentimiento previo, lo que provocó una reacción inmediata y negativa. De hecho, TechCrunch llegó a publicar su propia guía explicando cómo desactivar la función, señal del nivel de preocupación que generó entre los usuarios.

Meta comunicó la decisión de eliminar la función a través de una publicación en su blog el viernes. La noticia fue difundida primero por Dylan Byers, socio fundador de Puck News. En el comunicado, la compañía explicó: "Nuestra intención era ofrecer una herramienta creativa útil y dar a las personas control sobre si su contenido público podía ser referenciado de esta manera. Hemos escuchado el feedback de que esta función no dio en el clavo, así que ya no está disponible".

Según Byers, la decisión de retirar la función se produjo "en medio del escrutinio de usuarios y agencias de talento, incluida CAA" (Creative Artists Agency), lo que sugiere que la presión no vino solo de usuarios particulares preocupados por su privacidad, sino también de representantes de figuras públicas y famosos, un colectivo especialmente expuesto a este tipo de usos indebidos de su imagen.

El artículo enmarca este episodio dentro de un patrón más amplio: desde que la IA generativa se integró en las redes sociales, ha sido utilizada de forma indebida en numerosas ocasiones, incluyendo la generación de imágenes íntimas falsas de celebridades femeninas sin su consentimiento. Las plataformas han intentado poner límites a este tipo de abusos, pero, según se señala, las salvaguardas introducidas a menudo se han quedado cortas. En este caso concreto, el propio artículo apunta que resultaba bastante previsible que una función así pudiera ser objeto de abuso similar.

TechCrunch afirma haber contactado con Meta para obtener más detalles sobre el incidente y que actualizará la información si la compañía responde. Por ahora, no se han detallado métricas de uso indebido, número de cuentas afectadas ni plazos concretos sobre si la función podría regresar en una versión modificada con controles de consentimiento.