Google lanza SynthID Detector para detectar contenido generado por IA, pero con limitaciones importantes

Google ha lanzado SynthID Detector, un servicio web abierto a cualquier usuario que permite identificar imágenes, vídeo y audio creados con IA. Según SiliconANGLE, la herramienta reconoce contenido generado con modelos de Google, OpenAI, Nvidia y Kakao. Para usarla hay que iniciar sesión con una cuenta de Google, OpenAI o Apple. En unas semanas se ampliará para identificar también imágenes creadas con las herramientas de IA de Apple, como Image Playground.

SynthID es una marca de agua imperceptible que Google desarrolló en 2023 y que se añade al contenido generado con las herramientas de las empresas mencionadas. Hasta ahora, detectarla exigía herramientas especiales. Google había ofrecido distintas versiones de su detector a periodistas y otros profesionales de los medios, pero con una disponibilidad muy restringida. La compañía ya ofrecía otras vías de comprobación, como la función Circle to Search en móviles o la posibilidad de subir contenido a Gemini y preguntarle si es de origen artificial. El nuevo detector las hace más accesibles.

Las limitaciones son notables. Como la herramienta busca únicamente las marcas de agua SynthID, funciona mal con contenido de IA que no las lleva, y hay mucho. Según el artículo, Claude de Anthropic no usa SynthID, tampoco el chatbot Grok de xAI, ni los numerosos modelos chinos de pesos abiertos. Por tanto, el detector pasará por alto una gran cantidad de material sintético.

Otra limitación es que no distingue entre contenido creado íntegramente con IA y contenido solo editado con ella. En el segundo caso, no puede indicar qué parte es falsa y cuál real.

El artículo concluye que es un paso en la dirección correcta, pero insuficiente: sigue sin existir un método infalible para verificar contenido generado por IA, en parte por la multiplicidad de estándares de marcas de agua. Meta, por ejemplo, ha experimentado con sus propias herramientas y tiene un sistema para identificar imágenes creadas con Muse Image, que no sirve con imágenes de modelos de terceros. Según el autor, sin un estándar universal aceptado por los grandes desarrolladores, incluidos los chinos, probablemente nunca habrá una forma fiable de detectar este material. Google, por su influencia y por los socios que ya tiene, estaría bien situada para impulsarlo.

Google reconoce el problema en la web del detector: dice que trabaja continuamente en ampliar sus alianzas para detectar más tipos de medios generados con IA. Añade que construir estándares sectoriales lleva tiempo y que cada tipo de contenido (imagen, audio, vídeo) tiene requisitos técnicos distintos. Su objetivo, afirma, es un ecosistema por capas en el que marcas de agua, estándares de metadatos y herramientas de verificación funcionen conjuntamente en toda la industria.