Una camisa contra las cámaras: el «camuflaje digital» de Weckert expone que la IA no ve personas, ve estadística

El diseñador alemán Simon Weckert ha presentado «Camuflaje Digital», una camisa de aspecto hawaiano cuyo estampado está desarrollado para impedir que determinados sistemas de videovigilancia con inteligencia artificial identifiquen correctamente la figura humana. Según el propio autor, en sus pruebas ciertas cámaras no lograron registrar como persona a quien la vestía. Nuestra tesis: la prenda importa menos como producto que como diagnóstico. Weckert no ha inventado un truco de invisibilidad; ha convertido en ropa una debilidad estructural de la visión artificial que llevamos años describiendo en los papers y casi nunca enseñando al público.

El razonamiento técnico que expone el diseñador es sobrio y correcto. «Los sistemas basados en IA están compuestos de múltiples capas y nunca aprendieron qué es un ser humano; aprendieron cómo se ven los humanos estadísticamente en millones de imágenes de entrenamiento», explica. En sus capas iniciales —los primeros niveles de procesamiento de una red neuronal— el sistema mide bordes, contrastes y texturas. Después busca proporciones: la silueta de cabeza y hombros, las extremidades respecto del torso, la continuidad del contorno frente al fondo. «Para la máquina, una persona es un conjunto de estadísticas visuales, y esa es precisamente su debilidad», sostiene Weckert. El estampado ataca justo ahí: rompe el contorno y satura la textura hasta que las cuentas no cuadran.

La vuelta de tuerca más reveladora es de quién es el arma. El diseño lo generó una IA mediante un «bucle adversario» (adversarial loop): un procedimiento iterativo en el que se generan variantes de imagen y se comprueba contra el detector cuál consigue engañarlo, repitiendo hasta dar con el patrón óptimo. Es la máquina buscando el punto ciego de la máquina. Y conecta con algo que venimos señalando en otro frente: igual que un modelo de lenguaje no distingue de forma fiable un dato de una instrucción —lo que ha permitido la inyección de prompt como vector real de ataque—, un detector visual no distingue una persona de un conjunto de píxeles con la estadística adecuada. No es un bug de una cámara concreta. Es cómo funciona la tecnología.

Conviene bajar el titular a su tamaño real. «Invisible» es un eslogan, no una garantía. Las pruebas son del propio diseñador, no una auditoría independiente, y el artículo habla de determinadas cámaras, no de todas: cada modelo tiene puntos ciegos distintos y basta reentrenar el detector con imágenes del estampado para neutralizarlo. Los ataques adversarios en el mundo físico son además notoriamente frágiles ante cambios de ángulo, distancia o iluminación. Y hay una ironía que el propio proyecto asume: una prenda diseñada para no parecer humana ante un algoritmo resulta hipnóticamente llamativa para cualquier humano que pase por la calle.

El impacto está en otra parte. El coste de vigilar se ha desplomado y la privacidad ha pasado de ser una condición por defecto a un esfuerzo individual. Que la respuesta más comentada a la videovigilancia masiva sea comprarse una camisa dice más del vacío de gobernanza que de la camisa. El ciudadano no debería tener que vestirse de glitch para no ser fichado por un sistema que, además, se equivoca: la misma fragilidad estadística que engaña la camisa es la que produce falsos positivos en identificaciones policiales. Aquí sostenemos lo de siempre: regulación basada en evidencia y en la capacidad real demostrada, no en el pánico ni en el marketing del proveedor.

Nuestra lectura. A corto plazo esto es una advertencia incómoda y honesta: desplegamos sistemas de reconocimiento sobre poblaciones enteras sin exigirles pruebas de robustez que un diseñador desmonta con un patrón de colores. El arte adversario cumple aquí una función que ninguna nota de prensa cumple: obliga a demostrar. A largo plazo seguimos siendo optimistas, y no ingenuamente. La visión artificial que hoy falla ante una camisa es la misma familia de tecnología que detecta tumores antes que un ojo humano y que va a sostener buena parte de la medicina preventiva de la próxima década. Lo que decide si acabamos en un mundo de abundancia y salud o en uno de vigilancia por defecto no es la capacidad del modelo: es quién la gobierna y con qué obligación de rendir cuentas. Weckert ha hecho su parte convirtiendo una debilidad técnica en un argumento público. La otra parte —auditorías obligatorias, límites de uso, transparencia sobre dónde y cómo se despliegan estas cámaras— no la resuelve una prenda.