La IA te está mirando: de la captura de Maduro a la abuela presa seis meses por un falso positivo

DOS CARAS DEL MISMO ALGORITMO. Nuestra tesis: la vigilancia algorítmica ya no es un debate sobre el futuro. Es una infraestructura instalada y operativa a escala nacional en Estados Unidos, y funciona sin reglas escritas. Esas reglas se están redactando ahora mismo por la vía más lenta y dolorosa posible: las demandas de sus víctimas. Dos historias recientes marcan los extremos. Según The Wall Street Journal, el Pentágono usó Claude, el modelo de IA de Anthropic, a través de la plataforma de datos de Palantir en la operación que capturó a Nicolás Maduro. Anthropic afirma que nunca ha tratado operaciones concretas con Defensa, y sus normas de uso prohíben expresamente la vigilancia; el episodio ha abierto una crisis entre la empresa y el Pentágono, según Axios.

La otra historia es la de Angela Lipps, de 50 años, abuela de cinco nietos, de Elizabethton (Tennessee). En julio de 2025, agentes federales la detuvieron a punta de pistola mientras cuidaba a los hijos de una vecina. Un sistema de reconocimiento facial la había señalado como autora de una serie de fraudes bancarios en Fargo (Dakota del Norte), un estado que jamás había pisado. Fue extraditada y pasó casi seis meses en prisión preventiva, acusada de ocho delitos graves. Salió en Nochebuena, cuando su abogado presentó los extractos bancarios que probaban que estaba en Tennessee durante los robos. Dejó la cárcel con cuatro centavos en el bolsillo y sin abrigo, a unos doce grados bajo cero. Perdió su casa, su coche y su perra, según la demanda de 10 millones de dólares que presentó en septiembre de 2026 contra la ciudad y un detective. El mismo tipo de tecnología sirve para capturar a un dictador y para encarcelar a una inocente. La diferencia no está en el algoritmo: está en el proceso que lo rodea.

EL MAPA REAL DE LA VIGILANCIA. Primero, el tamaño. Flock Safety, la empresa de cámaras lectoras de matrículas valorada en 8.000 millones de dólares (Fortune), opera más de 120.000 cámaras en unas 6.000 comunidades de 49 estados y procesa más de 20.000 millones de escaneos de vehículos al mes, según cifras de la propia empresa recogidas por la ACLU. Un lector de matrículas fotografía cada coche que pasa, extrae la matrícula y la guarda en una base de datos consultable: dónde estuvo tu coche, a qué hora, en qué dirección. Segundo pilar: el reconocimiento facial, con Clearview AI a la cabeza, que compara una cara contra miles de millones de fotos extraídas de internet. El caso de Nueva York muestra hasta dónde llega la tentación: la policía tenía prohibido usar Clearview por norma interna, así que, según reveló la prensa local y confirmó después un juez al anular el caso, los detectives pidieron a un inspector del cuerpo de bomberos —que sí tenía contrato con Clearview desde 2022— que identificara a Zuhdi Ahmed, un estudiante propalestino de Columbia, usando fotos de su época de instituto. Tercer pilar, en retirada: la policía predictiva, los programas que intentan anticipar dónde habrá delitos. Los Ángeles canceló PredPol y Chicago su lista de «sujetos estratégicos» tras evaluaciones independientes que no encontraron pruebas de que redujeran el delito.

Y luego está el salto cualitativo: la IA generativa permite «preguntar» a miles de cámaras en lenguaje natural. Flock vende FreeForm, donde el agente escribe «mujer con vestido negro y sombrero vaquero» y el sistema busca esa descripción en vídeo y matrículas, según el material comercial de la empresa. Veritone Track rastrea un vehículo por marca y modelo a través de múltiples fuentes de vídeo. Antes, seguir a una persona costaba agentes y semanas; ahora cuesta una frase. Los registros de uso muestran para qué se usa ese poder: 404 Media documentó que un sheriff de Texas buscó en 83.000 cámaras de todo el país a una mujer sospechosa de haber abortado, y que policías locales hacían búsquedas para el servicio de inmigración (ICE) sin que este tuviera contrato formal. Tras esas revelaciones, Flock cortó las búsquedas externas sobre cámaras de Illinois, California y Virginia.

LA CIFRA QUE IMPORTA. Aquí llega la paradoja: en el laboratorio, el reconocimiento facial es casi perfecto. En la última evaluación del NIST, el instituto de estándares de EE. UU. (marzo de 2026), los mejores algoritmos —Idemia, NEC— solo dejan de encontrar a la persona correcta una de cada mil veces con fotos de calidad policial. Entonces, ¿por qué hay inocentes presos? Tres razones. Una: la foto real no es de laboratorio; es un fotograma granulado de una cámara de techo. Dos: los errores no se reparten igual. El gran estudio demográfico del NIST (informe NISTIR 8280) midió que los falsos positivos —el sistema dice «es esta persona» y no lo es— varían por factores de 10 a 100 según la raza y el sexo del rostro, con las tasas más altas para mujeres negras en búsquedas de una cara contra millones de fichas. No es casualidad que, de las al menos 15 detenciones indebidas por reconocimiento facial documentadas en EE. UU. según la ACLU, casi todas sean de personas negras: Robert Williams, Porcha Woodruff —detenida embarazada de ocho meses—, Nijeer Parks, Randal Quran Reid. Tres, la decisiva: el sesgo de automatización, nuestra tendencia a creer a la máquina. La herramienta se vende como «pista de investigación», pero en comisaría un «93 % de coincidencia» funciona como prueba: así detuvieron a Robert Dillon en Florida por un delito en una ciudad que nunca visitó, según la demanda de la ACLU de junio de 2026. En el caso de Lipps bastaba pedir sus extractos bancarios el primer día. Nadie lo hizo en seis meses.

LOS JUECES ESCRIBEN EL REGLAMENTO. Sin ley federal, las reglas del panóptico se están fijando en los tribunales, demanda a demanda. El 1 de octubre de 2026, la jueza federal Sara Hill (Oklahoma) declaró inconstitucional una búsqueda sin orden judicial en la base de datos de Flock: un ayudante del sheriff consultó un coche solo porque llevaba matrícula de California y obtuvo más de 50 registros que reconstruían un mes de movimientos por varios estados. La jueza lo llamó «vigilancia masiva indiscriminada». En Texas, un jurado federal declaró responsable al condado de Bexar por la parada injustificada del conductor Alek Schott, originada en cámaras de Flock, y le concedió 76 dólares: uno por cada minuto retenido. Simbólico en dinero, enorme como precedente de responsabilidad. En Detroit, el acuerdo del caso Williams (300.000 dólares) impuso la política más estricta del país: prohibido detener a nadie solo por una coincidencia facial. Jefferson Parish (Luisiana) pagó 200.000 dólares a Reid. Y en Nueva York, un juez anuló el caso contra el estudiante Ahmed por el uso opaco de Clearview. Pero la rendición de cuentas sigue siendo una lotería: la demanda de Woodruff, la mujer detenida embarazada, fue desestimada en 2025. Lo que están construyendo los tribunales es el equivalente de la doctrina Carpenter —la sentencia del Supremo que exigió orden judicial para acceder al historial de localización del móvil— aplicada a las cámaras conectadas. Va lento y desigual, pero va.

NUESTRA LECTURA. Tres conclusiones. Primera: el panóptico no llegó por decreto, llegó por catálogo. Nadie votó una red nacional de vigilancia; la compraron, cámara a cámara, miles de ayuntamientos, sheriffs y comunidades de vecinos, y la infraestructura se desplegó más rápido que el derecho. Encaja con algo que venimos señalando: en EE. UU. la regulación real de la IA no la escribe Washington; la escriben jueces y fiscales con derecho ya existente. Segunda: el problema no es que la máquina mire, es que la institución delega el juicio. Todos estos sistemas tienen, sobre el papel, un humano que verifica. En la práctica, el porcentaje en pantalla sustituye a la investigación. Es el mismo patrón que vimos en sanidad: la responsabilidad se desplaza en silencio hacia la máquina antes de que exista un régimen claro de responsabilidad legal. Tercera: el doble uso es la norma, no la excepción. En pocas semanas convivieron un modelo de frontera en una operación militar —en contra de la política de uso de su propio creador, si las informaciones del WSJ son exactas— y un falso positivo que destrozó una vida. La lección: las políticas de uso de los laboratorios son un control débil cuando la capacidad se despliega a través de integradores. La gobernanza tiene que vivir en la institución que aprieta el botón, con auditoría externa.

LO QUE VIENE. A corto plazo, honestidad: habrá más detenciones indebidas, porque la adopción corre más que las salvaguardas. Y hay un efecto silenciador sobre la protesta: si manifestarte puede acabar con la policía identificándote con fotos de tu instituto, mucha gente se quedará en casa. Pero el largo plazo admite un optimismo matizado, por tres vías. Una: las correcciones funcionan y son baratas. La regla de Detroit (corroboración obligatoria antes de detener), la orden judicial para búsquedas retrospectivas masivas y los registros públicos de auditoría —fue el propio registro de búsquedas de Flock el que destapó el caso del aborto— no frenan la innovación: frenan la negligencia. Dos: medir mejora la tecnología. Los informes del NIST llevan años empujando a los fabricantes a cerrar las brechas demográficas, y los mejores algoritmos de 2026 son muchísimo más precisos que los de 2019; el error residual será cada vez menos excusa técnica y cada vez más fallo institucional. Tres: Europa ofrece el contramodelo. Su Reglamento de IA prohíbe la identificación biométrica remota en tiempo real en espacios públicos salvo excepciones tasadas, y la próxima década será un experimento natural entre ambos regímenes. Conviene no olvidar, además, el otro lado del libro de cuentas: la misma visión artificial que vigila encuentra a menores desaparecidos y detecta tumores en radiografías. A Angela Lipps no la encarceló un algoritmo; la encarceló un sistema humano que prefirió creer a un porcentaje antes que pedir un extracto bancario. Si la jurisprudencia que está naciendo consolida la regla contraria —la máquina propone, el humano prueba—, el susto del panóptico habrá servido para algo valioso: actualizar los derechos fundamentales a la era algorítmica.