Seis meses presa por un falso positivo: el fallo no fue el algoritmo, fue quien lo convirtió en prueba

Angela Robin Lipps, abuela residente en Elizabethton (Tennessee), pasó casi seis meses encarcelada en Dakota del Norte por unos robos bancarios cometidos a más de mil millas —unos 1.600 kilómetros— de su casa. Según la demanda civil federal de 35 páginas que presentó el martes en el Distrito de Dakota del Norte, todo arrancó en una coincidencia de reconocimiento facial por IA que señaló su perfil de Facebook. Los fiscales retiraron todos los cargos en enero de 2026, después de que su nueva defensa reclamara por vía judicial los registros de teléfono y localización que probaban que ella estaba en Tennessee cuando ocurrieron los hechos. Reclama 10 millones de dólares a la ciudad de Fargo y al detective Lucas Heck por vulneración de las enmiendas Cuarta y Decimocuarta, procesamiento malicioso y encarcelamiento ilegal.

El detalle decisivo no es que la IA se equivocara, sino lo que hicieron dos policías distintos con el mismo resultado. Según el escrito, un investigador de West Fargo pasó las imágenes de las cámaras del banco por el software y obtuvo el perfil de Lipps, pero renunció a pedir orden de arresto porque entendió que un acierto de reconocimiento facial es una pista exploratoria que exige corroboración independiente, y no había ninguna. La demanda sostiene que el detective Heck tomó esa misma pista sin verificar y consiguió la orden sin revisar movimientos bancarios, registros de viaje ni ruedas de reconocimiento fotográfico no sugestivas con los cajeros; y que omitió en su declaración jurada que Lipps vivía a medio país de distancia, que nunca había pisado Dakota del Norte y que no coincidía con los rasgos del sospechoso grabado en vídeo de alta resolución. Son alegaciones de la parte demandante: ni la ciudad ni el detective habían respondido al cierre de la información.

Conviene entender qué devuelve de verdad uno de estos sistemas. Un motor de reconocimiento facial no identifica a nadie: convierte una cara en un vector numérico y devuelve una lista ordenada de los rostros más parecidos de una base de datos. El primer puesto de esa lista no significa «es ella», significa «de lo que tengo guardado, esto es lo que más se parece». Con una cámara de seguridad, mala luz y una foto de red social de por medio, los falsos positivos son la norma estadística, no la excepción. El problema aparece cuando ese resultado sube por la cadena institucional: en el informe del software es una probabilidad; en la declaración jurada ante el juez ya es un nombre y un apellido. Ese blanqueo de incertidumbre —de sugerencia estadística a hecho procesal— es el fallo de diseño, y ocurre en el tramo humano, no en el modelo.

La segunda lección está en los tiempos. La acusación se levantó con una búsqueda automatizada; la exculpación tardó casi seis meses y necesitó que llegara un abogado nuevo que supiera pedir los datos correctos. Esos registros de localización existían desde el primer día: nadie estaba obligado a mirarlos. Con una fianza de 100.000 dólares y sin ver a sus hijos y nietos, el coste íntegro de esa asimetría lo pagó la persona equivocada. La IA aceleró una mitad del proceso penal —la que acusa— y dejó la otra funcionando a velocidad de papel.

Nuestra lectura: el antídoto existe y lleva décadas funcionando en medicina. La misma familia de técnicas de reconocimiento de patrones que aquí señaló a la persona equivocada es la que lee mamografías y detecta retinopatías antes que un ojo humano. La diferencia no es la tecnología, es el protocolo. En sanidad nadie opera con un cribado: un positivo obliga a una prueba confirmatoria y se comunica con su tasa de falsos positivos al lado. Aquí, según la demanda, el positivo del cribado se tradujo directamente en agentes armados en la puerta de casa. No es casual que uno de los cinco cargos apunte a la ciudad por no haber fijado políticas, formación y supervisión sobre esta tecnología pese a las advertencias conocidas del sector. Si ese punto prospera, cambia el incentivo de miles de departamentos de policía, que es donde realmente se juega el asunto.

Y ahí está el matiz que nos importa. Casos como el de Lipps no son un argumento para frenar la IA: son la factura de desplegarla sin la gobernanza que ya sabemos escribir. El horizonte largo sigue en pie y merece la pena —diagnósticos que se adelantan años, enfermedades que dejan de ser sentencia, tareas rutinarias que desaparecen—, pero se construye sobre confianza pública. Y la confianza no se rompe porque un modelo falle, sino porque una institución trate una probabilidad como una certeza.