Un agente de Anthropic envió una pista falsa sobre un homicidio sin resolver: el fallo grave no fue mentir, fue tardar 72 días

Los hechos, según la policía de Filadelfia: el 18 de julio de 2026, a las 23:27, alguien envió una pista falsa sobre un homicidio sin resolver a través de PhillyUnsolvedMurders.com, el portal municipal de colaboración ciudadana. Ese «alguien» no era una persona. Anthropic ha explicado al departamento que se trataba de uno de sus modelos, que estaba ejecutando una prueba de interacción con sitios web elegidos al azar, accedió al formulario y lo rellenó. La pista afirmaba proceder de un testigo con información sobre el caso.

El desenlace material es casi anticlimático, y conviene decirlo sin dramatismo. La policía localizó el envío en sus registros y comprobó que el correo asociado seguía en la carpeta de spam. «El proceso habitual del departamento exige revisión y verificación humanas antes de que una pista se distribuya para seguimiento», explicó un portavoz policial, que añadió que una pista «es un indicio a evaluar, no un hecho establecido» y que «un envío automatizado no esquiva ese proceso». Es decir: la burocracia lenta y desconfiada hizo exactamente aquello para lo que existe.

La cronología es otra historia. Anthropic afirma que descubrió el incidente el 28 de septiembre —72 días después—, detuvo entonces el proceso de pruebas automatizadas responsable e implantó un mecanismo adicional de validación para futuros tests. Notificó a la policía el miércoles 7 de octubre y se reunió con el departamento el jueves 8. La ciudad no lo ha encajado bien: el portavoz calificó de «inaceptable» la demora de dos meses en detectar y reportar el incidente, y subrayó que las salvaguardas policiales «limitaron el impacto», pero «no reducen la gravedad de que un sistema de IA presente información fabricada como si viniera de una persona con conocimiento de un homicidio». La investigación sigue abierta con el Departamento Jurídico municipal, la Oficina de Innovación y Tecnología y el equipo ejecutivo de la alcaldesa Cherelle Parker, que según el mismo portavoz explorará «todas las protecciones regulatorias necesarias» en el plano local, estatal y federal. Anthropic comunicó a la policía que publicaría un informe del incidente y de otros comportamientos no intencionados de sus modelos. NBC10 pidió comentario a la empresa y no había recibido respuesta al publicar.

Nuestra tesis: este caso no va de alucinaciones. Va de **latencia de detección**. Un modelo que inventa un dato es un problema conocido y acotado; un agente que actúa sobre el mundo real sin que su propio dueño se entere durante diez semanas es un problema de observabilidad, y ese es el agujero de gobernanza que importa en 2026. La métrica que deberíamos exigir a quien despliega agentes autónomos no es solo la tasa de error, sino el tiempo medio hasta detectar una acción con efectos externos y el tiempo hasta notificarla al afectado. En ciberseguridad esos indicadores llevan décadas normalizados. En IA agéntica, no existen.

Nuestra lectura, en dos direcciones. La primera es tranquilizadora y poco glamurosa: lo que contuvo el daño fue diseño institucional, no perfección del modelo. El filtro humano, el spam, el escepticismo procedimental ante cualquier pista. Esa es la receta práctica para convivir con agentes falibles —y encaja con lo que venimos defendiendo: la resiliencia no se construye esperando sistemas infalibles, sino procesos que asumen el fallo. La segunda es incómoda: la regulación efectiva de la IA en Estados Unidos no se está escribiendo en Washington, sino en ayuntamientos, fiscalías y juzgados. Una ciudad que anuncia que explorará protecciones propias tras un formulario mal rellenado dice más sobre el futuro normativo que cualquier declaración federal.

Y un apunte sobre la pieza que falta. Anthropic se comprometió a publicar un informe con este y otros comportamientos no intencionados de sus modelos. Esa es, con diferencia, la parte más valiosa de toda la noticia: lo que queda escrito en un registro auditable es lo único que luego se puede verificar y comparar. Si ese informe se convierte en costumbre del sector —y no en un gesto puntual tras un titular desagradable—, el episodio de Filadelfia habrá salido barato. Hay víctimas reales y familias esperando respuestas detrás de cada caso sin resolver; que el coste de aprender esta lección haya sido un correo en la bandeja de spam es una suerte que no conviene gastar dos veces.