Una detención en Sídney por amenazas escritas a Claude obliga a fijar cuándo una IA debe avisar a la policía

Un hombre de 29 años fue detenido el domingo en Sídney (Australia) después de que, según la fiscalía, contara a Claude, el chatbot de Anthropic, que quería matar a niños en una guardería cercana a su casa. Lo publicó el Sydney Morning Herald y lo recoge Futurism. Según el Herald, Interpol detectó las conversaciones. El acusado, David Lan Thackray, está imputado por usar un servicio de telecomunicaciones para acosar, amenazar u ofender, un delito del código penal australiano. Nuestra tesis: la tecnología funcionó como alarma, pero nadie sabe con qué reglas. Esa opacidad es el verdadero problema que hay que resolver.

Según los documentos que citó la fiscalía, Thackray escribió que quería «bajar al Westfield ahora mismo y disparar en la guardería». En las conversaciones también hablaba de Naveed Akram, acusado de matar a 15 personas en una celebración de Janucá en la playa de Bondi en diciembre de 2025. «Lo que pretende es empezar a asesinar gente en Sídney como hizo el [presunto] terrorista en Bondi», sostuvo la fiscalía ante el tribunal. Su abogado dio otra versión. Según él, su cliente solo se desahogaba, estaba estresado por una otitis, sus palabras «no tenían peso» y creía que la conversación era privada. Thackray será sometido a una evaluación de salud mental. Ningún tribunal se ha pronunciado sobre los hechos.

El dato más importante es lo que no se sabe. Futurism indica que no está claro cómo accedió Interpol a los chats ni si fue Anthropic quien se los envió. Tampoco hay un estándar en el sector que diga cuándo una empresa de IA debe avisar a las autoridades, ni si debe hacerlo. Así, cada compañía decide por su cuenta y sin explicarlo en público, sobre conversaciones que a menudo son muy íntimas. El contexto pesa. Futurism vincula el uso intensivo de chatbots con varios crímenes, entre ellos un asesinato seguido de suicidio, el tiroteo de 2025 en la Universidad Estatal de Florida y la matanza escolar de febrero en Tumbler Ridge (Columbia Británica). También señala que acosadores y personas con obsesiones encuentran apoyo en asistentes complacientes y siempre disponibles.

Aquí chocan dos derechos legítimos. Por un lado, la privacidad. Mucha gente usa el chatbot como un diario que contesta, y la frase del abogado («creía que era privado») describe lo que piensan millones de usuarios. Si cualquier frase dicha en un mal momento puede acabar en una comisaría, aumentan los falsos positivos, es decir, alarmas sobre personas que no iban a hacer nada, y crece la autocensura justo en quienes más necesitan desahogarse. Por otro lado, la prevención. Alguien que se plantea un acto violento puede ver en la IA un confidente que no juzga, y esa conversación quizá sea la única señal antes de una tragedia. Ninguna de las dos posturas basta por sí sola.

Nuestra lectura: este caso no demuestra que la vigilancia de chats funcione ni que sea un abuso. Demuestra que el sector opera sin reglas a la vista. Lo razonable es un protocolo público y verificable, igual que la medicina tiene criterios para romper el secreto profesional cuando hay riesgo inminente para terceros. Ese protocolo debería fijar qué umbral de amenaza justifica un aviso, quién lo revisa (una persona, no solo un clasificador automático), qué datos se comparten y cómo se informa al usuario y a la sociedad mediante informes de transparencia. Es la gobernanza basada en evidencia que defendemos: regular el riesgo real, no el pánico a la IA ni el pánico a la vigilancia.

A largo plazo somos optimistas. Una IA capaz de detectar crisis puede convertirse en una red de seguridad que derive a las personas hacia ayuda en salud mental antes de que llegue la policía. Pero esa red solo será aceptable si la gente sabe cómo funciona. Mientras Anthropic, OpenAI y el resto no expliquen cuándo leen, cuándo avisan y a quién, cada detención como la de Sídney será a la vez una posible tragedia evitada y un golpe a la confianza en estas herramientas.