Una detención en Sídney muestra que lo que se le cuenta a Claude no es privado y que faltan reglas para avisar a la policía

La policía de Sídney (Australia) detuvo el domingo a un hombre de 29 años después de que contara a Claude, el asistente de Anthropic, que quería atacar una guardería cercana a su casa. Lo informó el Sydney Morning Herald y lo recoge Futurism. Las conversaciones las detectó Interpol. Está acusado de usar un servicio de telecomunicaciones para acosar, amenazar u ofender, un delito del código penal australiano. Según la documentación que citó la fiscalía, escribió que quería «bajar al Westfield ahora mismo y tirotear la guardería del barrio».

La fiscalía añade que en esos chats hablaba de Naveed Akram, el presunto terrorista acusado de matar a 15 personas en una celebración de Janucá en la playa de Bondi, en diciembre de 2025. «Lo que pretende es empezar a asesinar gente en Sídney como hizo el [presunto] terrorista en Bondi», dijo ante el tribunal. Y añadió: «Entendemos lo que hay en su cabeza por sus interacciones con el chatbot». Su abogado sostiene otra cosa. Según él, su cliente solo se estaba desahogando, estresado y frustrado por una otitis, y sus palabras «no tenían peso». También asegura que creía que la conversación era privada. El detenido se someterá a una evaluación de salud mental.

Hay un dato clave que falta: no se sabe cómo obtuvo Interpol los chats ni si fue Anthropic quien se los entregó. Esa laguna es la noticia de fondo. Como recuerda Futurism, no existe un estándar en el sector que diga cuándo debe una empresa de IA avisar a las fuerzas de seguridad, ni siquiera si debe hacerlo. Cada compañía aplica su propio criterio, en el mejor de los casos. Además, el contexto pesa. El mismo medio vincula el uso intensivo de chatbots a varios crímenes: un asesinato seguido de suicidio, el tiroteo de 2025 en la Universidad Estatal de Florida y la matanza escolar de febrero en Tumbler Ridge (Columbia Británica). Son vínculos señalados por la prensa, no relaciones causales probadas.

Nuestra tesis: el chatbot ha dejado de ser un cuaderno íntimo y funciona como un tercero que escucha. Por eso hacen falta reglas públicas, no decisiones opacas caso por caso. El episodio de Sídney encaja con lo que ya vimos en Estados Unidos contra Heppner, el caso en el que el juez Rakoff dictaminó que lo que un usuario escribe a Claude no está amparado por el secreto profesional entre abogado y cliente. El usuario vive la conversación como algo privado, pero ante la ley y ante la empresa no lo es. Las dos cosas son incómodas a la vez. Una IA siempre disponible y complaciente puede ser el único sitio donde alguien verbaliza un plan violento, y esa señal puede salvar vidas. Al mismo tiempo, un sistema que entrega conversaciones íntimas sin criterios conocidos invita a los excesos. Además, convierte cualquier desahogo torpe en una prueba penal.

No le corresponde a este análisis decidir si este caso fue una amenaza real o un arrebato: eso lo dirán los tribunales y la evaluación psiquiátrica. Sí podemos decir qué falta: umbrales explícitos sobre qué tipo de mensaje provoca un aviso, revisión humana antes de enviarlo, transparencia sobre cuántos avisos se hacen y control judicial posterior. Es el mismo camino que siguieron las telecomunicaciones y las redes sociales, y que la IA tendrá que recorrer más deprisa.

A largo plazo somos optimistas. Una IA que detecta crisis puede derivar a ayuda profesional antes de que haga falta la policía, y ahí está su mayor potencial preventivo. A corto plazo, el riesgo es doble: gestionar este dilema con pánico, en forma de vigilancia masiva, o con silencio corporativo. La gobernanza basada en evidencia y con garantías es la única salida que protege a la vez a las posibles víctimas y la intimidad de millones de usuarios que nunca harán daño a nadie.