Anthropic denuncia ante la policía una amenaza escrita en Claude: el chatbot-diario entra en el expediente penal

Lo esencial: Anthropic comunicó a las autoridades que una mujer de Florida había escrito en Claude —usando el chatbot como una suerte de diario personal— una amenaza de abrir fuego contra una oficina del sheriff. Tras el aviso llegó una acusación por delito grave. De acuerdo con Tom's Hardware, no es un caso aislado: sería al menos la tercera conversación con el modelo que acaba en manos de la policía desde agosto. Conviene subrayar lo obvio: hay una acusación, no una condena, y la presunción de inocencia sigue intacta.

El contexto importa más que el suceso. Millones de personas han empezado a usar los chatbots como confesionario: les cuentan lo que no dirían a un amigo, a un médico ni a un terapeuta, precisamente porque perciben el otro lado como una máquina sin juicio ni memoria social. Esa percepción es falsa. Al otro lado hay una empresa con políticas de uso, sistemas de detección y un criterio —propio— sobre cuándo una frase deja de ser desahogo y pasa a ser amenaza creíble que debe escalarse a las autoridades.

Tres casos desde agosto marcan una tendencia, no una anécdota. Y señalan que el umbral de notificación ya está operando de forma rutinaria, no excepcional. Aquí está la tensión real: una empresa privada, sin obligación legal clara ni supervisión judicial previa, ejerce de facto un papel de filtro entre lo que un usuario escribe en privado y lo que ve un fiscal. Si acierta, evita una tragedia. Si se equivoca, convierte a alguien en imputado por un texto escrito en un mal momento.

Nuestra tesis: esto es la continuación directa de un patrón que venimos siguiendo. El punto de control de la IA no se está definiendo en los manifiestos de los laboratorios, sino en decisiones operativas tomadas caso a caso —qué agente puede entrar en qué web, qué conversación se denuncia, qué dato se guarda—. Y esas decisiones se están tomando a una velocidad muy superior a la del derecho que debería enmarcarlas.

Nuestra lectura: no pedimos que los laboratorios miren hacia otro lado ante una amenaza violenta concreta; eso sería irresponsable. Pedimos que el procedimiento sea público. Qué umbral activa la alerta, quién lo revisa —humano o automático—, qué margen de error tiene, cuántos avisos se emiten y cuántos resultan infundados. Sin esas cifras es imposible saber si estamos ante un sistema de prevención proporcionado o ante vigilancia privatizada con buena intención. A largo plazo, una IA capaz de detectar a tiempo una crisis de salud mental o un plan violento puede salvar vidas reales, y ese horizonte merece defenderse. Pero solo si llega con reglas auditables, transparencia estadística y control judicial. Lo contrario no construye confianza: construye la certeza de que nada de lo que escribes es tuyo.