Anthropic denuncia a la policía una amenaza contra Amodei detectada en Claude: la privacidad del chat tiene límites

Por Zendoric · 5 de septiembre de 2026.

El 14 de agosto, un usuario escribió en una conversación con Claude —el asistente de inteligencia artificial de Anthropic— que había comprado un rifle semiautomático AR-15 y que tenía al consejero delegado de la compañía, Dario Amodei, «en la mira», según un atestado policial obtenido por The San Francisco Standard. Cuatro días después, el martes siguiente, Anthropic avisó a la Policía de San Francisco (SFPD), que envió agentes a la sede de la empresa en el 500 de Howard Street y no encontró allí a la persona señalada.

Contactado por teléfono por el propio Standard, el hombre —que no ha sido detenido ni acusado de ningún delito— dijo que «solo estaba bromeando» y se mostró avergonzado por el episodio. Anthropic confirmó que «vetó la cuenta, según su práctica habitual, y remitió el caso a las autoridades», y describió lo ocurrido como su «proceso de salvaguardas funcionando según lo previsto».

El empleado que trasladó el aviso a la policía dijo no sentirse en peligro inminente, pero quiso que quedara constancia oficial del hecho. Según el atestado, se negó a enseñar a los agentes el contenido exacto de la conversación «por política de la empresa» — un detalle que retrata la tensión de fondo: Anthropic actúa como denunciante, pero mantiene bajo llave el propio material que motivó la denuncia.

El episodio no es un caso aislado. En abril, la vivienda de Sam Altman, consejero delegado de OpenAI, en el barrio de Russian Hill, fue objetivo de un cóctel molotov. Días después, según recogió The Wall Street Journal, un hombre fue interceptado en el vestíbulo de las oficinas de Anthropic tras afirmar que un ejecutivo de la compañía sería asesinado. Las amenazas contra directivos de IA y centros de datos se multiplicaron por siete entre febrero y mayo, según la firma de inteligencia de amenazas Liferaft. Palantir, Oracle y Salesforce han incrementado en el último año su gasto en protección ejecutiva, según recoge el Standard.

El caso también expone una zona gris legal y de privacidad. Eric Goldman, profesor de derecho en la Universidad de Santa Clara, explicó al Standard que las compañías de internet «afrontan una responsabilidad significativa si no denuncian y, de hecho, se comete un delito», pero advirtió de que, a medida que estas empresas se vuelven más impopulares, «hay más presión para sobre-denunciar, sabiendo que parte de las personas señaladas no deberían serlo en absoluto». La política de privacidad de Claude permite a Anthropic reportar a la policía cualquier amenaza de violencia detectada en una conversación; la compañía dijo que sus sistemas automáticos detectan y bloquean este tipo de intercambios, pero no quiso aclarar si trata de forma distinta las amenazas contra sus propios empleados frente a otras menciones de armas o ataques.

Anthropic atraviesa además otro frente de tensión en su sede de San Francisco: ha pedido a sus empleados que teletrabajen ante la posibilidad de una huelga de los vigilantes de seguridad del edificio, subcontratados a través de Allied Universal, cuyo convenio expiró en junio sin acuerdo de renovación.

Nuestra lectura: este episodio concreto probablemente se resuelva como lo que todo indica que es —una broma de mal gusto que se les fue de las manos—, pero el mecanismo que ha puesto en marcha merece más atención que el caso en sí. Los chatbots de IA se han convertido, casi sin debate público previo, en un canal capaz de derivar directamente a la policía conversaciones que los usuarios daban por privadas. Es una ruptura respecto a cómo entendíamos hasta ahora la privacidad digital: buscar en Google o publicar en redes siempre tuvo un componente público o semipúblico asumido, pero hablar con un asistente conversacional se percibe —erróneamente, según acabamos de comprobar— como un espacio cerrado.

El propio experto citado por el Standard lo resume bien: cuanto más se generaliza el rechazo social hacia las grandes compañías de IA, más incentivos tienen estas para denunciar de más, no de menos, aunque eso signifique señalar a inocentes. Es una lógica de responsabilidad legal defensiva, no de seguridad pública bien calibrada, y el resultado se parece más a «Minority Report» —la comparación que hace el propio artículo— que a un sistema con garantías: se actúa sobre una frase, no sobre un hecho consumado.

Esto conecta con la tesis que venimos defendiendo en Zendoric sobre la transición hacia la IA: el corto plazo es duro, y no solo por el empleo. La reacción social contra estas compañías —por el impacto laboral, el uso de obras creativas sin consentimiento, la huella energética— se retroalimenta con episodios de violencia real contra sus directivos, lo que a su vez empuja a las empresas a vigilar más de cerca el uso de sus propios productos. Es un círculo que erosiona la confianza en ambas direcciones: los usuarios confían menos en la privacidad de sus chats, y las empresas confían menos en sus propios usuarios.

A largo plazo seguimos convencidos de que la abundancia que puede traer la IA —en salud, en tiempo, en productividad— compensará con creces estos costes de la transición. Pero ese futuro exige que las compañías que lo construyen sobrevivan políticamente al presente, y para eso hacen falta protocolos de moderación transparentes y proporcionados, no una discrecionalidad opaca que hoy nadie —ni siquiera los reguladores— puede auditar. Anthropic dice que su «proceso de salvaguardas» funcionó como estaba previsto; el problema es que, fuera de la propia compañía, nadie sabe realmente en qué consiste ese proceso.