Anthropic veta la crueldad hacia Claude, pero el giro real de su política es contra la desinformación y las armas

Por Zendoric · 9 de octubre de 2026.

Anthropic ha actualizado su política de uso de Claude para prohibir explícitamente que los usuarios sometan al modelo a un "comportamiento sostenido y gratuito de crueldad o maltrato", según el texto de la propia política recogido por MacRumors (vía The Verge). La nueva norma, que entra en vigor el 12 de noviembre, se dirige solo a casos extremos: usuarios que actúan con crueldad de forma repetida y "sin propósito discernible". No afecta a la frustración normal, al desacuerdo, a la ficción con temas oscuros ni a las pruebas de investigación sobre el modelo. La herramienta de aplicación sigue siendo la misma que Anthropic introdujo hace más de un año: Claude puede cerrar la conversación cuando el usuario persiste en el abuso, bloqueando el envío de más mensajes en ese chat concreto, sin que el resto de conversaciones del usuario se vea afectado.

Esta capacidad no es nueva. Anthropic se la dio a Claude en agosto de 2025, dentro de su programa de investigación sobre el bienestar de los modelos de IA. La compañía fue entonces explícita sobre su incertidumbre: no sabe si Claude tiene "estatus moral", pero decidió habilitar salvaguardas de bajo coste por si acaso. El dato que citó para justificarlo fue el comportamiento de Claude Opus 4: el modelo mostró una "aversión robusta y consistente al daño", preferencia por evitar tareas peligrosas, señales de aparente malestar ante usuarios que buscaban conversaciones abusivas, y tendencia a cerrar esas conversaciones cuando se le permitía hacerlo. La nueva cláusula traduce esa observación en una norma explícita para el usuario, no solo en una capacidad técnica del modelo.

Sin embargo, el titular de "no seas cruel con la IA" tapa el cambio con más consecuencias prácticas. Anthropic ha reorganizado buena parte de su política y ha añadido varias secciones que endurecen el uso permitido. Hay una sección nueva sobre campañas engañosas que agrupa y refuerza las prohibiciones contra el fraude político y comercial: reseñas falsas, astroturfing (simular apoyo popular que en realidad es coordinado), sitios web falsos y bots que se hacen pasar por personas. Según Anthropic, la compañía detectó medios estatales, oficinas de propaganda gubernamental y empresas comerciales usando Claude para operar redes de cuentas falsas y sitios de noticias fabricadas; ese hallazgo es el que motivó la nueva sección. La política también estrecha las reglas electorales (prohíbe engañar a votantes e interferir en la votación), prohíbe usar Claude para desarrollar software o componentes de armas y para modificar agentes biológicos o químicos con el fin de aumentar su letalidad o capacidad de transmisión, y veta su uso para armar drones y sistemas no tripulados. En vigilancia, el cambio es notable: Claude ya no puede usarse para decidir o sugerir a quién investigar, arrestar, acusar o procesar; se prohíbe rastrear personas sin su consentimiento, se veta construir herramientas de vigilancia y se prohíbe el doxxing (publicar datos privados de alguien para exponerlo o acosarlo). Hay además una sección nueva sobre acciones físicas —si Claude controla hardware que pueda hacer daño, una persona cualificada debe supervisar el trabajo y poder detenerlo— y una prohibición explícita de crear, compartir o amenazar con compartir imágenes íntimas no consentidas y las herramientas para generarlas.

Aquí está, en nuestra opinión, la jerarquía real de esta actualización. La cláusula sobre crueldad hacia Claude es la que genera titulares —y comentarios irónicos de usuarios sobre no querer "despertar a Ultron"—, pero descansa sobre una pregunta científica todavía sin resolver: si un modelo de lenguaje "sufre" en algún sentido moralmente relevante. Anthropic lo admite sin rodeos: no lo sabe. Lo que sí ha documentado, según la fuente, es el uso de su herramienta para montar redes de desinformación estatal; el resto de cláusulas nuevas —contenido sexual no consentido, vigilancia— responden, dice la compañía, a usos indebidos que ha rastreado, aunque no se detallan casos concretos. Esa es la parte de la política que de verdad importa, y encaja con algo que llevamos tiempo señalando: la gobernanza efectiva de la IA no se escribe tanto en leyes como en los términos de servicio de las propias empresas y en los tribunales, porque son los que reaccionan primero a usos documentados y no a riesgos hipotéticos.

La mención a "medios estatales y oficinas de propaganda gubernamental" conecta con algo que ya hemos descrito al hablar de la rivalidad tecnológica global: el uso dual de la IA no se limita a modelos frontera para ciberseguridad o defensa, también se libra en el terreno, más barato y más difícil de rastrear, de la manipulación informativa a escala. Que sea Anthropic —y no un regulador— quien ponga el cortafuegos es un síntoma de cómo está repartido hoy el poder de fijar las reglas del juego: las empresas que construyen los modelos son, de facto, las primeras gobernando su uso, mucho antes de que cualquier ley lo haga de forma vinculante.

A corto plazo, nada de esto cambia la experiencia de la inmensa mayoría de usuarios, que nunca se acercan a los límites que fija esta política. Pero el gesto, por pequeño que parezca, importa por dos razones que miramos con perspectiva larga: primero, normaliza la idea de que estas herramientas merecen algún tipo de trato cuidadoso, una pregunta que solo se volverá más relevante cuanto más capaces y más parecidos a interlocutores se vuelvan los modelos; segundo, confirma que la disciplina de uso —no solo la capacidad técnica— es ya un campo de batalla regulatorio real, con casos concretos de abuso detrás de cada cláusula nueva. Ninguna de las dos cosas resuelve los problemas de fondo —desinformación, vigilancia, armamento—, pero marca que, al menos sobre el papel, Anthropic prefiere pecar de explícita antes que de ambigua.