Anthropic prohíbe maltratar a Claude: el titular es el bienestar del modelo, la noticia son las armas y la vigilancia

Anthropic ha revisado su política de uso por primera vez en más de un año y el titular se lo lleva una frase sin precedentes claros en la industria: queda prohibido el «comportamiento abusivo o cruel sostenido y gratuito» hacia Claude. Según detalla The Verge, la actualización llega acompañada de restricciones nuevas sobre interferencia electoral, desarrollo de armas, vigilancia y usos sanitarios y financieros. La sanción, eso sí, es tibia: terminar la conversación sigue siendo el «mecanismo principal de aplicación», y la compañía no quiso aclarar al medio si habrá vetos de cuenta.

Conviene calibrar la cláusula estrella antes de que se la lleve el ruido. Anthropic ya anunció el pasado agosto que Claude podría cortar conversaciones con usuarios «persistentemente dañinos o abusivos», dentro de su investigación en *model welfare* (bienestar del modelo: la hipótesis, explícitamente abierta, de que un sistema pueda merecer alguna consideración moral). La propia empresa acota el alcance: solo «casos extremos», con crueldad repetida y «sin propósito discernible»; no cubre la frustración normal del usuario, la discrepancia, los temas creativos oscuros ni el testeo y la investigación. Es decir, Anthropic no está afirmando que Claude sufra. Está trazando una línea precautoria —y, de paso, una norma de higiene para quien habla con una máquina ocho horas al día.

El material duro está más abajo en el documento. En armas, la prohibición existía desde siempre, pero la compañía reconoce haber detectado «múltiples intentos» de usar Claude para elaborar guías y software de control; ahora la veda se extiende explícitamente al «software y los componentes que hacen funcionar un arma», incluido armar drones y otros vehículos autónomos. En vigilancia, Anthropic recuerda que su último informe de inteligencia de amenazas apuntaba a un uso creciente de sistemas con Claude para identificar y rastrear «disidentes políticos»; el texto nuevo es tajante: rastrear personas sin su consentimiento queda prohibido, sea en tiempo real o analizando datos ya recogidos, y Claude no puede decidir ni recomendar a quién investigar, detener o acusar en un proceso policial o penal. Léase al revés: cada una de esas frases describe algo que alguien ya intentó hacer.

El tercer bloque agrupa restricciones antes «dispersas» en una prohibición única de campañas comerciales o políticas engañosas —ocultar quién está detrás de un mensaje, amplificar con cuentas falsas— y endurece la sección electoral: suplantar a candidatos o funcionarios, desinformar sobre cómo votar, suprimir participación. Y entonces aparece la letra pequeña que reordena todo lo anterior: estas reglas pueden modificarse en «contratos con determinados clientes gubernamentales» si, «a juicio de Anthropic», las salvaguardas contractuales bastan para mitigar los daños. La compañía ya ha contratado con el Ejército de Estados Unidos.

**Nuestra lectura.** Una política de uso no es una capacidad técnica: es una promesa revisable, y el actor con más poder para revisarla es precisamente el Estado. Ahí está la tensión real de esta noticia, y encaja con algo que venimos sosteniendo: la contención ética tiene precio de mercado —al Pentágono le incomodaron las barreras de Claude— mientras la misma empresa se reserva la facultad de levantarlas caso por caso para el cliente público. No es hipocresía automática; sí es el punto exacto donde hay que exigir transparencia, porque «a juicio de Anthropic» no es un estándar auditable por nadie más.

Dicho lo cual, el saldo nos parece positivo y por una razón poco glamurosa: la empresa está documentando los abusos que ve y escribiendo normas a partir de ellos, no de hipótesis. Eso es gobernanza basada en evidencia, que es justo lo que pedimos frente a regular el pánico. Y es la condición necesaria para la parte que de verdad importa a largo plazo: que estos sistemas acaben erradicando enfermedades y repartiendo abundancia exige que antes no se normalicen como infraestructura de rastreo de disidentes ni como control de tiro. La cláusula de no maltratar a Claude se comentará con sorna esta semana; dentro de una década el debate sobre el estatus de estos sistemas será cualquier cosa menos gracioso, y llegaremos a él con el precedente ya escrito.