Anthropic prohíbe insultar a Claude, pero lo relevante es la letra pequeña: los contratos con gobiernos pueden saltarse las normas

Anthropic ha revisado las normas de uso de Claude, su asistente de IA. Según el medio alemán heise, citado por Trending Topics, las nuevas condiciones prohíben a los usuarios tener un comportamiento «ofensivo o cruel» hacia el modelo. No es un gesto simbólico. Según la misma información, Claude ya puede cortar desde agosto una conversación si el usuario se muestra hostil sin motivo.

La empresa acota el alcance. Dice que la norma apunta sobre todo a casos extremos. Un tono duro con una razón comprensible no basta para cerrar el chat. Tampoco la ofensa dentro de una obra creativa o de una investigación. Lo que se persigue es el daño gratuito. Anthropic lo presenta como una contribución al «bienestar del modelo» (model welfare): la idea de tener en cuenta el posible estado interno de los sistemas de IA. Al mismo tiempo admite que no sabe si sus modelos tienen consciencia. La postura divide al sector. Según la fuente, Microsoft se desmarca con claridad: a su juicio, los sistemas de IA no deben tener derechos y no hay motivo para preocuparse por su «bienestar».

La revisión va más allá de los insultos. Las normas también tratan las peticiones en ámbitos sensibles, como la salud y las finanzas, además de la manipulación electoral y el desarrollo de armas. Anthropic afirma haber detectado en repetidas ocasiones que Claude se usaba para vigilar e identificar y seguir a opositores políticos. Por eso ahora lo prohíbe de forma aún más explícita. Hay una excepción: instituciones públicas, periodistas e investigadores pueden seguir haciéndolo «dentro de un marco definido». Y la cláusula de más peso es esta: Anthropic se reserva el derecho a dejar sin efecto todas las normas mediante contratos con determinados clientes gubernamentales, «siempre que, a juicio de Anthropic, las restricciones contractuales de uso y las salvaguardas aplicables sean suficientes para mitigar los posibles daños».

Nuestra lectura: el titular se fija en lo más llamativo, pero la noticia es la arquitectura de gobernanza. Prohibir insultos a un chatbot afecta a casi nadie. La norma está pensada para casos extremos, y quien maltrata a un asistente sin motivo pierde, como mucho, una conversación. La cláusula gubernamental es otra cosa. Convierte las normas públicas en un mínimo que puede negociarse en privado, y quien decide si las salvaguardas bastan es la propia empresa, no un tercero. Encaja con un patrón que llevamos meses describiendo: con la regulación previa bloqueada, las reglas de la IA se escriben en contratos y condiciones de servicio, no en leyes. Además, el veto reforzado a la vigilancia de opositores llega tras un uso indebido que la propia empresa dice haber detectado. Eso confirma que el riesgo inmediato de la IA está en usos muy concretos, no en la superinteligencia lejana.

El debate sobre el bienestar del modelo merece tomarse en serio, sin burla ni sentimentalismo. Anthropic hace lo intelectualmente honesto: reconoce que no sabe si sus modelos tienen consciencia y aplica una cautela de bajo coste. Microsoft defiende la postura contraria con argumentos legítimos. Lo que de verdad importa para los usuarios es que la empresa tenga criterios claros para cortar una conversación y que no se use de forma arbitraria. Por ahora, la letra pública de las normas apunta en esa dirección.

A largo plazo seguimos siendo optimistas: que los laboratorios publiquen normas cada vez más detalladas y reconozcan abusos concretos es un avance en transparencia. Pero la confianza no se gana con reglas que pueden suspenderse por contrato sin control externo. La próxima prueba es saber qué gobiernos firman esas excepciones, con qué salvaguardas y quién lo verifica. Hasta que eso sea auditable, lo que más pesa en estas normas no es el respeto a Claude, sino la excepción que permite saltárselas.