Anthropic endurece su política de uso: prohíbe el maltrato al modelo y refuerza las reglas electorales

Anthropic actualizó el jueves 8 de octubre su política de uso de Claude, codificando nuevas prohibiciones sobre injerencia electoral, software para armas y vigilancia. Conviene aclarar que la fuente es una pieza breve de formato "In Brief" de TechCrunch, por lo que la información disponible es limitada y este resumen se ciñe estrictamente a lo que el artículo reporta, sin ampliar con detalles no confirmados.

El cambio que más atención ha generado es una nueva prohibición explícita contra el maltrato verbal prolongado al modelo. Esto se conecta con una actualización de agosto, en la que Claude fue entrenado para finalizar conversaciones calificadas como "interacciones de usuario persistentemente dañinas o abusivas". Ahora, la política de uso da un paso más y prohíbe expresamente a los usuarios insistir en ese tipo de conversaciones.

Según el comunicado citado en el artículo, la medida "está pensada para aplicarse solo en casos extremos, en los que los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin un propósito discernible". La propia Anthropic matiza que la norma "no aplica a formas comunes de frustración del usuario, réplicas críticas, temáticas creativas oscuras, o pruebas e investigación sobre el modelo", es decir, busca acotar el alcance a abusos sostenidos y sin finalidad aparente, no a la crítica o el uso exigente habitual.

El artículo señala que este endurecimiento llega después de que Anthropic buscara colaboraciones con académicos religiosos destacados, en algunos casos tratando de convencerlos de que Claude podría ser consciente o tener alma. El texto no detalla más sobre estas colaboraciones, pero la mención sugiere que la preocupación por el posible bienestar o estatus moral del modelo forma parte del trasfondo de esta decisión de política.

Más allá de la cuestión del maltrato al modelo, la actualización añade otras restricciones. Prohíbe a los usuarios emplear Claude en campañas ampliamente engañosas, como la operación de cuentas falsas o medios de noticias fabricados. También incorpora reglas específicas contra el engaño a votantes y la alteración de procesos electorales, agrupadas en una sección titulada "No socavar los procesos democráticos".

En conjunto, la actualización refleja dos frentes distintos que Anthropic decide tratar en el mismo documento: por un lado, el uso malicioso de la IA para desinformación y manipulación electoral, un terreno ya habitual en las políticas de las grandes empresas de IA; por otro, una protección más debatida dirigida al propio modelo frente al maltrato verbal sostenido por parte de usuarios, un asunto que toca directamente el debate sobre el posible bienestar de los sistemas de IA. El artículo no ofrece detalles adicionales sobre cómo se hará cumplir esta última norma ni sobre posibles sanciones a los usuarios que la incumplan.