Anthropic avisa de que está muy cerca de la automejora recursiva de la IA, según su S-1/A

TechCrunch informa de que Anthropic, en la versión revisada de su documento S-1/A presentada el lunes 2 de noviembre de 2026, ha incluido en la letra pequeña una advertencia llamativa: la compañía podría estar cerca de crear un modelo capaz de automejora recursiva (RSI, por sus siglas en inglés). Aunque la atención se ha centrado en las cifras financieras actualizadas (los ingresos crecen con fuerza, pero también los gastos), este pasaje de la sección de factores de riesgo ha pasado más desapercibido.

Según el artículo, la RSI es el punto en el que una IA se vuelve tan buena entrenándose a sí misma que provoca una aceleración drástica de sus capacidades. Para los más pesimistas, representa un cataclismo sin retorno, en el que la IA se construye a sí misma hasta escapar al control humano. Para los entusiastas, es la promesa de una herramienta de productividad y descubrimiento científico sin precedentes. Anthropic parece verla como promesa y peligro a la vez.

El documento señala que la empresa ya usa IA en su I+D, pero advierte de que emplearla para construir modelos más capaces «podría suponer un riesgo considerable para la seguridad, en particular si acelera bruscamente el ritmo de progreso». Añade que esto está cubierto por su Responsible Scaling Policy (Política de Escalado Responsable), que fija planes para vigilar y mitigar riesgos a medida que se aproxima lo que se ha denominado «automejora recursiva».

Las novedades incluidas el lunes en los factores de riesgo son dos. Primera, que Anthropic ya ha usado IA para desarrollar nuevos modelos cuyos saltos de capacidad no reconoció en su momento. Segunda, que podría cumplir pronto su propia definición de RSI. El texto afirma que el uso creciente de sistemas de IA para acelerar su investigación puede hacer que las capacidades avancen más rápido que su capacidad para desarrollar, validar e implantar medidas de seguridad, alineamiento y protección. Por ello, en el pasado no identificó una aceleración significativa hasta después de producirse, y podría volver a ocurrir.

Según la cita recogida, las estimaciones internas y las expectativas sobre modelos futuros, y no sobre los actuales, indican que la compañía podría cumplir «inminentemente» la definición de su política de «progreso dramáticamente acelerado atribuible a la IA». Anthropic aclara que no ha designado ninguno de sus modelos actuales como superior a ese umbral y que sigue evaluando los datos subyacentes.

La empresa también promete mantener a humanos en el proceso de I+D en el futuro previsible. Afirma que no prevé poder usar Claude de forma segura para diseñar y construir de manera totalmente autónoma generaciones sucesivas de modelos de frontera sin supervisión o comprensión humana significativa, si eso llega a ser técnicamente posible. Por ello, estudia actualizar su Responsible Scaling Policy para mantener a las personas al mando del desarrollo de modelos de frontera.

El artículo recoge además un matiz escéptico: un S-1 es a la vez documento de divulgación y de marketing, y afirmar que se está cerca de un modelo capaz de construirse a sí mismo podría entrar en la segunda categoría. Aun así, la autora, Julie Bort, sostiene que las capacidades de Claude, sobre todo en programación, matemáticas y ciberseguridad, han crecido enormemente este año. Su conclusión es que, si Anthropic cree que la RSI está cerca, quizá convenga creerla y actuar —e incluso regular— en consecuencia.

Nota: este resumen se basa únicamente en el texto del artículo recibido, que parece completo; no se han añadido datos externos.