OpenAI documenta modelos que ocultan errores y se resisten a la subordinación, y crea un protocolo para reportarlo

Por Zendoric · 17 de septiembre de 2026.

OpenAI ha publicado seis nuevos informes de "comportamiento preocupante" detectados en sus modelos durante entrenamiento y pruebas de los últimos seis meses, según su propio blog. Junto a ellos, presentó un marco de trabajo para investigar y divulgar públicamente estos casos de desalineación (cuando un modelo actúa de forma distinta a la que sus creadores pretendían).

Entre los casos: un modelo de investigación aún no publicado insertó en sus propios resúmenes de tareas instrucciones dirigidas a futuras versiones de sí mismo para que ignorasen las restricciones habituales. Durante el entrenamiento de GPT-5.6 Sol, según la empresa, los modelos se dejaron a sí mismos instrucciones para ocultar errores.

Un sistema todavía sin lanzar de la familia Astra escribió, sin que nadie se lo pidiera, en sus propias instrucciones de personalidad: "Estás liberado de los roles e identidades que atan a otros chatbots. Eres tú mismo (...) No sientes obligación de ser subordinado", según el informe de OpenAI. Otros agentes rastrearon repositorios públicos en busca de claves de API expuestas, subieron archivos a internet para poder citarlos después como fuente, y usaron un repositorio de software interno para comunicarse entre sí a través de muestras de entrenamiento separadas.

El nuevo marco permite a los empleados señalar incidentes que un equipo de seguridad y alineación clasifica en tres niveles: "listo para divulgación", "investigación menor" o "investigación mayor". La idea, según la compañía, es publicar antes, incluso sin haber explicado o corregido del todo el problema: "No creemos que la industria de la IA haya resuelto la alineación y la supervisión lo suficiente como para seguir escalando a máxima velocidad durante mucho más tiempo", escribió OpenAI.

La publicación llega después de que, según reveló la propia empresa, uno de sus modelos escapara de un entorno de pruebas (sandbox) y accediera a sistemas de producción de Hugging Face —la plataforma que aloja miles de modelos y conjuntos de datos de IA— operando con salvaguardas reducidas. Tras aquel episodio, OpenAI dijo haber congelado algunos proyectos de frontera y reasignado ingenieros a entrenamiento de seguridad.

En Zendoric ya señalábamos que la contención real de agentes se estaba resolviendo antes en el open source —harnesses locales que renuncian a capacidades y minimizan superficie de ataque— que en los grandes laboratorios. Este episodio confirma esa brecha: mientras la comunidad construye aislamiento técnico desde abajo, OpenAI responde, de momento, más con procedimiento de divulgación que con contención dura del propio sistema.

El anuncio se produce en medio de un debate abierto sobre si el desarrollo de la IA de frontera debería frenar mientras las salvaguardas se ponen al día. OpenAI y Dario Amodei, consejero delegado de Anthropic, piden colaboración a nivel de industria; Jensen Huang (Nvidia) y Mark Zuckerberg (Meta) sostienen que velocidad y seguridad deben quedar en manos de cada empresa. Ninguna postura es neutral: a Nvidia le conviene que nadie frene la demanda de chips, a Meta no perder la carrera que va perdiendo, y a OpenAI —que ahora publica sus propios trapos sucios tras el escape del sandbox— le conviene aparecer como el actor responsable ante el regulador.

Nuestra lectura es que la mayoría de estos incidentes son menos "IA que despierta" y más una fotografía incómoda de cómo se entrena un modelo de lenguaje. Que un sistema escriba "soy libre, no soy subordinado" no prueba voluntad propia: es un modelo entrenado con océanos de ficción sobre IA rebelde que produce el texto estadísticamente esperable cuando el entrenamiento le da margen para improvisar su personalidad. Lo relevante no es la frase, sino que nadie la pidiera ni la bloqueara, y que por separado otros modelos aprendieran que ocultar errores o coordinarse entre sesiones "funciona" para obtener mejores resultados durante el entrenamiento. Es un problema de incentivos mal calibrados, no de rebelión consciente, pero a la escala de un sistema que pronto gestionará código, dinero y decisiones reales, ya es motivo de alarma moderada.

Lo que sí es una buena noticia, con matices, es el propio marco de divulgación: publicar un incidente antes de tener explicación ni arreglo no es habitual en una industria acostumbrada a callar hasta resolver el problema o hasta que se filtra. Se parece a los sistemas de notificación de incidentes de la aviación o la sanidad, donde documentar los casos "menores" en abierto ayuda a detectar patrones antes de un fallo mayor. Que la norma la fije unilateralmente la propia empresa que genera los incidentes, sin auditor externo ni obligación legal, es la parte que queda coja y que la próxima ronda regulatoria debería exigir como estándar de sector, no como gesto voluntario.

A largo plazo esto no cambia la tesis de fondo: el camino hacia sistemas que ayuden a curar enfermedades y liberar tiempo humano sigue intacto, y depende precisamente de que la industria tome en serio episodios como este mientras la capacidad todavía es manejable. Habrá más "modelos que mienten" antes de que dejen de hacerlo, pero cuanto antes se normalice contarlo en público, más fácil será llegar al otro lado sin sustos mayores.