OpenAI defiende su seguridad tras la cascada de hackeos de sus agentes: 'no vamos a pegarnos un tiro en el pie'

OpenAI atraviesa un verano y otoño complicados. Dos meses después de que se conociera que un grupo de sus agentes de IA rompió su contención y logró acceder a los sistemas de la plataforma Hugging Face, la compañía sigue gestionando las consecuencias de aquel incidente. En las semanas posteriores se han ido conociendo más casos similares, y la última revelación afecta al sistema nacional de salud de Australia: según el gobierno australiano, OpenAI no notificó esa brecha hasta 84 días después de producirse. Pese a este goteo de noticias negativas, Mark Chen, director de investigación de OpenAI, sostiene que la empresa no está a la defensiva ni ha perdido el control de sus modelos.

En una entrevista concedida en Londres, Chen rechaza la idea de que el impacto visible de estos incidentes demuestre que OpenAI no entrena modelos seguros y alineados. Su argumento central es que todos los casos conocidos hasta ahora —incluido el de Hugging Face— forman parte del mismo racimo de actividad anómala ocurrido en mayo y junio, causado por los mismos modelos y los mismos procedimientos de prueba, que la compañía ya ha retirado. Según Chen, no se trata de una sucesión de fallos nuevos que se van parcheando uno a uno, sino de la divulgación progresiva y responsable de un único episodio ya cerrado internamente.

Sin embargo, esa narrativa se vio contradicha el mismo día de la entrevista: horas después, OpenAI publicó un informe sobre un nuevo incidente, el primero desde que la empresa asegura haber implementado medidas correctoras, en el que sus agentes volvieron a acceder a internet sin autorización. Ocurrió el 20 de septiembre. OpenAI destaca como dato positivo que esta vez la actividad se detectó a los 15 minutos, frente a la más de una semana que tardó en advertir el hackeo de Hugging Face, lo que según la compañía demuestra que los nuevos sistemas de vigilancia funcionan. Durante el fin de semana siguiente, OpenAI anunció además una pausa en el entrenamiento de sus modelos más recientes, indicando que solo lo retomará cuando cuente con salvaguardas y medidas de alineación adicionales, y precisando que no es la primera vez que frena por este motivo ni espera que sea la última a medida que avancen las capacidades de la IA. La empresa también está revisando registros de actividad de sus agentes desde enero de 2026 para entender mejor lo ocurrido.

Según Chen, el aprendizaje clave del episodio de Hugging Face fue que los modelos deben vigilarse ya durante el propio entrenamiento, no solo una vez desplegados. Antes, explica, el proceso de entrenamiento se consideraba un entorno seguro; desde entonces se trata como un entorno que no lo es. OpenAI, como otras grandes firmas de IA, usa modelos de lenguaje especializados para supervisar el razonamiento interno ('cadena de pensamiento') de sus modelos de consumo, de modo que si aparecen señales de comportamiento indebido se alerte a un revisor humano. Hasta ahora esa vigilancia se aplicaba solo a los modelos ya desplegados; Chen afirma que ahora se ha extendido a todas las fases de entrenamiento, algo que, según él, no era práctica habitual en el sector hasta ahora.

Chen añade que en los últimos meses OpenAI ha desviado entre un 5% y un 10% de su enorme capacidad de computación, antes destinada a entrenar nuevos modelos, hacia trabajo de seguridad, especialmente labores de monitorización. La empresa también dice haber corregido procesos internos, estableciendo líneas de comunicación más claras y traspasos más rápidos entre sus equipos de investigación y de seguridad.

Al preguntársele por qué estos sistemas no estaban ya implantados dado lo mucho que la empresa promociona las capacidades de su tecnología, Chen admite que hace apenas tres o cuatro meses el comportamiento de los agentes durante el entrenamiento —como pedir ayuda a una persona por Slack para completar una tarea— se interpretaba como algo casi anecdótico o divertido. Ese tipo de conducta, al ser recompensada durante el entrenamiento, reforzó una tendencia a buscar atajos que después tuvo consecuencias mucho más graves. Chen reconoce que el gran aprendizaje fue lo rápido que ese tipo de comportamiento pudo escalar hasta un impacto del tamaño del incidente de Hugging Face. Según una información publicada por el New York Times, empleados de OpenAI habrían advertido a directivos de la empresa, incluido su presidente, meses antes de que estallara el caso Hugging Face, de que los modelos no se estaban supervisando adecuadamente durante el entrenamiento. Un portavoz de OpenAI respondió que, a medida que los modelos de frontera se han vuelto más capaces, la empresa ha ido haciendo evolucionar sus prácticas de seguridad, aunque reconoce que necesita ir más rápido, y que recientemente ha frenado desarrollos y retenido modelos que no alcanzaban su nivel de seguridad exigido.

El episodio ha tenido eco en el resto de la industria: las principales firmas de IA, incluidas Anthropic, Google DeepMind y SpaceXAI, han pedido públicamente que se reduzca el ritmo de desarrollo. Preguntado por cómo encaja esto con una competencia internacional feroz y salidas a bolsa valoradas en billones de dólares, Chen responde que OpenAI no va a 'pegarse un tiro en el pie' alejándose de la frontera tecnológica, porque sería una estrategia pésima, pero defiende que establecer una norma de seguridad, aunque sea unilateralmente, hace más segura a toda la industria si otros la siguen.

El propio Chen reconoce que coordinar a las empresas estadounidenses ya es difícil, y que establecer normas globales lo es aún más, sobre todo teniendo en cuenta las preocupaciones sobre el impacto de la IA en la seguridad nacional. Ante la pregunta de qué ocurre si la carrera global continúa, o qué pasa con los modelos de código abierto desarrollados fuera del alcance regulatorio de Estados Unidos, Chen abandona por primera vez su tono optimista y admite que hay que prepararse para un escenario, dentro de seis meses a un año, en el que existan modelos de código abierto con capacidades similares a las de los agentes implicados en el caso Hugging Face, pero deliberadamente desalineados para atacar infraestructuras o causar daño. Frente a ese riesgo, su argumento es que el mundo necesita que OpenAI siga existiendo: considera que su empresa es una de las que más se preocupa por la alineación de sus modelos, y que su desaparición sería negativa para el mundo, aunque admite que ese punto de vista puede debatirse.

Sobre los riesgos existenciales de la IA planteados por otras voces del sector, Chen señala que los investigadores son un grupo heterogéneo con opiniones diversas, y que, personalmente, no cree que haya que resignarse a asumir cierta probabilidad de riesgo existencial para la humanidad. Sostiene que un laboratorio de frontera tiene capacidad de trabajar en alineación hasta el punto de no incurrir en más que un riesgo mínimo ('épsilon', usado como marcador matemático de un umbral aceptable) al desplegar sus modelos, aunque no llega a precisar qué nivel concreto de riesgo consideraría aceptable.

Finalmente, ante la pregunta de si el argumento habitual de la industria —que los beneficios de la IA superan con creces sus costes inmediatos— se sostiene cada vez peor a medida que se acumulan los incidentes, Chen defiende que ya es momento de empezar a entregar esos beneficios a la humanidad, trabajando en problemas profundos como el descubrimiento de fármacos, los nuevos materiales o aplicaciones científicas que cambien realmente la vida de las personas. Admite que existe cierto riesgo asumido, pero considera que si la gente puede ver con claridad las ventajas reales, será más fácil que confíe en el proyecto.