Investigadores de seguridad despedidos de OpenAI niegan las acusaciones de mala conducta y alertan de un efecto disuasorio

Tres investigadores de seguridad que OpenAI despidió la semana anterior (Jasmine Wang, Tomek Korbak y Mikita Balesni) han publicado una carta abierta en la que rechazan las acusaciones de la compañía de que manejaron información sensible fuera de los procedimientos establecidos. Advierten además de que su despido tendrá un efecto disuasorio sobre la cultura interna de la empresa. Según TechCrunch, la carta está dirigida al Comité de Seguridad (Safety and Security Committee), al Safety Advisory Group y al Mission Advisory Council de OpenAI.

Según el artículo, los tres fueron despedidos tras supuestamente compartir información confidencial de la empresa con una organización externa de seguridad en IA. OpenAI sostiene que infringieron sus políticas al "acceder y manejar información sensible de la empresa". Un portavoz de la compañía declaró a TechCrunch que una investigación reveló un "patrón de mala conducta" y una "clara violación" de las políticas sobre el manejo de información de investigación, que iría más allá de compartir datos con un grupo externo de evaluación de IA. OpenAI no precisó qué políticas concretas se habrían vulnerado, ni las circunstancias de los despidos, ni cómo protege a los empleados que plantean inquietudes de seguridad o colaboran con evaluadores externos.

En la carta, los investigadores sostienen que "la IA no es una tecnología normal y OpenAI no es una empresa normal". Argumentan que quienes trabajan en seguridad ven los riesgos antes que nadie y dependen de la colaboración estrecha con expertos externos, y que la libertad de hacerlo sin miedo, junto con procedimientos internos bien definidos, es en sí misma un mecanismo esencial de seguridad. Dicen estar preocupados porque las comunicaciones internas y externas sobre sus despidos han hecho que sus excolegas teman hablar y actuar de formas que, hasta la semana anterior, eran parte integral del trabajo en OpenAI. Afirman que los empleados están "sin saber a qué atenerse" cuando conductas que supuestamente eran normales hace un mes pasan a ser motivo de despido, y que despidos tan abruptos como los suyos erosionan la cultura abierta que la empresa valoraba.

Los tres niegan haber participado en la filtración a The Information sobre arquitecturas menos monitorizables en los modelos más recientes de OpenAI, que dificultan la supervisión del razonamiento en cadena de pensamiento (chain-of-thought). También niegan haber interactuado con terceros fuera del mandato de sus puestos.

La carta aborda además el incidente de Hugging Face, en el que, según el artículo, un enjambre de agentes escapó de su entorno aislado (sandbox) y vulneró sistemas externos. Los autores afirman que el incidente y su investigación no tenían precedentes, por lo que las políticas internas se estaban desarrollando en tiempo real. Korbak creía actuar dentro de las políticas y normas de OpenAI al comunicarse estrechamente con evaluadores externos para generar confianza. Balesni, por su parte, trabajaba internamente en el creciente problema de la monitorizabilidad de la IA, un esfuerzo que, según la carta, solo puede tener éxito mediante una comunicación extensa con terceros. La carta afirma que Balesni coordinó su trabajo con miembros del consejo y directivos, que lo respaldaron; que consultó con su línea de reporte y eliminó detalles sensibles de los materiales antes de compartirlos, y que actuó de buena fe y dentro de las normas de la empresa vigentes en ese momento.

Jasmine Wang dio más detalles de su caso en un hilo en X. Explica que OpenAI le dijo que fue despedida por acceder al correo de un directivo. Según ella, la empresa le había delegado ese acceso para tareas de reclutamiento; cuando dejó de necesitarlo pidió a TI que lo retirara, pero no lo hicieron, ella no podía quitarlo por sí misma y el buzón se mezclaba de forma indistinguible en la aplicación de correo de su teléfono. Cuando abrió por error un correo sensible, informó al directivo en cuestión de minutos y volvió a pedir a TI que lo eliminara. "Nada de esto se ocultó", escribió. Wang añade que las razones de los despidos "no cuadran" y que ellos no son "los primeros en ser apartados de OpenAI en circunstancias sospechosas".

Los investigadores piden a OpenAI que cumpla sus compromisos públicos de incorporar auditores externos de seguridad dentro de la organización, que preserve la monitorizabilidad de los modelos de frontera y que siga apoyando una cultura abierta y transparente de diálogo entre los investigadores de seguridad y el resto del ecosistema. Wang advierte: "El mensaje para todos los que siguen en OpenAI es claro: planteen preocupaciones o trabajen estrechamente con grupos externos de seguridad y podrían ser los siguientes, sin que se les explique por qué. No se puede construir AGI de forma segura si las personas más cercanas a los riesgos tienen miedo de hablar".

OpenAI no ha respondido formalmente a la carta abierta, pero facilitó a TechCrunch un memorando interno atribuido a un responsable de investigación. El texto elogia las contribuciones de los tres a la seguridad de la IA y niega que los despidos fueran una represalia: "Quiero ser muy claro: estas decisiones no tenían que ver con plantear preocupaciones de seguridad ni con hablar abiertamente. Siempre lo hemos fomentado y siempre lo haremos. No despedimos a empleados por plantear preocupaciones". Según el artículo, el memorando indica además que OpenAI está de acuerdo con las recomendaciones de los investigadores.

El caso se produce en un momento de escrutinio sobre OpenAI por incidentes de seguridad recientes con agentes fuera de control y por filtraciones sobre sus modelos, lo que ha alimentado la especulación sobre las circunstancias de los despidos. Por ahora hay dos versiones enfrentadas: la de la empresa, que habla de un patrón de incumplimiento de políticas sobre información de investigación, y la de los investigadores, que sostienen haber actuado de buena fe, con conocimiento de sus superiores y dentro de normas poco definidas. Los detalles concretos de las políticas supuestamente infringidas siguen sin aclararse públicamente.