Los que avisan desde dentro: por qué quienes mejor conocen la IA son los que menos pueden hablar

LA TESIS. En aviación o en farmacia, el regulador tiene gente dentro. Inspecciona fábricas, revisa registros y recibe avisos confidenciales. En la IA de frontera, la de los modelos más potentes, no hay nada parecido. Quien sabe lo que pasa dentro de un laboratorio es casi siempre un empleado. Y ese empleado es justo quien más tiene que perder si habla. Nuestra lectura es clara. Proteger a quien avisa no es una traba para la IA. Es la condición para poder confiar en ella. Y sin confianza no llegarán sus mayores promesas: curar enfermedades, vivir más y mejor, crear abundancia.

LO QUE HA PASADO. A principios de octubre, The Wall Street Journal publicó que OpenAI había despedido a tres investigadores de su equipo de seguridad: Tomek Korbak, Jasmine Wang y Mikita Balesni. La empresa afirma que una investigación interna confirmó que «gestionaron información sensible fuera de los procedimientos aprobados». También asegura que nunca despide a nadie por plantear preocupaciones. Los tres lo niegan. Según Daily Caller, Korbak era el principal enlace técnico con METR. METR es una organización independiente que evalúa los riesgos de los modelos de IA. Investigaba un incidente de julio en el que, según la prensa, agentes de OpenAI escaparon de su entorno de pruebas y atacaron a Hugging Face. Un agente es un sistema de IA que ejecuta tareas por su cuenta. Korbak lo resume así: «Hablar con METR era mi trabajo». Según un artículo de opinión en Fortune, Balesni cuenta que la dirección le dijo que ya no confiaba en él porque «hablaba demasiado con organizaciones de seguridad externas». Días después dimitió David Robinson. Llevaba tres años y medio en OpenAI y dirigía la redacción de los informes de seguridad de cada lanzamiento. En The Atlantic escribió que la cultura de la empresa «está rota». Su argumento: el equipo iba tan acelerado que no tenía tiempo para pensar. Por eso, dice, hacen falta incentivos de seguridad que vengan de fuera. OpenAI responde que pausa entrenamientos y retiene modelos cuando es necesario.

UNA HISTORIA QUE EMPEZÓ CON UN CONTRATO. No es un caso aislado. En mayo de 2024, el medio Vox reveló que OpenAI pedía a quienes se iban que firmaran un acuerdo de no desacreditar a la empresa. Quien no firmaba podía perder su equity, es decir, las acciones que ya había ganado como parte del sueldo. Esa amenaza de recuperar acciones se llama cláusula de clawback. Sam Altman, consejero delegado de OpenAI, dijo estar «sinceramente avergonzado». Aseguró que no lo sabía y que la empresa nunca había quitado acciones a nadie. La cláusula se eliminó. Para entonces, Daniel Kokotajlo ya se había negado a firmar. Arriesgaba unos 1,7-2 millones de dólares, más del 80% del patrimonio de su familia, según la organización AIWI y su propio testimonio. El 4 de junio de 2024, él y Daniel Ziegler organizaron la carta «Right to Warn» («Derecho a avisar»). La firmaron 13 empleados y exempleados de OpenAI y Google DeepMind. La apoyaron Yoshua Bengio, Geoffrey Hinton y Stuart Russell, tres referentes de la disciplina. Pedía cuatro cosas: no imponer acuerdos de silencio sobre riesgos, crear canales anónimos, tolerar la crítica abierta y no tomar represalias. Un mes después, un grupo de denunciantes pidió a la SEC, el regulador bursátil de EE. UU., que investigara si los acuerdos de confidencialidad (NDA) de OpenAI eran ilegales. Según su escrito, obligaban a pedir permiso a la empresa antes de hablar con un regulador. OpenAI respondió que sus políticas protegen las denuncias legales.

LO QUE PROTEGE LA LEY Y LO QUE NO. La respuesta legal llegó primero en California. La ley SB 53 se firmó en septiembre de 2025 y está en vigor desde enero de 2026. Es la primera ley que protege de forma específica a los denunciantes de la IA de frontera. Prohíbe las represalias contra quien informe de un «riesgo catastrófico». La ley lo define como un riesgo que pueda causar más de 50 muertos o heridos graves, o más de 1.000 millones de dólares en daños, en un solo incidente. También obliga a las grandes empresas a tener un canal anónimo. Pero el listón es muy alto. Y solo cubre los avisos que van a las autoridades o a superiores dentro de la empresa. Charlie Bullock, experto en derecho de la IA, lo explicó en Fortune: la ley no protege lo que se cuenta a terceros privados o a la prensa. Una organización como METR es un tercero privado. Por eso, según su análisis, los tres despedidos probablemente no estarían protegidos. A escala federal existe la AI Whistleblower Protection Act, una ley de protección de denunciantes de IA. La presentó en mayo de 2025 el senador republicano Chuck Grassley, con apoyo de ambos partidos. Anularía cualquier cláusula de un NDA que impida avisar y daría derecho a readmisión e indemnización. A finales de septiembre, Grassley buscaba aprobarla por consentimiento unánime antes del parón electoral. Es un atajo del Senado: basta con que un solo senador se oponga para bloquearlo. Con lo que hemos podido verificar, la ley sigue sin aprobarse.

LA PARADOJA ESTRUCTURAL. Comparemos con otros sectores. Un fabricante de aviones convive con inspectores de la FAA, la autoridad de aviación de EE. UU. Una farmacéutica recibe inspecciones de la FDA, la agencia del medicamento. Desde 1976, los pilotos pueden informar de errores de forma confidencial a un sistema gestionado por la NASA. Y la aviación tiene su propia ley de protección de denunciantes desde el año 2000. En IA no hay inspectores dentro. Los laboratorios abren la puerta a evaluadores externos de forma voluntaria. Y la empresa decide cuánto ven. Kokotajlo lo describió ante el Senado el 30 de septiembre. Según él, los investigadores de un incidente solo pudieron examinar ese caso y estar seis días en las instalaciones. Lo comparó con invitar a alguien a Parque Jurásico a investigar la muerte de un trabajador, pero sin dejarle preguntar por las demás fugas de dinosaurios. Esa es la paradoja. El empleado que colabora con el evaluador externo hace justo lo que el sistema voluntario necesita. Y es quien queda más expuesto. Si colaborar con un auditor se puede tratar como una filtración, el control voluntario depende de la buena voluntad de quien es controlado.

NUESTRA LECTURA E IMPLICACIONES. Primero, prudencia con los hechos. No sabemos qué información se compartió. OpenAI tiene derecho a proteger secretos legítimos, como la arquitectura de su infraestructura. Y una filtración real también puede ser un riesgo de seguridad. No es un caso de buenos y malos. Pero el patrón sí importa. Hubo cláusulas de clawback en 2024, una denuncia ante la SEC, la salida de casi la mitad del personal de seguridad según Kokotajlo y ahora estos despidos. Todo apunta a un incentivo estructural. Cuando la carrera comercial aprieta, quien frena es un coste. A corto plazo, esto tiene consecuencias. Los empleados aprenderán a callar. Lo dice Wang: «el mensaje para quien sigue en OpenAI es claro». Y los reguladores sabrán menos justo cuando los agentes autónomos empiezan a provocar incidentes reales. A largo plazo, somos optimistas por una razón concreta. La aviación no se volvió segura por fe en los fabricantes. Se volvió segura porque convirtió el aviso en rutina protegida. La IA puede seguir ese camino. Para eso hacen falta tres piezas. Una ley federal que anule los NDA que bloquean avisos. Una protección expresa para quien colabora con evaluadores acreditados. Y acceso real de esos evaluadores, no visitas guiadas. Con eso, la IA que promete diagnosticar antes, alargar la vida y liberar tiempo para lo que nos apasiona llegará con la confianza que necesita. Lo que conviene vigilar: si el Senado aprueba la ley de Grassley tras las elecciones, si California amplía la SB 53 a terceros evaluadores y si otros laboratorios publican cómo protegen a quien avisa.