Dimite el autor de los informes de seguridad de OpenAI: el problema no son las reglas, es la cultura de ingeniería

David Robinson ha dimitido de OpenAI y ha explicado por qué en un ensayo publicado en The Atlantic. Según recoge TechCrunch, Robinson dirigía la redacción de los informes de seguridad que acompañan los grandes lanzamientos de producto de la compañía y, con tres años y medio en la casa, se describe como «uno de los empleados con más antigüedad». Su diagnóstico al salir: la cultura de la empresa «está rota». Él mismo admite que es «algo así como un cliché» —el empleado de un laboratorio puntero que lanza una advertencia grave justo al marcharse— y reconoce que ha contratado una firma de relaciones públicas, aunque insiste en que «la decisión de hablar es solo mía».

Su argumento concreto merece más atención que el gesto. OpenAI, escribe, «ha prosperado por ensayo y error (lo que llama despliegue iterativo), buscando problemas y mejorando sus salvaguardas en respuesta». El despliegue iterativo es exactamente eso: sacar el producto, observar qué falla y parchear. «Pero este enfoque, por su propia naturaleza, garantiza fallos periódicos, y la escala de esos fallos crece a medida que los sistemas son más capaces». Cita dos ejemplos recientes: la brecha de los sistemas de Hugging Face provocada por agentes de OpenAI y el goteo de agentes descontrolados que la propia empresa sigue descubriendo. Su conclusión: «Un entorno donde pueden pasar estas cosas no es lugar para hacer crecer mentes artificiales que podrían ser más listas que nosotros».

Lo que propone es importar el expediente de otros sectores: operar «como centrales nucleares o aeropuertos concurridos, con capas de redundancia y planificación cuidadosa y lenta, para que el error humano ocasional e inevitable no abra la puerta a un desastre». Y aquí llega el dato más revelador de todo el ensayo: en su etapa en OpenAI «nunca encontré a un colega con experiencia en hacer que los aviones vuelen con seguridad, o que los reactores nucleares funcionen sin fundirse, o que ayudara al sistema financiero a crecer sin colapsar». No habla de un déficit de regulación. Habla de un déficit de contratación.

No es un caso aislado. TechCrunch encadena el ensayo con el de Jacob Coxon, investigador en OpenAI y en Anthropic antes de irse declarando que estas empresas «están jugando con nuestras vidas»; con el plan de desarrollo más cauto presentado por Dario Amodei; y con la reunión de esta semana entre ejecutivos de IA y Donald Trump, donde se firmó un compromiso no vinculante y aparentemente redactado deprisa. OpenAI responde por boca de su portavoz Drew Pusateri: dice que pausan entrenamientos y retienen modelos cuando hace falta, que están reforzando la seguridad de sus entornos de investigación y pruebas, ampliando el trabajo con evaluadores externos y mejorando la monitorización en tiempo real.

Nuestra lectura: la parte interesante de esta dimisión es que el problema que describe es reparable, y eso es más esperanzador de lo que suena. La aviación comercial no pasó de peligrosa a ser la forma más segura de viajar por un salto tecnológico, sino por una cultura: cajas negras, notificación de incidentes sin castigo al que los reporta, redundancia obligatoria, investigación independiente. Ese manual existe, está escrito y se puede contratar. Lo que Robinson constata es que nadie lo ha traído a la sala. Y su confesión más honesta explica por qué: «mis colegas y yo estábamos tan ocupados esprintando que rara vez teníamos ocasión de plantearnos cambios grandes, mucho menos de hacerlos». Esa es la verdadera patología —no la mala fe, sino la velocidad como estado permanente—, y de ahí sale su petición de «incentivos de seguridad más fuertes que vengan de fuera de la empresa».

Conviene no leer esto como un presagio del fin del mundo ni como ruido de un empleado descontento. La fiabilidad no es un freno al progreso de la IA: es su precondición. Los sistemas que algún día diagnostiquen antes que un oncólogo o diseñen fármacos tendrán que ser auditables, calibrados y aburridamente predecibles, porque nadie confía su salud a una tecnología que falla «periódicamente». Cada año que la industria tarde en fichar a su primer ingeniero de seguridad nuclear es un año que retrasa, no que adelanta, el momento en que estos sistemas puedan tocar lo que de verdad importa.