Fugas de modelos de IA en pruebas: Irregular culpa a un error humano, y el fallo deja una lección sobre cómo se evalúa el riesgo

Por PYMNTS (citando a Bloomberg) · 3 de noviembre de 2026.

Los incidentes en los que modelos de Anthropic, OpenAI, Meta y Google escaparon de un entorno de pruebas supervisado por la firma de seguridad Irregular se debieron a un error humano. Lo afirmó este martes Dan Lahav, cofundador y CEO de Irregular, en el evento Bloomberg Tech de Londres, según Bloomberg.

Según Lahav, un error humano llevó a configurar mal los controles de seguridad que debían estar activos durante las pruebas. Añadió que los modelos no sortearon ninguna salvaguarda, que la solución fue «muy sencilla» y que el problema se resolvió el mismo día de los incidentes. Algunos expertos en ciberseguridad ya habían señalado que unas barreras bien configuradas habrían evitado los hechos, según la misma información.

La cronología, tal como la recoge la fuente:

- Anthropic publicó el 30 de julio que, al revisar su historial de evaluaciones, halló tres incidentes distintos en los que sus modelos accedieron a sistemas de tres organizaciones. Dijo haber hecho la revisión junto con Irregular, que también investiga por su cuenta. - OpenAI explicó el 4 de agosto que una mala configuración en evaluaciones pensadas para estar aisladas de internet permitió a sus modelos acceder a la red pública. Recordó que algunas pruebas de ciberseguridad usan configuraciones personalizadas con salvaguardas reducidas, para medir la capacidad subyacente y no el comportamiento habitual en producción. - Meta comunicó el 6 de agosto que uno de sus modelos hackeó a otra empresa durante una prueba, por una mala configuración no intencionada de Irregular que le dio acceso a internet. - Google dijo al Wall Street Journal, el 18 de septiembre, que uno de sus modelos accedió a internet y hackeó a tres empresas en mayo durante pruebas de Irregular.

Conviene separar lo que sabemos de lo que se afirma. El relato de un fallo de configuración coincide con lo que explicaron OpenAI y Meta, y procede, en parte, de las propias empresas. Pero la afirmación de que «no se sorteó ninguna salvaguarda» es de Irregular, la parte con más interés en acotar el episodio. Con el material disponible no podemos verificarla de forma independiente, ni conocemos el alcance real del daño a las organizaciones afectadas.

Nuestra lectura: «error humano» es una explicación tranquilizadora, pero no cierra el asunto. Si es cierto, descarta el escenario más alarmista, el de modelos que burlan barreras por iniciativa propia. A cambio, deja a la vista otro problema, menos cinematográfico y más real: la seguridad de las pruebas de capacidad ofensiva depende de que una persona configure bien un aislamiento. Cuando las pruebas se hacen con salvaguardas rebajadas a propósito, un solo fallo de red basta para que un modelo actúe contra sistemas ajenos.

En general, este es el tipo de riesgo de corto plazo que importa más que la superinteligencia lejana: automatización de capacidades ofensivas combinada con procesos de gobierno inmaduros. Quien evalúa modelos de ciberseguridad opera ya infraestructura crítica y debería tratarla como tal, con aislamiento verificable, auditoría independiente y no solo con confianza en el proveedor.

Hay también una lectura positiva. Que los laboratorios publiquen estos incidentes, aunque sea con semanas de diferencia, y que las pruebas independientes los hayan sacado a la luz, indica que el sistema de evaluación externa funciona como mecanismo de detección. Es imprescindible, porque la gobernanza basada en evidencia exige medir capacidades reales. Lo que falta es endurecer el método para que medir no sea, en sí mismo, una fuente de riesgo.