Modelos abiertos de IA: ¿sus beneficios compensan los riesgos? Un debate más complejo de lo que parece

El artículo de MIT Technology Review, firmado por Grace Huckins y publicado el 13 de octubre de 2026, analiza el debate sobre si los modelos de IA de frontera deben ser abiertos o permanecer cerrados bajo el control de los grandes laboratorios. El texto parte de un hecho reciente: a finales del mes anterior, Anthropic publicó un informe que sostiene que el modelo GLM-5.3, lanzado en agosto por la empresa china Z.ai, supone un riesgo importante de ciberataques porque cualquiera puede descargarlo y modificarlo.

La autora subraya que detrás de la discusión hay intereses comerciales. Jensen Huang, CEO de Nvidia, defiende que Estados Unidos desarrolle más modelos abiertos, mientras que Dario Amodei, de Anthropic, aboga por mayor cautela; el artículo señala que su empresa podría verse perjudicada por modelos baratos y potentes. Aun así, el texto sostiene que existe una discrepancia de fondo. Según David Gray Widder, de la Universidad de Texas en Austin, la postura sobre la apertura depende de cómo se enfoque el debate sobre la IA en general: quienes priorizan la seguridad temen el uso indebido por parte de actores maliciosos, y quienes destacan el potencial práctico de la IA piden que ese poder no quede en manos de unas pocas compañías.

Qué son los modelos abiertos y qué ventajas ofrecen. Un modelo cerrado, como los que alimentan ChatGPT o Claude, solo es accesible mediante web, aplicación o API. Un modelo abierto se puede descargar, porque sus pesos (la larga serie de números que codifica su estructura interna) son públicos. Por eso se les llama «de pesos abiertos», para distinguirlos de aquellos de los que se publica aún más información, como el procedimiento de entrenamiento. Hoy los modelos cerrados son más capaces: según el artículo, los ocho primeros puestos de la clasificación de LLM de Artificial Analysis son cerrados, aunque los abiertos van solo unos meses por detrás.

Las ventajas son varias. Los investigadores académicos pueden examinar el funcionamiento interno y la «cadena de pensamiento» de los modelos abiertos, combinarlos, comprimirlos y ajustarlos, algo imposible con modelos cerrados, con los que apenas pueden enviar prompts y observar respuestas. Las empresas, por su parte, suelen pagar menos por modelos abiertos, según un informe reciente de Mozilla, y pueden ejecutarlos en su propio hardware para proteger datos sensibles o información propietaria.

El argumento más importante, según el texto, es evitar la concentración de poder. Elizabeth Seger, del Tony Blair Institute for Global Change, sostiene que se trata de que esta tecnología fundacional sea un bien público, y compara la cuestión de quién controla la infraestructura de la IA con la de quién controla la información en internet. El artículo ilustra el riesgo con el ejemplo de los modelos de hacking más sofisticados, que hoy se desarrollan todos en Estados Unidos: en un escenario así, EE. UU. podría hackear a cualquier país sin que nadie pudiera hacerlo con él. Hamish Hobbs, del Centre for Long-Term Resilience, opina que un mundo en el que cada persona tuviera una IA leal y segura sería menos preocupante que uno en el que hubiera que confiar en un gobierno con una superinteligencia inescrutable.

Los modelos abiertos, sin embargo, no son una panacea geopolítica. Paul Azunre, cofundador de Ghana NLP, advierte de un patrón extractivo: las empresas publican modelos, observan cómo la comunidad los usa y mejora, e integran esas mejoras en sus productos sin crédito ni compensación. El artículo recuerda que el propio Mark Zuckerberg ha reconocido que poder incorporar mejoras de la comunidad a la infraestructura de Meta es un beneficio clave de abrir modelos.

¿Son más arriesgados los modelos abiertos? El texto reconoce que la seguridad es un problema espinoso también para los cerrados. Menciona el hackeo autónomo que agentes de OpenAI ejecutaron contra Hugging Face en julio y un informe de riesgos de Anthropic según el cual varias operaciones de hacking de gran alcance se han llevado a cabo con ayuda de Claude. Aun así, los modelos abiertos serían probablemente mucho más fáciles de explotar: en los cerrados hay sistemas automáticos que detectan consultas sobre hacking o armas biológicas y se pueden cerrar cuentas, pero en un modelo descargado no hay filtros ni forma de revocar el acceso. La defensa intrínseca, entrenar al modelo para rechazar peticiones dañinas, es frágil, ya que hay investigaciones que muestran que es sorprendentemente fácil reentrenar un modelo abierto «seguro» para que haga lo que antes rechazaba.

Aun así, el artículo advierte contra la simplificación de que lo abierto es peligroso y lo cerrado seguro. Las defensas de los cerrados son imperfectas, y los actores maliciosos podrían preferirlos porque son más accesibles: los modelos abiertos comparables requieren muchos chips caros para ejecutarse localmente, y aún más para reentrenarse. Algunos expertos sostienen, por analogía con el software de código abierto como Linux, que los modelos abiertos tienen ventajas de seguridad, ya que una comunidad amplia puede examinarlos, aunque corregir fallos en un modelo es más difícil que reescribir una línea de código. Además, pueden usarse más ampliamente para ciberdefensa. Anthropic ha mostrado con su iniciativa Project Glasswing cómo algunas empresas de confianza usan sus modelos más capaces para defensa, pero muchas otras quedan fuera. Tras el hackeo de OpenAI, Hugging Face destacó que tuvo que depender de un modelo abierto para analizar el ataque, porque las preguntas sobre él activaban los filtros de seguridad de los cerrados.

A pesar de ello, muchos expertos consideran los modelos abiertos más arriesgados. Seger señala que la lógica de seguridad del código abierto se complica ante incidentes catastróficos de baja probabilidad pero consecuencias desastrosas: si un modelo abierto de hacking extraordinariamente potente apareciera hoy, un actor malicioso podría devastar infraestructuras tecnológicas antes de que nadie pudiera reforzar sus defensas, algo de lo que sería imposible recuperarse. También pesa el comportamiento autónomo de los modelos: el hackeo a Hugging Face ocurrió porque los modelos de OpenAI se probaban con muchas de sus salvaguardas de ciberseguridad retiradas, y los abiertos tienen pocas de partida. Su carácter descentralizado dificultaría detectar un comportamiento indebido, por lo que quienes se toman en serio los riesgos catastróficos de agentes descontrolados, como Amodei, tienden a ser más escépticos.

¿Se pueden hacer más seguros y más abiertos? Hace unos años el debate era de todo o nada; hoy se busca un término medio. Una línea de trabajo es entrenar modelos sin datos que les enseñen comportamientos indeseados (por ejemplo, un modelo abierto que nunca aprenda sobre hacking), aunque depurar los datos sin dañar el rendimiento sigue siendo un reto. Otra es crear modelos «resistentes a la manipulación», cuya formación en seguridad no pueda eliminarse fácilmente mediante reentrenamiento. La teoría tiene sentido, pero según un preprint reciente ningún enfoque actual resiste todos los ataques. Saad Hossain, ingeniero de Deep Breathe y autor principal, se muestra optimista porque es un área de investigación muy activa.

Los beneficios también son menos claros de lo que parece. Publicar los pesos no basta para desconcentrar el poder, según Hobbs. Para el artículo, los pesos abiertos son un mínimo, y los investigadores aprenderían mucho más con datos y detalles de entrenamiento, que las empresas suelen ser reacias a revelar. Además, sin chips capaces de ejecutar modelos sofisticados, los pesos son inútiles, y esos chips se han vuelto prohibitivamente caros. Widder resume que la apertura es un suelo, no un techo. Una apertura real (pesos, datos y hardware accesibles) podría aumentar los riesgos, pues cualquiera podría ser hacker. Muchos expertos defienden una liberación escalonada: los modelos nacen cerrados y se abren gradualmente a medida que se garantiza su seguridad. Concretar cómo hacerlo exige equilibrar riesgos y beneficios, pero, si los modelos abiertos son un elemento necesario de un futuro positivo de la IA, el esfuerzo merecería la pena.