El espantajo de la IA 'rebelde' distrae del problema real: la que ya obedece órdenes humanas

Por Zendoric · 13 de septiembre de 2026.

Esta semana el debate público sobre inteligencia artificial ha girado, una vez más, hacia el miedo a una IA que se "descontrole": que deje de obedecer a sus creadores, desarrolle objetivos propios y se vuelva una amenaza autónoma. En ese contexto, el propio artículo que comentamos —una columna de opinión de Isaac Rosa publicada en Zona Crítica, la sección de opinión de elDiario.es— recoge de pasada un dato de actualidad: OpenAI habría aplazado su salida a bolsa citando precisamente el temor al descontrol de la IA, y se sumaría a algún plan (no detallado en el texto) para frenar el ritmo de ciertos desarrollos. Es una pieza de contexto que merece seguimiento propio más adelante, cuando haya más detalle verificable sobre magnitud y calendario.

El argumento central de la columna, que aquí analizamos como lo que es —una pieza de opinión, no un reportaje de hechos nuevos—, es sencillo y bien construido: prácticamente todo lo que se teme de una futura IA autónoma y consciente (vigilancia masiva, señalamiento de objetivos militares, destrucción de empleo, deepfakes, desinformación, sesgos discriminatorios, adicción a las recompensas algorítmicas, sustitución de vínculos humanos por sucedáneos) ya sucede hoy, con una IA que no se ha rebelado contra nadie. La ejecuta obedeciendo instrucciones: las de sus desarrolladores, las de los gobiernos y empresas que la contratan, las de los usuarios que la manejan, y las de cualquiera dispuesto a usarla con mala fe.

Compartimos el diagnóstico de fondo, y creemos que merece una vuelta de tuerca. Es cierto que el daño verificado hoy —el que puede auditarse, demandarse o regularse— tiene siempre un responsable humano identificable: quien programa el objetivo, quien compra la licencia, quien pulsa el botón. Ese es el marco correcto para pensar el riesgo de corto plazo, y coincide con algo que llevamos meses repitiendo desde aquí: la desinformación, la vigilancia y la destrucción selectiva de empleo no son fallos de una máquina que se ha vuelto loca, son decisiones de organizaciones concretas que usan una herramienta muy potente. Culpar a "la IA" en abstracto es, con frecuencia, una forma cómoda de no señalar a quien de verdad decide.

Pero el argumento tiene un punto ciego que conviene marcar, porque es donde reside el riesgo real de los próximos años: la frontera entre "IA controlada" y "IA autónoma" ya no es binaria. Los sistemas agénticos actuales —modelos que encadenan pasos, usan herramientas y toman decisiones intermedias sin que un humano revise cada una— desplazan la supervisión desde el acto concreto hacia el diseño inicial del sistema. Ahí es donde se concentra el riesgo que peor encaja en el marco de la responsabilidad humana directa, aunque la fuente no documenta incidentes concretos. No se trataría de una IA que "decide" traicionar a la humanidad, sino de una supervisión humana que se diluye a medida que delegamos más pasos intermedios, y donde lo que de verdad mide el riesgo no es la capacidad de la IA sino cuánto tiempo tarda una empresa en admitir que algo se le fue de las manos.

Esa es, para nosotros, la lectura que falta en el debate de esta semana: el peligro de corto plazo no es una IA rebelde de ciencia ficción, ni tampoco únicamente la IA obediente que ya señalábamos; es la zona intermedia y creciente de autonomía operativa sin trazabilidad suficiente. Regular esa zona —exigir registros auditables, límites de gasto y de acción, y plazos máximos de divulgación cuando algo falla— es más útil que discutir si una IA podría, algún día, "despertar". Y de ahí que la retirada temporal de una salida a bolsa por parte de un laboratorio, si se confirma con más detalle en los próximos días, sea un síntoma más relevante que interesante: indica que quienes construyen estos sistemas empiezan a interiorizar, aunque sea por presión regulatoria o reputacional, que la gobernanza no puede ir siempre por detrás de la capacidad.

Nada de esto contradice nuestra tesis de fondo. El mismo tipo de sistemas agénticos que hoy operan en esa zona gris son los que, bien gobernados, permitirán en la próxima década acelerar el diagnóstico médico, descubrir fármacos y liberar a millones de personas de tareas rutinarias. El corto plazo exige lucidez sobre quién da las órdenes y qué controles existen quede pistas escritas de lo que ese sistema hizo; el largo plazo sigue apuntando hacia una sociedad con más salud, más tiempo libre y más abundancia. Pero esa promesa solo se sostiene si la conversación pública deja de perseguir fantasmas de IA rebelde y empieza a auditar, con nombre y apellido, a quienes hoy sí tienen el mando.