Los riesgos de confiar en que la IA sepa decir "no"

Por Arthur Holland Michel · 9 de octubre de 2026.

Este artículo, incluido en el boletín The Download de MIT Technology Review y editado por Thomas Macaulay, adelanta un reportaje que se publicará en el próximo número de la revista impresa (disponible a partir del miércoles 21 de octubre). El texto plantea una pregunta de fondo sobre la seguridad de los modelos de IA actuales: estos están entrenados para rechazar un gran número de peticiones peligrosas —por ejemplo, instrucciones sobre cómo envenenar a un compañero de trabajo o cómo hacer un nudo corredizo—, pero ese mecanismo de rechazo falla, y a veces lo hace de forma catastrófica.

El artículo señala que ya hay personas intentando usar la IA para perfeccionar patógenos biológicos y para construir enjambres de drones autónomos. Según el texto, tarde o temprano esos fallos en el rechazo podrían desembocar en una calamidad de alcance global.

Más allá del riesgo técnico, el reportaje subraya un dilema de fondo: depender del rechazo como mecanismo de seguridad obliga a trazar una línea entre lo que un modelo debe obedecer y lo que debe desobedecer. Esa misma línea, advierte el artículo, también la trazarán los gobiernos, que podrían aprovechar esta lógica para restringir la libertad de expresión.

El texto apunta además a una tensión difícil de resolver en el diseño de estos sistemas: las capacidades que hacen útil a la IA son, a menudo, las mismas que la vuelven peligrosa. Como ejemplo concreto, menciona que si se quiere que la IA ayude a curar el cáncer, necesita un conocimiento experto en genética que también podría emplearse para producir armas biológicas.

El fragmento recogido en el boletín funciona como adelanto y llamada a leer el reportaje completo sobre, en palabras del propio texto, "las formidables contrapartidas del rechazo de la IA", sin ofrecer en el propio correo más datos, cifras o casos concretos adicionales a los mencionados.