«Habrá que aceptar algunas cosas malas»: el cálculo moral que Altman dijo en voz alta y nadie quiere hacer

LO QUE DIJO ALTMAN. El 4 de octubre de 2026, en una entrevista con el pódcast Decoded de Politico, Altman defendió que el mundo debería aceptar que pasen «some bad things» («algunas cosas malas») a cambio de los beneficios de la IA y de que la gente tenga acceso a ella. Según las crónicas de Fortune y TechRepublic, cree que la tecnología se usará para «órdenes de magnitud» más bien que mal. Marcó un límite. Los riesgos acotados y conocidos serían tolerables. El riesgo catastrófico, como perder el control de la IA, no lo es. También rechazó la idea de que un solo laboratorio controle la tecnología para evitar daños y la llamó un intercambio «completamente inaceptable». El contexto importa. La frase llegó días después de que Donald Trump anunciara, el 29 de septiembre, un acuerdo de seguridad voluntario con las grandes empresas de IA. Preguntado por si obligaba a algo, Trump lo describió como «moralmente vinculante». Según la prensa, el acuerdo no prevé consecuencias si una empresa lo incumple.

UN PACTO QUE YA FIRMAMOS. La pregunta de fondo es incómoda: ¿cuántas víctimas tolera una sociedad a cambio de una tecnología? Con el coche, la respuesta es muchas. La OMS calcula que las carreteras matan a unos 1,19 millones de personas al año. Es la primera causa de muerte entre los 5 y los 29 años. Aceptamos esa cifra a cambio de movilidad, casi sin debatirla. La aviación eligió lo contrario. Trató cada accidente como un fracaso del sistema, con investigaciones independientes y obligatorias. Según el informe de seguridad de IATA publicado en marzo de 2026, hoy se produce un accidente mortal cada 5,6 millones de vuelos (media de 2021-2025). Hace una década era uno cada 3,5 millones. Los fármacos siguieron un tercer camino: la regulación nació de las tragedias. En 1937, un jarabe de sulfanilamida mató a más de cien personas en EE.UU. y llevó a la ley de 1938 que exige probar la seguridad antes de vender. La talidomida dejó miles de bebés con malformaciones en todo el mundo, y en 1962 EE.UU. pasó a exigir también pruebas de eficacia. La electricidad y los rayos X se adoptaron con entusiasmo y con daños, como los de las trabajadoras que pintaban esferas con radio, antes de que existieran las normas. La lección es clara. Ninguna tecnología llegó con riesgo cero. La diferencia entre el coche y el avión no fue la tecnología. Fue la decisión institucional de contar los daños y aprender de cada uno.

CÓMO SE HACE LA CUENTA SIN DEMAGOGIA. Existen herramientas para este cálculo, aunque suenen frías. La primera es el valor de la vida estadística (VSL). No es el precio de una persona. Es lo que una sociedad está dispuesta a pagar para reducir un poco el riesgo de muerte de muchas personas. El Departamento de Transporte de EE.UU. lo sitúa en 13,2 millones de dólares (en dólares de 2023), según un memorando de 2024 del Departamento de Seguridad Nacional. Ese número decide qué normas se aprueban. La segunda es el choque entre dos filosofías. El principio de precaución dice que no se debe lanzar algo hasta demostrar que es seguro. La «innovación sin permiso» (permissionless innovation) dice que se lance y se corrija sobre la marcha. La tercera viene de la ingeniería: el «riesgo aceptable». Se fija un umbral explícito y se diseña para no superarlo, como en puentes o centrales nucleares. Nuestra lectura: Altman se apunta a la innovación sin permiso, pero con un umbral de catástrofe. Es una posición defendible. El problema es que no dice quién mide, con qué datos ni quién paga cuando el daño cae del lado «aceptable».

LA CONTABILIDAD DE LA IA HOY. Una parte de los daños ya se puede contar. Según el informe de 2025 del centro de denuncias de delitos en internet del FBI (IC3), las denuncias que mencionan IA sumaron unos 893 millones de dólares en pérdidas y más de 22.000 casos. Los mayores de 60 años perdieron 352 millones de esa cifra. Las estafas con voz clonada, en las que una voz sintética imita a un familiar en apuros, son parte de ese total. Según la ACLU, en EE.UU. hay al menos 14 casos conocidos de personas detenidas por error tras un falso positivo de reconocimiento facial. La organización cree que son solo los casos que han salido a la luz. OpenAI afronta unas dos docenas de demandas que atribuyen a ChatGPT un papel en suicidios y autolesiones. La empresa niega que su producto causara esas muertes. Character.AI y Google acordaron en enero de 2026 cerrar con acuerdos varias demandas parecidas, sin reconocer responsabilidad. Los beneficios también se pueden contar. En el ensayo sueco MASAI, con unas 106.000 mujeres, el cribado de mama asistido por IA detectó un 29% más de cánceres, sin más falsos positivos y con un 44% menos de lectura para los radiólogos. Aún falta saber si eso reduce la mortalidad. Waymo afirma que sus taxis sin conductor tuvieron un 82% menos de choques con heridos que los conductores humanos en 270 millones de millas. Son datos de la propia empresa, comparados con un modelo estadístico de conductor humano, no una auditoría independiente.

NUESTRA LECTURA. Altman dice en voz alta algo verdadero. Toda tecnología poderosa causa daños, y exigir riesgo cero equivale a renunciar a ella. Si la IA ayuda a detectar más cánceres o a evitar choques, el coste de no usarla también se mide en vidas. Pero la frase tiene tres trampas. Primera: quien decide qué daño es aceptable es quien cobra por el producto. La aviación es segura porque los fabricantes no investigan sus propios accidentes. Segunda: los daños y los beneficios no caen sobre las mismas personas. El jubilado estafado con una voz clonada no recibe el diagnóstico más precoz. El detenido por error no viaja en robotaxi. Tercera: un pacto «moralmente vinculante» y sin consecuencias no es un pacto de riesgo aceptable. Es una promesa. Por eso creemos que la IA debe parecerse más al avión que al coche en la gobernanza, aunque se parezca al coche en la difusión. Eso exige registros públicos de incidentes, investigación independiente de los casos graves y responsabilidad legal clara.

IMPLICACIONES. A corto plazo, los daños son reales y crecen: fraude automatizado, errores policiales y efectos sobre personas vulnerables. Las demandas en curso fijarán si la ley trata a los chatbots como productos, con deber de seguridad, o como plataformas protegidas. Esa decisión pesará más que cualquier acuerdo voluntario. A largo plazo, mantenemos nuestro optimismo. Una IA que adelanta diagnósticos, reduce muertes en carretera y abarata la investigación médica puede salvar muchas más vidas de las que hoy pone en riesgo. Pero eso no ocurre solo. El coche tardó décadas en adoptar cinturones y airbags, y lo hizo porque alguien contó los muertos. La aviación llegó a su récord porque cada accidente se investigó a fondo. Si queremos el horizonte de abundancia y salud, la cuenta de Altman hay que hacerla, pero en público, con datos verificables y con alguien que responda. Aceptar algunas cosas malas solo es razonable si esas cosas no se repiten.