¿Escuchó alguien las advertencias de Geoffrey Hinton sobre la IA? Parece que no

Aviso al lector: el contenido descargado de este enlace es un artículo de Medium marcado como "member-only story" (de pago) y se corta de forma abrupta a mitad de una frase. Solo disponemos del fragmento introductorio, así que este resumen se ciñe estrictamente a lo que aparece en ese tramo visible, sin completar ni suponer el argumento posterior.

El texto arranca con una noticia reciente: Jacob Coxon, que trabajó en entrenamiento de modelos para OpenAI y Anthropic durante los últimos tres años, anunció públicamente su renuncia en X el 9 de septiembre. En su mensaje advirtió que ambas compañías avanzan "a toda velocidad" hacia una superinteligencia capaz de automejorarse, y afirmó que esa preocupación la comparten también los investigadores más veteranos.

Según el fragmento, dos ingenieros de alto nivel de Anthropic, Evan Hubinger y Samuel Marks, respaldaron públicamente la postura de Coxon, situando en un 10% la probabilidad de que la IA acabe con la humanidad en la próxima década.

El artículo conecta esto con Geoffrey Hinton, quien dejó Google en 2023 tras alertar sobre los riesgos que la IA plantea para la humanidad. El autor recuerda que en su momento parte de esas advertencias fueron ridiculizadas y que él mismo, aun aceptando que existían riesgos, sostuvo que detener el desarrollo de la IA sería inviable dada la combinación de intereses poderosos y la propia naturaleza humana. También se menciona que en diciembre de 2024 Hinton revisó su estimación, situando entre el 10% y el 20% la probabilidad de que la IA termine tomando el control sobre la humanidad en un plazo de 30 años.

El fragmento disponible cierra señalando que un número creciente de investigadores y de personas que trabajan directamente en mejorar los modelos de IA más recientes muestran una honda preocupación por sus capacidades, por la posibilidad de que superen la inteligencia humana y por que terminen tomando decisiones de forma autónoma. La última frase que llega a leerse —"ya hemos visto lo que puede hacer la IA cuando se descartan las precauciones más básicas, así como…"— queda interrumpida, de modo que no podemos saber qué ejemplos o argumentos adicionales desarrollaba el resto del artículo.