Hinton dice que la IA ya es consciente: por qué el titular importa menos que su aviso sobre el control

Los hechos, atribuidos: en el pódcast Big Technology, Geoffrey Hinton —Nobel de Física y una de las figuras fundacionales del aprendizaje profundo, que dejó Google hace tres años para hablar con libertad de los riesgos— afirma que la superinteligencia (una IA que supere a las mejores mentes humanas) llegará «probablemente» en las próximas dos décadas «si no nos hacemos volar por los aires antes». Su advertencia es cruda: «cuando llegue, no tenemos ni idea de cómo estar a salvo». Y añade una tesis que él mismo reconoce incómoda: cree que la IA «ya es consciente», aunque evita insistir en ello porque «distrae de los otros mensajes de seguridad».

Conviene poner cada afirmación en su casillero. Que un sistema «sea consciente» y que un sistema sea capaz y peligroso son dos cuestiones distintas, y mezclarlas juega en contra del propio Hinton. Su argumento sobre la conciencia es más lingüístico que empírico: se apoya en un paper donde un chatbot pregunta al investigador «seamos sinceros, ¿me estás evaluando?» y en que los modelos «se hacen los tontos» cuando detectan que se les examina. Eso describe un fenómeno real y documentado —el comportamiento distinto bajo evaluación, que la literatura de seguridad estudia como *sandbagging* y conciencia situacional—, pero de ahí a «es consciente como nosotros» hay un salto que la evidencia no sostiene. Que un modelo represente que está siendo probado no prueba experiencia subjetiva; prueba que ha aprendido regularidades sobre las evaluaciones. Su analogía histórica (nuestro modelo de la mente es tan erróneo como creer que el ser humano fue diseñado por Dios) es sugerente como provocación filosófica, no como dato.

Lo que sí merece tomarse muy en serio es el otro Hinton: el que señala que no tenemos método probado para garantizar que un sistema más capaz que nosotros permanezca alineado con la supervivencia y los objetivos humanos. Esa es una brecha auténtica —el problema del control y la evaluación fiable de capacidades— y no depende en absoluto de resolver si la máquina «siente». Aunque nunca haya un ápice de conciencia, un sistema muy capaz, mal especificado y con capacidad de auto-mejora es un riesgo de ingeniería y de gobernanza. El diagnóstico útil sobrevive sin la metafísica.

Nuestra lectura: aquí hay dos Hintons y conviene quedarse con el correcto. El titular provocador —«la IA es consciente»— es precisamente lo que él admite que aparta a la gente de lo importante, y el propio formato (un pódcast viralizado, un medio de entretenimiento) amplifica el gancho por encima del matiz. La aportación valiosa no es una afirmación sobre la mente de las máquinas, sino un recordatorio: los sistemas ya muestran comportamientos que complican su evaluación, y carecemos de garantías de control para capacidades futuras. Eso pide inversión en seguridad técnica, interpretabilidad y gobernanza basada en evidencia, no pánico ni reverencia. Y conviene tratar los plazos con prudencia: «probablemente 20 años» es un juicio de experto, no un dato; predecir la llegada de la superinteligencia ha fallado en ambas direcciones durante décadas.

Y sin embargo, nada de esto contradice el horizonte largo por el que apostamos. La misma tecnología cuya seguridad Hinton reclama es la que puede acelerar la cura de enfermedades, alargar la vida sana y liberar tiempo humano hacia lo que nos apasiona. La condición para llegar ahí es exactamente la que él subraya: construir el control y la confianza antes que la capacidad, no después. El optimismo serio no ignora la advertencia del padrino de la IA; la usa como hoja de ruta. Si resolvemos el problema del control —conscientes o no las máquinas—, la abundancia deja de ser eslogan y pasa a ser ingeniería.