Peter Norvig: el futuro de la IA y los límites de la confianza

Por Turing Post.

El boletín recoge una entrevista de Ksenia (Turing Post) con Peter Norvig, coautor junto a Stuart Russell del célebre manual "Artificial Intelligence: A Modern Approach", realizada en la AI Conference con ayuda del propio equipo de AI Conference y de Jenna Dobkin para organizarla. La conversación gira en torno a lo que cuarenta años en el campo de la IA le han enseñado a Norvig, y a qué sigue sorprendiéndole incluso después de tanto tiempo.

Un hilo conductor de toda la charla es la disposición de Norvig a reconocer que se ha equivocado en sus predicciones. Cuenta que, siendo estudiante en Berkeley, participó en ARPANET, y que cuando Al Gore y otros plantearon la idea de una internet abierta a la que cualquier empresa pudiera conectarse, él pensó que aquello "nunca funcionaría", porque solo había un puñado de personas en el mundo capaces de configurar bien un servidor web, y resultaba difícil imaginar que diez millones de empresas pudieran hacerlo. Lo que no anticipó, dice, es que en cuanto existe demanda, alguien acaba construyendo herramientas que simplifican el proceso: ya no hace falta ser un "mago de Unix" para montar una red, basta con comprar un paquete de Netscape o Microsoft, responder unas preguntas, y listo. Norvig traslada esa lección al presente: sostiene que seguiremos viendo herramientas cada vez más potentes que convertirán en fácil lo que hoy consideramos difícil, y sugiere que, en lugar de preguntar a los expertos que conocen todos los detalles de cómo se construyen los modelos de lenguaje, habría que preguntar a los usuarios finales qué herramientas necesitan para que su vida funcione.

Esa misma idea de haber subestimado la escala aparece cuando habla de las primeras ediciones de su libro. En la primera edición, describían las reglas del ajedrez con apenas diez líneas (una por cada tipo de pieza). Explicaban que, si se quisiera codificar eso en lógica proposicional pura, haría falta una regla distinta para cada combinación de casilla de origen y destino para cada alfil, lo que sumaría del orden de un millón de reglas, algo que entonces calificaban de "totalmente impracticable". Para la segunda o tercera edición, esa misma cifra -un millón de reglas- se describía ya como "mucho más eficiente", porque en 1995 ese volumen no cabía en memoria, pero pocos años después sí cabía, y además ya existían buenos solucionadores SAT y otras herramientas de resolución de problemas.

Sobre la propia identidad del libro, Norvig recuerda que su editorial decidió, en su momento, añadir al título un subtítulo o faja que lo presentaba como "el libro de los agentes inteligentes". Confiesa que en su momento le pareció una estrategia de marketing barata, más propia de una pastilla de jabón "nueva y mejorada" que de un libro de texto serio, pero que con la perspectiva del tiempo cree que fue un acierto, porque fijó con claridad que esa era la manera en que iban a describir qué es la IA: el estudio de los agentes racionales.

Preguntado por cómo entiende los agentes hoy, reconoce que una de las cosas que más se les escapó en el libro fue precisamente cómo construir un agente. Explica que sí incluyeron un capítulo sobre teoría de juegos y teoría de la decisión que hablaba de comunidades de agentes y de cómo interactúan entre sí, pero que ese aspecto tenía mucho menos peso del que tiene ahora. Según Norvig, lo que se observa actualmente es que la forma principal de interactuar con estos sistemas es mediante un enjambre ("swarm") de agentes, y que hay que entender cómo se coordinan entre ellos: tener un único agente, dice, ya no es suficiente.

Al repasar por qué decidieron escribir el libro, Norvig explica que él y Stuart Russell consideraban buenos los manuales existentes en su momento, pero sentían que el campo había cambiado de forma sustancial: hacia 1985 se produjo un giro importante desde la lógica hacia la probabilidad, impulsado sobre todo por Judea Pearl, bajo la idea de que la IA debía ser realmente el estudio de la incertidumbre y que la lógica booleana resultaba demasiado limitante. A eso se sumaron otros dos cambios de fondo: el paso del conocimiento programado a mano hacia el aprendizaje automático, y el giro hacia el uso masivo de datos ("big data"). Para Norvig, los manuales anteriores no habían incorporado esas transformaciones.

Sobre si los estudiantes de hoy necesitan leer entero un libro con una primera mitad centrada en representación del conocimiento y lógica, y una segunda mitad de aprendizaje automático (que, según explica, cubre hasta cierto punto los transformers), su respuesta es que probablemente los estudiantes no necesiten leerlo todo, pero que el modelo de lenguaje sí debería leérselo por completo.

Como ejemplo de por qué los métodos más antiguos siguen importando, recurre a AlphaGo: explica que pudo vencer al campeón mundial de Go décadas antes de lo que se pensaba posible porque combinó redes neuronales, que codificaban de forma inteligente el conocimiento humano sobre una posición del tablero (suficiente, dice, para machacar a un aficionado como él mismo), con la búsqueda Monte Carlo Tree Search, necesaria para alcanzar el nivel de un campeón mundial.

El correo recoge además que a Norvig se le preguntó directamente si confía en las personas que dirigen las empresas de IA, y que se mostró "franco" al respecto; invita a leer la entrevista completa o a verla en el vídeo de YouTube titulado "Peter Norvig: AI's Biggest Problem May Be Who Controls It", además de ofrecer la opción de escucharla como pódcast en Spotify o Apple Podcasts a través del canal "Inference by Turing Post".