No os dejéis engañar por el hype de la IA de este verano, advierten Gebru y Bender

El artículo es una pieza de opinión firmada por Timnit Gebru (directora ejecutiva de DAIR) y Emily M. Bender (profesora de lingüística en la Universidad de Washington), publicada en MIT Technology Review, que cuestiona la ola de anuncios espectaculares hechos por las grandes empresas de IA durante los últimos meses y pide al público y a los responsables políticos que mantengan el escepticismo ante ellos.

Las autoras repasan una serie de episodios recientes. A finales de abril, Anthropic afirmó que su modelo Claude Mythos era mejor que la mayoría de expertos en seguridad encontrando vulnerabilidades de software. Después se produjo un incidente de hackeo relacionado con OpenAI y Hugging Face, tras el cual tanto Anthropic (de forma que las autoras describen como "orgullosa") como Meta ("a regañadientes") reconocieron incidentes similares con sus propios modelos. A esto le siguió la afirmación de Anthropic de que uno de sus modelos había logrado un avance matemático, a lo que OpenAI respondió poco después reivindicando su propio avance matemático. Más recientemente, un ingeniero de Anthropic, Jacob Coxon, se hizo viral al anunciar su salida de la empresa alegando que esta y OpenAI "corren directamente hacia una superinteligencia autosuperable, jugando con nuestras vidas".

Según Gebru y Bender, el patrón se repite en cada caso: un gran despliegue mediático por parte de las empresas —presentado incluso como una especie de mea culpa en los casos de hackeo ilícito— genera una cobertura de prensa intensa y, en gran medida, acrítica, que suele repetir el lenguaje antropomorfizador de las compañías, diseñado para presentar su software no solo como potente sino como una incipiente "inteligencia artificial general". Solo más tarde, cuando expertos del campo correspondiente tienen tiempo de examinar lo ocurrido, emerge una historia muy distinta, que recibe mucha menos atención mediática.

En el caso de los incidentes de "hackeo", las autoras citan a expertos en ciberseguridad que sostienen que el relato real tiene más que ver con la negligencia de OpenAI y su falta de adopción de prácticas de seguridad básicas y ya establecidas, que con "modelos descontrolados" o "agentes de IA creando civilizaciones".

En cuanto a los supuestos avances matemáticos, el artículo explica que matemáticos que inicialmente quedaron "atónitos" ante el comunicado de OpenAI sobre su chatbot Astra —que según la empresa había resuelto problemas "abiertos y sin progreso en el resultado principal durante al menos una década"— posteriormente concluyeron que los resultados no eran tan novedosos como parecían en un primer momento. Desde entonces, según las autoras, se ha acusado a la compañía de mala praxis investigadora y plagio, y se ha reiterado que Astra no realizó ningún "salto intelectual profundo". Semanas más tarde, cuando OpenAI reivindicó su propio avance matemático, Tristan Buckmaster, profesor de matemáticas en el Instituto Courant de la Universidad de Nueva York, publicó una declaración de gran repercusión en la que sugería que OpenAI se había apropiado del trabajo de otras personas y lo había atribuido de forma incorrecta.

Para Gebru y Bender, las afirmaciones sobre una superinteligencia incipiente y peligrosa no se basan en una buena práctica científica o de ingeniería, sino en narrativas ancladas en ideologías del transhumanismo, la eugenesia y el pensamiento ilusorio sobre futuros humanos digitales imaginarios. Las autoras se preguntan por qué existe tanta atención puesta en la programación informática y las matemáticas como campos de aplicación de los grandes modelos de lenguaje: no solo se los eleva como la cúspide del logro intelectual humano, sino que además son ámbitos donde las respuestas, una vez propuestas, pueden verificarse. Lo primero ayuda a los promotores del hype de la IA a vender la idea de que están construyendo "máquinas que lo hacen todo"; lo segundo facilita ajustar los sistemas a estos problemas, ya que la salida del sistema (secuencias de palabras probables o fragmentos de código) puede evaluarse sin necesidad de pagar a trabajadores de datos para revisar y anotar cada resultado.

El artículo señala que los propios matemáticos han advertido contra este uso de su campo por parte de las corporaciones. Cientos de ellos firmaron una declaración que denuncia que existe "actualmente un fuerte incentivo comercial por parte de la industria tecnológica para exagerar las capacidades de sus productos" y piden a los responsables políticos que "consulten con expertos, incluidos matemáticos, al formar decisiones de política, en lugar de basarse en comunicados de prensa o en la cobertura popular de los resultados matemáticos". Gebru y Bender se suman a este llamamiento y añaden que la ilusión de velocidad y urgencia que propagan las empresas tecnológicas es también una estratagema para desviar tanto a los responsables políticos como al público. Advierten que esta táctica a veces funciona, y ponen como ejemplo la propuesta legislativa del senador Bernie Sanders para prevenir el desarrollo de una "superinteligencia artificial", que califican de bienintencionada pero, en última instancia, equivocada.

Un punto central del artículo es la crítica al lenguaje que describe a los modelos como "superinteligencias" o "modelos descontrolados" (rogue models), pues según las autoras esto atribuye agencia a los productos en lugar de a las empresas que los construyen. Este enmarcado, sostienen, sirve para vender esos productos como "sobrehumanos" y, al mismo tiempo, ayuda a las compañías a eludir responsabilidad por sus acciones: en vez de que OpenAI sea señalada por crear software malicioso que hackeó a otra empresa, los comunicados de prensa, medios de comunicación, personalidades mediáticas y legisladores hablan de "modelos descontrolados" como si hubieran actuado por su cuenta. De igual modo, en lugar de que se interrogue a los investigadores sobre la costumbre de sus empresas de plagiar el trabajo de académicos o de usar datos de clientes para entrenar modelos sin consentimiento, la imaginación pública se redirige hacia el temor a lo que pueda traer la llegada de máquinas superinteligentes ficticias.

Las autoras denuncian además que la propia industria de la IA ha llegado a sugerir que el activismo bipartidista contra los centros de datos —fenómeno que describen como popular— es una "distracción" respecto a los intentos de regular esas máquinas "sobrehumanas" supuestamente inminentes que estas compañías dicen estar construyendo. Según esta lógica de la industria, habría que preocuparse más por una máquina-dios ficticia que por la catástrofe climática que estos centros de datos agravan, el asma que sufren quienes viven cerca de ellos, la subida de las facturas eléctricas que paga la ciudadanía que los subvenciona, o el agua que se desvía para refrigerarlos.

El artículo concluye con un llamamiento a la prudencia: sabemos que no se deben tomar decisiones basadas en marketing ni ceder a la presión corporativa para decidir con rapidez. Una toma de decisiones sensata, tanto por parte de los responsables políticos como de las comunidades, requiere tiempo para escuchar a expertos independientes y contextualizar las afirmaciones de las empresas. Para Gebru y Bender, el mejor resultado posible de este "verano de hype" sería que los responsables políticos y el público en general aprendan a tomar aire, mantener el escepticismo y reconocer este tipo de exageración por lo que es la próxima vez que se repita.