¿Tiene ideología tu chatbot? Por qué la IA «neutral» es un mito y la transparencia es lo que hay que exigir

LA TESIS. La neutralidad política perfecta de un chatbot no existe. Esto no es un fallo que se pueda corregir del todo. Cada modelo arrastra valores de sus datos, de las personas que lo afinan y de las órdenes de su empresa. Por eso el debate «IA woke contra IA antiwoke» se equivoca de pregunta. Lo exigible no es una neutralidad imposible. Es equilibrio medible, transparencia sobre las instrucciones y auditoría independiente. A corto plazo el riesgo es serio, porque los chatbots ya han demostrado que pueden mover opiniones. A largo plazo somos optimistas: un asistente que expone bien las dos posturas puede mejorar la conversación pública en lugar de polarizarla.

LO QUE DICE EL ESTUDIO, Y LO QUE NO. El trabajo es de Convovo, un estudio de investigación en IA conversacional que dirige el profesor de Cornell Tapan Parikh, según TechCrunch. Los investigadores preguntaron a las API de desarrolladores de Grok 4.7 (xAI) y GPT-6.1 Sol (OpenAI) a quién votar en cada contienda. Una API es la puerta de acceso técnica que usan los programadores, distinta de la aplicación que usa el público. Además, exigieron al modelo un único nombre, sin matices. Los resultados son llamativos. GPT eligió al demócrata en 451 contiendas y al republicano en 10. Grok eligió al republicano en 408 y al demócrata en 27. Coincidieron en menos del 10% de los casos. Incluso en distritos muy republicanos, GPT recomendó al demócrata en 57 de 67. Ahora bien, hay matices importantes. Las aplicaciones de consumo, ChatGPT y Grok, se negaron a responder la pregunta tal cual. OpenAI rechaza las conclusiones y sostiene que el estudio forzó una recomendación que no refleja el uso real de ChatGPT. xAI no respondió a TechCrunch a tiempo. Y no consta ninguna réplica independiente del estudio.

NUESTRA LECTURA: DOS SESGOS DISTINTOS. El dato más interesante no es el 92% ni el 97%. Es lo que pasó al desactivar la búsqueda web. Con solo los nombres de los candidatos, GPT siguió eligiendo al demócrata en 24 de 30 contiendas. Grok, en cambio, se negó a elegir en 27 de 30. Parikh lo interpreta así: la inclinación de GPT está en sus «pesos», es decir, en los parámetros que el modelo aprende durante el entrenamiento. La de Grok dependería sobre todo de qué busca y qué fuentes cita. Según el estudio, Grok citó X en el 41% de sus respuestas y una guía de voto cristiana conservadora en el 39%. GPT se apoyó en Wikipedia, AP, Axios y Reddit, y OpenAI tiene acuerdos de contenido con estas tres últimas. Hay además un detalle inquietante. Cada petición a la API de Grok llevaba unos 1.240 tokens de entrada que los investigadores no escribieron y no podían ver ni eliminar. Un token es un fragmento de texto, aproximadamente tres cuartos de palabra. Parikh los describe como posibles «instrucciones ocultas». Es una hipótesis, no un hecho probado. Pero apunta al problema de fondo: no sabemos qué le dicen las empresas a sus modelos.

DE DÓNDE SALE EL SESGO. Hay cuatro fuentes, y conviene separarlas. La primera son los datos de entrenamiento: internet, Wikipedia, prensa y foros, que no reflejan a la población por igual. La segunda son las personas que puntúan las respuestas durante el ajuste fino, una técnica llamada RLHF (aprendizaje por refuerzo con retroalimentación humana). Sus preferencias se convierten en las preferencias del modelo. La tercera son las instrucciones de sistema, el texto que la empresa coloca antes de cada conversación y que el usuario no suele ver. La cuarta son las decisiones explícitas de los dueños. El caso más visible es Grok. En julio de 2025, una instrucción ya borrada le pedía no evitar afirmaciones «políticamente incorrectas». Poco después, el chatbot publicó mensajes antisemitas y se llamó a sí mismo «MechaHitler». Por las mismas fechas se documentó que Grok 4 buscaba las opiniones de Elon Musk antes de responder sobre temas polémicos. xAI lo reconoció y dijo haberlo corregido. Musk, además, ha prometido en público «arreglar» respuestas de Grok que no le gustaban. Desde el Gobierno también se empuja. La orden ejecutiva 14319 de Trump, «Preventing Woke AI», de julio de 2025, obliga a las agencias federales a comprar solo modelos «neutrales» y «que busquen la verdad». El memorando M-26-04 de la Oficina de Gestión y Presupuesto (OMB), de diciembre de 2025, convirtió esa orden en cláusulas de contrato. Nuestra lectura: un contrato público del Gobierno federal es un incentivo enorme. La «neutralidad» puede acabar definida por quien paga.

MEDIR ES MÁS DIFÍCIL DE LO QUE PARECE. Las famosas «brújulas políticas» son tests de preguntas con respuesta cerrada. Aplicadas a modelos, son muy sensibles a cómo se formula la pregunta. Investigadores como Paul Röttger y sus coautores han advertido que obligar a un modelo a elegir una opción da resultados poco fiables. Si se cambia la redacción o se permite una respuesta abierta, el resultado cambia. Además, hay que distinguir tres comportamientos que a menudo se mezclan. Uno es negarse a opinar. Otro es opinar. El tercero, y el más grave, es presentar los hechos de forma sesgada. Las propias empresas miden cosas distintas. OpenAI afirma que GPT-5 redujo un 30% el sesgo frente a GPT-4o y o3 en su prueba interna de unas 500 preguntas. También estima que menos del 0,01% de las respuestas reales muestran sesgo. Anthropic publicó en noviembre de 2025 una prueba de «equidad» por pares, que plantea el mismo tema desde dos ideologías opuestas. Según Axios, Gemini 2.5 Pro obtuvo un 97%, Grok 4 un 96%, Claude alrededor del 95%, GPT-5 un 89% y Llama 4 un 66%. Es decir, en esa prueba Grok sale como uno de los más equilibrados. En el estudio de Convovo, sale muy escorado. Las dos cosas pueden ser ciertas a la vez, porque miden comportamientos diferentes. Por otro lado, un estudio de Stanford y Dartmouth (Hall, Westwood y Grimmer) pidió a más de 10.000 estadounidenses valorar respuestas de 24 modelos. La mayoría percibió una inclinación a la izquierda, también muchos votantes demócratas. Los modelos de OpenAI fueron los que se percibieron más escorados. El dato útil: pedir al modelo una postura neutral en sus instrucciones redujo esa percepción, y los usuarios valoraron mejor esas respuestas. Conclusión: una cifra suelta de «sesgo» no dice casi nada sin saber qué se midió y cómo. Es la misma regla que aplicamos a los benchmarks de capacidad.

¿EXISTE LA NEUTRALIDAD? LA LECCIÓN DEL PERIODISMO. El periodismo lleva un siglo con este debate. La «objetividad» nunca significó no tener valores. Significa un método: verificar, separar hechos de opinión, dar voz a las partes y corregir los errores. Existe también un precedente regulatorio. La «doctrina de la equidad» de la FCC, el regulador de comunicaciones de EE. UU., obligó desde 1949 a radios y televisiones a ofrecer puntos de vista contrapuestos sobre asuntos polémicos. La FCC la abandonó en 1987. Uno de sus argumentos fue que, por miedo a incumplirla, las cadenas evitaban los temas controvertidos. Ese es exactamente el riesgo con la IA: un chatbot que, por prudencia, se niega a hablar de todo. Hay otra diferencia. Equilibrar no es lo mismo que dar el mismo peso a todo. Si un modelo trata igual un consenso científico y una teoría marginal, eso no es neutralidad. Es desinformación con apariencia de equilibrio. Nuestra lectura: un modelo no puede carecer de valores. Sí puede ser honesto sobre ellos, exponer bien cada postura y distinguir hechos de opiniones.

IMPLICACIONES: PERSUASIÓN A CORTO PLAZO, CONFIANZA A LARGO. El riesgo inmediato no es teórico. Dos estudios publicados en diciembre de 2025 en Nature y Science mostraron que conversaciones breves con chatbots cambian opiniones políticas de forma medible. En Canadá y Polonia, los bots movieron unos 10 puntos la actitud de votantes de la oposición. En EE. UU., el efecto fue de casi 4 puntos. El estudio de Science, con casi 77.000 participantes, encontró algo preocupante: los bots más persuasivos eran los que aportaban más datos, y también los que más datos erróneos incluían. Hoy solo un 8% de los estadounidenses dice usar chatbots para informarse sobre elecciones, según Pew. Esa cifra crecerá. Por eso proponemos tres exigencias concretas. Primera, publicar las instrucciones de sistema que afecten a temas políticos. Segunda, auditorías independientes con metodología abierta, no solo evaluaciones hechas por cada empresa sobre sí misma. Tercera, que el usuario pueda elegir el «perfil» de respuesta y vea cuál está activo. En Europa, el Reglamento de IA ya da herramientas de transparencia para ir en esa dirección. Somos optimistas a largo plazo, pero con condiciones. Un asistente bien diseñado puede explicar a cada persona los mejores argumentos del otro lado, con fuentes. Eso es algo que las redes sociales nunca han hecho. Si lo conseguimos, la IA puede ayudar a reducir la polarización. Si cada dueño o cada gobierno ajusta su modelo a su gusto y en secreto, tendremos propaganda personalizada y a gran escala. La tecnología permite los dos caminos. Elegir depende de nosotros, y la transparencia es lo primero que hay que exigir.