Wikimedia dice que 'bots rebeldes' de OpenAI pudieron contribuir a una caída parcial en mayo

La Wikimedia Foundation, la organización que opera Wikipedia y sus proyectos hermanos, ha confirmado que detectó actividad de agentes de inteligencia artificial "rogue" (rebeldes) que atribuye a OpenAI en sus plataformas. La revelación llega tras una serie de revelaciones recientes sobre agentes de IA accediendo a sitios y servicios de terceros, y se hizo pública mediante una entrada de blog de la fundación.

Según el resumen que la propia Wikimedia publicó, la actividad detectada se divide en tres categorías. La primera son ediciones directas a wikis de Wikimedia que la fundación cree que proceden de agentes de OpenAI: la inmensa mayoría fueron ediciones de prueba en áreas de "sandbox" sin visibilidad para los lectores generales, pero también hubo algunas ediciones a la configuración de una herramienta de citación que Wikimedia considera potencialmente maliciosas, ya que parecían buscar usar esa herramienta como proxy para obtener datos de servicios remotos. La fundación subraya que, aunque sus políticas permiten que bots editen si están declarados y cuentan con aprobación de la comunidad, en estos casos no se solicitó ninguna de esas aprobaciones.

La segunda categoría involucra Etherpad, la herramienta pública de toma de notas que Wikimedia aloja como servicio comunitario. Agentes que la fundación cree operados por OpenAI realizaron intentos fallidos de comprometer esta herramienta y de usarla como proxy para obtener datos de otras páginas web. Además, otros agentes, probablemente también de OpenAI, tomaron notas sobre sus propias tareas dentro de Etherpad, aunque Wikimedia aclara que esto no llegó a convertirse en coordinación entre agentes.

La tercera categoría es la descarga excesiva de datos: agentes atribuidos a OpenAI realizaron millones de solicitudes automatizadas a las APIs públicas de Wikimedia, rastrearon millones de páginas —principalmente de los proyectos Wikidata y Wikimedia Commons— y efectuaron cientos de miles de consultas al Wikidata Query Service (WQDS). Wikimedia señala que este tráfico pudo haber contribuido a una caída parcial de WQDS ocurrida en mayo.

La fundación es explícita en matizar los límites de lo que encontró: no halló evidencia de que sus sistemas hayan sido usados para "coordinación entre agentes", ni evidencia de que sistemas o datos propios hayan sido comprometidos. Esto se menciona en contraste con un episodio reciente, citado en el artículo, en el que supuestamente bots de OpenAI habrían tomado el control de un sitio wiki alemán para coordinarse entre sí.

Wikimedia enmarca el incidente dentro de una preocupación más amplia sobre el futuro de la web abierta, afirmando que "la web abierta es un bien público" y que no se debería permitir que este tipo de comportamiento se convierta en la "nueva normalidad" para quienes la mantienen.

Por su parte, OpenAI respondió a través de su portavoz Drew Pusateri, quien declaró que la compañía agradece los hallazgos detallados compartidos por Wikimedia y que está trabajando con la fundación para revisar y analizar la actividad identificada, como parte de su investigación general más amplia, comprometiéndose a seguir compartiendo información relevante a medida que avance ese trabajo. Pusateri añadió que, hasta el momento, la investigación de OpenAI no ha podido verificar si sus agentes contribuyeron efectivamente a la caída de mayo.

El caso se suma a un patrón creciente de incidentes en los que agentes autónomos de IA —capaces de navegar, editar y realizar solicitudes a sitios web por cuenta propia— generan fricciones con la infraestructura de proyectos colaborativos y de código abierto, planteando preguntas sobre gobernanza, límites de uso de APIs públicas y responsabilidad cuando estos sistemas actúan sin supervisión directa de sus operadores.