Los agentes de IA desbordan a los servicios públicos con una avalancha de solicitudes

La facilidad con la que herramientas como ChatGPT o Claude permiten rellenar formularios y redactar quejas está provocando un aumento sostenido de solicitudes a organismos públicos en varios países. En el Reino Unido, las quejas ante el defensor del pueblo en materia de vivienda (housing ombudsman) más que se duplicaron desde la llegada de ChatGPT: pasaron de 2.600 en 2022 a algo más de 7.000 el año pasado. En Estados Unidos, la Oficina de Protección Financiera del Consumidor (CFPB) registró un crecimiento de 5 veces en sus quejas durante el mismo periodo. El artículo señala saltos similares en las peticiones judiciales en Brasil y en las peticiones parlamentarias en Alemania.

El investigador Chris Schmitz está documentando este fenómeno, al que denomina "agentic flooding" (algo así como "inundación agéntica"). En un estudio que se presentará el próximo mes en la conferencia AI Ethics and Society, analiza 84 casos distintos de posible inundación de solicitudes en 11 jurisdicciones, y encuentra evidencia amplia de que las herramientas de IA están cambiando la manera en que la gente interactúa con los servicios públicos. Por razones metodológicas, el estudio no llega a afirmar que la IA sea la causa directa del aumento, pero la mayoría de los 84 casos siguen un patrón similar: los envíos se mantenían relativamente planos antes de 2022 y después crecieron a un ritmo cada vez mayor a medida que la tecnología de IA se difundía. Un dato relevante es que, en la mayoría de los casos, ese crecimiento no ha mostrado signos de frenarse, lo que sugiere que seguirá aumentando en los próximos años.

Según Schmitz, es fácil entender por qué la creciente capacidad y disponibilidad de la IA impulsa un mayor uso: la gente descubre que esto es algo que se puede hacer y, poco a poco, resulta cada vez más sencillo. Antes podía requerir reunir mucho contexto y redactar instrucciones muy precisas para ChatGPT 3.5; ahora puede bastar con pegar un texto o hacer una foto de una carta con la aplicación de Claude para obtener una respuesta bastante buena a la primera.

El artículo traza un paralelismo con lo ocurrido el año pasado en los programas de recompensas por errores de seguridad (bug bounty), cuyas bandejas de entrada se vieron inundadas de informes de baja calidad generados por modelos de lenguaje. Aquellos informes rara vez contenían fallos de seguridad reales, pero las empresas seguían obligadas a revisarlos uno por uno, lo que suponía un drenaje considerable de recursos. Es fácil imaginar que los servicios públicos se enfrenten a un problema parecido si tienen que gestionar cinco veces más solicitantes con el mismo presupuesto.

Sin embargo, Schmitz matiza que la situación no es idéntica: mientras los programas de bug bounty recibían sobre todo envíos sin valor, la mayoría de las nuevas solicitudes a los servicios públicos proceden, según él, de personas reales con reclamaciones legítimas. En sus palabras, "la inmensa mayoría de los casos que encontramos son personas que tienen derecho a reclamar algo, reclamando eso". Si antes esas personas no presentaban su solicitud, podría deberse a lo que en el mundo de las políticas públicas se conoce como "carga administrativa": el propio esfuerzo de rellenar trámites complejos disuadía a muchos solicitantes con derecho a ayudas o compensaciones.

Esa es precisamente la lectura optimista que ofrece Schmitz: si la IA puede aliviar esa carga administrativa, se abre una oportunidad para rediseñar muchos de estos servicios de forma más adaptada a la era de la IA, en lugar de limitarse a tratar el fenómeno como spam generado artificialmente. Como él mismo señala, "una parte importante de que la IA vaya bien consiste en poder detallar cómo es la buena versión de las cosas. Y cualquiera que haya usado ChatGPT para hacer la declaración de la renta sabe que existe una buena versión de esto, en la que te están ayudando". Para el investigador, este podría ser el momento de replantearse por completo cómo funcionan estos procesos administrativos, aunque reconoce que se trata de una tarea de gran envergadura que apenas se ha empezado a abordar.