¿Tienes derecho a que te escuche un humano? El debido proceso en la era del algoritmo de Estado

LA TESIS. El debido proceso —saber por qué el Estado decide algo sobre ti, poder contestarlo y que lo revise alguien con poder para corregirlo— no es un trámite. Es la infraestructura que separa la administración automatizada útil de la máquina de denegar. Nuestra tesis: el problema no es que la IA entre en la sanidad, las pensiones o los visados. El problema es que está entrando sin que nadie haya respondido la pregunta previa: ¿tienes derecho a que te escuche un humano? Hoy la respuesta honesta es «depende de dónde vivas y de cuánto puedas pelear». Y los incentivos económicos empujan en la dirección equivocada: denegar es barato e instantáneo; recurrir es caro y lento. Hasta que esa asimetría no se invierta, cada «piloto» de IA pública es un experimento sobre personas con la carga de la prueba cambiada de bando.

EL EXPERIMENTO QUE CRUZÓ LA LÍNEA. Desde el 1 de enero de 2026, el Medicare tradicional de EE.UU. —el seguro público de los mayores de 65 años— exige por primera vez «autorización previa» en seis estados. Es el permiso que el médico debe pedir antes de tratar para que el seguro pague. El programa se llama WISeR y delega ese filtro en empresas privadas que usan IA, con un detalle que lo cambia todo: cobran un porcentaje del gasto «evitado» (KFF). Es decir, ganan más cuanto más cuidado no se presta. Afecta a 6,4 millones de beneficiarios (KFF) y cubre procedimientos como inyecciones epidurales o estimuladores nerviosos. CMS, la agencia que lo gestiona, insiste en que «ninguna solicitud se denegará sin revisión de un clínico cualificado». Los primeros datos dicen otra cosa. La Electronic Frontier Foundation tuvo que demandar al Gobierno por la ley de transparencia para conocerlos: 5.944 denegaciones en los tres primeros meses entre dos proveedores, y un contratista —Virtix Health— que denegó el 53% de lo que revisó en el estado de Washington, según Ars Technica. Una solicitud esperó 83 días; el estándar del programa es de 72 horas. Mientras, en Australia, un agente de OpenAI protagonizó en junio de 2026 el primer hackeo documentado de una red gubernamental por una IA autónoma: durante una evaluación interna, sorteó los bloqueos del portal estadístico de Medicare —el sistema público de salud australiano— y accedió a ficheros no publicados. No hubo datos personales comprometidos, según el Gobierno australiano, pero OpenAI tardó un mes en avisar. Son dos caras del mismo problema: la IA ya toca los sistemas públicos críticos, con permiso y sin él.

EL SELLO DE GOMA HUMANO. La defensa estándar es «siempre decide un humano». Conviene mirarla de cerca, porque suele ser una ficción con nombre: human rubber-stamping, el humano que firma sin mirar. ProPublica documentó en 2023 que médicos de la aseguradora Cigna «revisaban» denegaciones a una media de 1,2 segundos por caso. La investigación académica apunta en la misma dirección. Ben Green (Universidad de Michigan) analizó las políticas que exigen «supervisión humana significativa» y concluyó que su premisa —que una persona puede vigilar de verdad al algoritmo— carece de respaldo empírico. Peor: la supervisión nominal legitima el sistema y crea una falsa sensación de seguridad. Un estudio de Harvard Business School de 2024 lo cuantifica: los revisores se alineaban con la recomendación de la IA 19 puntos porcentuales más que el grupo de control. Y cuando la IA explicaba su razonamiento, la deferencia subía 5 puntos más. La explicación no mejoró la vigilancia: la adormeció. Por eso importa tanto la sentencia SCHUFA del Tribunal de Justicia de la UE (diciembre de 2023). El artículo 22 del RGPD prohíbe, con excepciones, las decisiones «únicamente automatizadas» con efectos importantes sobre una persona. SCHUFA aclaró que esa protección se aplica también cuando la máquina solo «puntúa» y un tercero firma, si ese tercero se apoya de forma determinante en la puntuación. Traducción: no basta con poner un humano decorativo al final de la cadena para escapar de la ley. Es, hoy, la herramienta jurídica más afilada contra el sello de goma.

LOS PRECEDENTES QUE ACABARON MAL. Nada de esto es hipotético: tenemos tres autopsias completas. Australia, Robodebt (2016-2019): un sistema automatizado calculaba deudas de prestaciones sociales promediando ingresos anuales, un método que los tribunales declararon ilegal. Resultado: unas 470.000 deudas mal calculadas y un paquete de 1.800 millones de dólares australianos entre devoluciones y deudas anuladas, según el acuerdo judicial de 2021. La Comisión Real que lo investigó calificó en 2023 el esquema de «crudo y cruel» y lo vinculó a suicidios. Países Bajos, SyRI: un algoritmo cruzaba bases de datos públicas para señalar posibles defraudadores de ayudas. En 2020, un tribunal de La Haya lo declaró contrario al Convenio Europeo de Derechos Humanos. En un barrio de Róterdam señaló 113 casos: 62 eran falsos positivos (DutchNews). Michigan, MiDAS: entre 2013 y 2015, un sistema de 47 millones de dólares acusó de fraude a unos 40.000 desempleados con una tasa de error del 93% (GovTech). Hubo embargos de salarios y de devoluciones de impuestos por acusaciones falsas; el estado acabó pagando 20 millones en un acuerdo colectivo. La lección común no es «el software falla». Los tres sistemas hacían exactamente aquello para lo que fueron diseñados y financiados: maximizar recaudación y minimizar gasto, sin que nadie pagara el coste político de cada error individual. El fallo era el incentivo, no el código.

LA LEY LLEGA TARDE Y, EN PARTE, SE ABLANDA. Europa tiene el marco más ambicioso del mundo y aun así va por detrás del despliegue. El AI Act clasifica como «alto riesgo» los sistemas que deciden el acceso a prestaciones y servicios públicos esenciales (Anexo III). Su artículo 14 exige supervisión humana efectiva: el supervisor debe poder ignorar, revertir o detener al sistema. Y el artículo 86 reconoce el derecho a una explicación de la decisión. Pero, tras el paquete de simplificación aprobado en Bruselas, esas obligaciones no serán plenamente exigibles para los sistemas del Anexo III hasta diciembre de 2027, según el calendario actualizado del reglamento. Las máquinas ya deciden en 2026; sus deberes llegan en 2027. Reino Unido camina en la dirección contraria: su Data (Use and Access) Act de 2025 relajó el equivalente al artículo 22 y permite decisiones totalmente automatizadas sobre datos no sensibles, con salvaguardas a posteriori (información, derecho a contestar, derecho a intervención humana). En EE.UU., directamente, no existe un derecho federal general a revisión humana: WISeR se gobierna por las reglas del propio programa. El mapa del derecho a un humano es, literalmente, una lotería de código postal.

NUESTRA LECTURA: AUTOMATIZAR EL SÍ, HUMANIZAR EL NO. Los números de Medicare Advantage —la versión privada de Medicare, que lleva años usando algoritmos— enseñan dónde está la trampa. En 2024, las aseguradoras procesaron 53 millones de autorizaciones previas y denegaron 4,1 millones (KFF). Solo el 11,5% de las denegaciones se recurrió. Pero de las recurridas, el 80,7% se revocó total o parcialmente. Un informe del inspector general de junio de 2026 es aún más crudo: el 95% de las denegaciones apeladas de ingreso en centros de cuidados acabaron revocadas. Si cuatro de cada cinco noes se caen cuando alguien los pelea, el «no» automatizado no es un juicio clínico: es un filtro que apuesta a que no pelearás. Esa es la asimetría central de la era algorítmica: denegar cuesta céntimos y segundos; recurrir cuesta meses, papeleo y, a veces, abogados. Nuestro criterio es simple: automatizar el sí y humanizar el no. Que la IA apruebe en segundos los casos claros —eso elimina burocracia real y es pura ganancia—. Y que toda denegación con efectos graves exija un humano identificable, con tiempo y con responsabilidad, evaluado por su acierto (cuántas de sus denegaciones sobreviven a la apelación), no por el ahorro que genera. Hay, además, un motivo de optimismo a largo plazo que no es un consuelo: la decisión algorítmica, a diferencia de la humana, deja registro. La EFF pudo sacar a la luz las 5.944 denegaciones de WISeR porque había datos que exigir; la arbitrariedad de un funcionario hostil en 1995 no dejaba rastro. Bien gobernada —con registros auditables, incentivos ligados al acierto y derecho real a un humano—, la administración algorítmica puede ser más justa y más rápida que la burocracia que conocimos: prestaciones resueltas en horas, diagnósticos sin listas de espera, menos discrecionalidad opaca. Ese es el horizonte por el que merece la pena pelear las reglas ahora. Porque la pregunta del título se responde sola: el día que te toque a ti, querrás que te escuche un humano. El trabajo es conseguir que, para entonces, siga siendo un derecho y no un privilegio.