Un agente de IA decidiendo qué familia investigar: la gobernanza que falta en protección infantil

Por Cureus · 8 de julio de 2026. La publicación, aparecida en la sección de Health Policy de la revista médica Cureus, plantea un "marco consciente de la gobernanza" para introducir IA agéntica en dos fases muy sensibles de los servicios de protección infantil: la recepción de denuncias o solicitudes (intake) y la identificación temprana de riesgo. No hemos podido acceder al cuerpo completo del artículo —la página solo entregó navegación y metadatos de la revista—, así que esta pieza se limita deliberadamente a lo que el propio título permite afirmar con seguridad: existe una propuesta académica revisada por pares sobre cómo estructurar, con salvaguardas de gobernanza, el uso de agentes de IA en un ámbito donde las decisiones automatizadas pueden determinar si una familia es investigada, si un menor es apartado de su hogar o si una alerta se pierde entre miles de expedientes.

Esto importa independientemente del detalle técnico que nos falta. Los sistemas de recepción y priorización de casos en protección infantil llevan más de una década siendo terreno de pruebas para herramientas de puntuación de riesgo basadas en datos —con historiales conocidos de sesgos raciales y socioeconómicos en jurisdicciones que ya los han desplegado—. Que ahora se hable de IA "agéntica", es decir, sistemas capaces de tomar iniciativa, encadenar consultas a bases de datos y proponer o ejecutar acciones sin que un humano intervenga en cada paso, eleva la apuesta: no es lo mismo un modelo que asigna una puntuación a un expediente que un agente que decide qué expediente merece revisión humana, a qué velocidad y con qué prioridad. El propio título del trabajo, al insistir en el carácter "consciente de la gobernanza" del marco propuesto, sugiere que los autores son conscientes de ese salto de riesgo y buscan anticipar controles —trazabilidad de decisiones, supervisión humana obligatoria, auditoría de sesgos— antes de que la tecnología se despliegue sin ellos.

Nuestra lectura, con la cautela que exige trabajar sobre un titular y no sobre el estudio completo, es que este tipo de propuestas son exactamente el tipo de fricción que necesitamos ver más, no menos, a medida que la IA agéntica sale del terreno de la productividad de oficina y entra en decisiones sobre personas vulnerables. En el corto plazo, la tentación de las administraciones con recursos escasos —trabajadores sociales sobrecargados, listas de espera de meses— es adoptar cualquier herramienta que prometa aliviar la carga, y ahí es donde el historial de la puntuación algorítmica de riesgo ya ha demostrado que la eficiencia sin gobernanza produce daño real y desigual. En general, como contexto del sector, la conversación sobre IA en servicios sociales ha ido madurando desde el entusiasmo inicial por la detección automática hacia una exigencia creciente de marcos de responsabilidad, algo que encaja con la tesis de fondo de Zendoric: la IA puede liberar recursos y atención humana para lo que de verdad importa —el criterio profesional, la relación con la familia, el seguimiento cercano— pero solo si la transición se gestiona con normas claras y no se le entrega a un agente autónomo la última palabra sobre la vida de un menor. Sin poder valorar aquí la solidez metodológica del marco propuesto, celebramos que la pregunta se plantee en estos términos: no "cómo automatizamos protección infantil", sino "qué gobernanza necesita cualquier automatización antes de tocar a un niño".