IA en escuelas de Nueva York: cuando la promesa de seguridad choca con los derechos civiles de un millón de estudiantes

Por Zendoric · 28 de junio de 2026.

Casi un millón de estudiantes asisten cada día a las escuelas públicas de Nueva York. Para el NAACP Legal Defense and Educational Fund (LDF) —la organización que litigó el histórico caso Brown v. Board of Education—, ese dato convierte a la ciudad en el escenario más relevante del país para debatir hacia dónde debe ir la tecnología de vigilancia en entornos educativos. El pasado 26 de junio, la organización presentó testimonio escrito ante las Comisiones de Educación y Tecnología del Ayuntamiento neoyorquino, en el marco de una audiencia de supervisión conjunta sobre inteligencia artificial, datos de estudiantes y privacidad en las New York City Public Schools (NYCPS).

El mensaje del LDF fue directo: detener la expansión de sistemas de IA en los colegios públicos, incluyendo reconocimiento facial, software de predicción de incidentes y herramientas de toma de decisiones automatizadas. La organización dirigió su testimonio a la presidenta del Consejo Municipal, Amanda Farías, y a los presidentes de ambas comisiones, Eric Dinowitz y Jennifer Gutiérrez De La Rosa, instando además al alcalde Zohran Mamdani a rechazar esas propuestas.

**El problema de fondo: el sesgo amplificado por algoritmos**

El LDF no se opone a la tecnología per se, sino a su despliegue en un contexto donde las desigualdades ya están documentadas. El testimonio cita investigaciones que muestran que los estudiantes negros tienen más de cuatro veces más probabilidades que los estudiantes blancos de asistir a escuelas con los niveles más altos de vigilancia. Introducir sistemas de reconocimiento facial o decisiones automatizadas en ese entorno no neutraliza el sesgo preexistente: según el argumento del LDF, lo codifica y lo escala.

Este no es un riesgo hipotético. Como contexto del sector, los estudios más citados sobre reconocimiento facial —incluyendo los del MIT Media Lab— han demostrado tasas de error significativamente más altas para personas con piel oscura, especialmente mujeres. Cuando esa tecnología se aplica a entornos de alta carga (miles de entradas diarias a edificios escolares), incluso una pequeña tasa de error se traduce en decenas de identificaciones erróneas con consecuencias reales para menores.

El LDF señala específicamente que el Departamento de Policía de Nueva York (NYPD) —que sigue siendo el responsable de la seguridad en muchos centros— ya utiliza reconocimiento facial y está pilotando herramientas de IA adicionales. Aunque la NYCPS ha emitido orientaciones que prohíben el uso de IA para decisiones disciplinarias, la presencia continua del NYPD en los colegios crea, según la organización, una brecha de gobernanza difícil de cerrar con políticas internas.

**Los números del trade-off**

Uno de los argumentos más concretos del testimonio tiene que ver con la asignación de recursos. Según el LDF, simplemente detener la contratación de nuevos agentes de seguridad escolar podría liberar aproximadamente 90 millones de dólares anuales. Esa cifra, argumenta la organización, debería redirigirse hacia coordinadores de clima escolar, trabajadores sociales, servicios de salud mental y programas de justicia restaurativa.

Es un trade-off legítimo que merece ser tomado en serio más allá del debate ideológico. La evidencia sobre los programas de justicia restaurativa en entornos educativos es heterogénea pero prometedora: varios estudios en distritos urbanos de EE. UU. muestran reducciones en suspensiones y en la llamada «escuela-a-prisión pipeline» cuando se implementan con recursos suficientes y personal formado. El problema es que esos programas son menos visibles políticamente que una cámara de seguridad, y más difíciles de evaluar a corto plazo.

**La Primera Enmienda y el efecto disuasor**

El testimonio introduce una dimensión que suele quedar fuera del debate técnico: el efecto disuasor sobre la libertad de expresión. En un contexto de intensificación de la aplicación de las leyes de inmigración y de mayor escrutinio al activismo estudiantil, el LDF advierte que ampliar la vigilancia perimetral de los centros escolares podría restringir la protesta y la organización estudiantil protegidas por la Primera Enmienda. La organización critica además legislación municipal pendiente que ampliaría las competencias policiales en torno a los edificios educativos.

Este argumento conecta con una preocupación más amplia en la literatura sobre tecnología de vigilancia: el efecto de «chilling» (enfriamiento) sobre comportamientos perfectamente legales. Saber que uno es monitoreado cambia la conducta, incluso cuando no se ha hecho nada malo. En el caso de menores en pleno desarrollo de su identidad cívica, ese efecto puede tener consecuencias pedagógicas y democráticas que van mucho más allá de la seguridad inmediata.

**¿Cuál es el lugar correcto para la IA en los colegios?**

Sería un error leer este debate como una condena global de la inteligencia artificial en educación. El LDF no dice que la IA no tenga cabida en las aulas: de hecho, su testimonio menciona específicamente la preocupación por el «reemplazo impropio de educadores formados», lo que implica que hay usos de la IA que, en su opinión, sí serían aceptables si se implementaran con salvaguardas adecuadas.

En general, el sector EdTech lleva años explorando aplicaciones de IA que pueden mejorar resultados: sistemas adaptativos de aprendizaje, detección temprana de dificultades de lectura, herramientas de retroalimentación formativa. La distinción crítica es entre IA al servicio del aprendizaje —centrada en el estudiante, transparente, revisable por educadores— y IA al servicio del control, orientada a la seguridad perimetral o la predicción de comportamientos, con impacto desproporcionado sobre poblaciones ya marginalizadas.

Nueva York tiene una oportunidad singular para establecer un marco de referencia. Con un millón de estudiantes y una infraestructura de datos educativos extraordinariamente rica, la ciudad podría articular principios claros: qué tipos de sistemas de IA se pueden usar en escuelas, bajo qué condiciones de supervisión, con qué mecanismos de auditoría de sesgos y con qué derechos de recurso para estudiantes y familias. Ese marco, si se construye bien, podría convertirse en modelo para otros distritos del país.

**La señal que importa**

Más allá de lo que decida el Consejo Municipal neoyorquino, este episodio es una señal clara de que la conversación sobre IA responsable ya no está confinada a los laboratorios de las grandes tecnológicas ni a los foros especializados en ética algorítmica. Ha llegado a las audiencias parlamentarias, a las organizaciones de derechos civiles con décadas de litigación a sus espaldas, y a las familias de estudiantes que cada mañana cruzan los detectores de metales a la entrada de sus colegios.

El argumento del LDF —que la seguridad real se construye con inversión en personas, no en cámaras— no es antimodernista. Es una apuesta por aplicar el mismo rigor que pedimos a cualquier tecnología: demostrar que funciona, para quién funciona y a qué coste. Si un sistema de vigilancia con IA no puede superar esas tres preguntas en un entorno tan sensible como una escuela pública, la carga de la prueba recae sobre quienes lo proponen, no sobre quienes lo cuestionan.