Nueva York impone una moratoria de un año a la IA generativa en primaria y secundaria

Nueva York ha dado el paso más agresivo hasta la fecha entre los grandes distritos escolares de Estados Unidos frente a la inteligencia artificial en las aulas. El alcalde Zohran Mamdani anunció una moratoria de un año sobre la IA orientada a estudiantes para los niveles de 2-K hasta octavo grado, lo que afecta a 600.000 alumnos, es decir, dos tercios de la población escolar pública de la ciudad. La medida llega justo antes del regreso a clases la próxima semana y se enmarca en un creciente rechazo bipartidista hacia las grandes tecnológicas que también ha permeado en las escuelas, con padres presionando para reducir el uso de tecnología.

Mamdani fue contundente en su discurso: "La industria tecnológica quiere que creamos que la IA en la educación temprana no solo es inevitable, sino necesaria. No lo vemos así. Aún no he visto un estudio que muestre que la IA es beneficiosa para estudiantes de primaria y secundaria, con la excepción, por supuesto, de las investigaciones patrocinadas por las mismas corporaciones que se benefician de ello". El alcalde enmarcó la decisión también en términos de privacidad de datos, afirmando que los neoyorquinos merecen saber que los datos de sus hijos no serán explotados por las grandes tecnológicas.

Como parte del plan, la ciudad "discontinuará o desactivará" los componentes de IA de más de 38 programas previamente autorizados que no cumplan con los nuevos estándares de seguridad y supervisión, entre ellos Amira, un tutor de lectura basado en IA. Según Ailish Brady, asesora de educación de la primera vicealcaldesa, la ciudad no utilizará productos que no permitan desactivar sus funciones de IA. Además, las nuevas directrices prohíben en gran medida el uso de dispositivos individuales en clase para estudiantes de pre-K a segundo grado, y recomiendan límites de pantalla de no más de 30 minutos para tercero a quinto grado y 45 minutos para secundaria básica, aunque estos límites son solo recomendaciones, no obligaciones.

El enfoque cambia radicalmente para la escuela secundaria (high school): Mamdani señaló que los adolescentes crecen en un "mundo saturado de IA", por lo que la ciudad introducirá cinco pilotos de IA para un máximo de 50.000 estudiantes de secundaria —alrededor del 5% de la población escolar pública— junto con clases de alfabetización en IA dos veces al año para todos los alumnos de ese nivel. Se contemplan excepciones para tecnología de asistencia dirigida a estudiantes con discapacidades y aprendices de inglés, así como para tareas de programación y libros electrónicos.

La decisión no surge en el vacío: en 2023 Nueva York ya había bloqueado el acceso de estudiantes y docentes a ChatGPT en dispositivos y redes del Departamento de Educación, revirtiendo esa postura meses después. Elizabeth Laird, del Center for Democracy and Technology, lo describe como un péndulo que oscila de nuevo en sentido restrictivo, subrayando lo difícil que resulta para los distritos encontrar un equilibrio en esta materia. A nivel nacional, mientras la legislación federal sobre barreras de IA en las aulas sigue estancada, estados como Virginia, Idaho y Oklahoma han optado por una vía distinta: ordenar a sus agencias educativas elaborar guías alineadas con las leyes existentes de privacidad de datos estudiantiles, en lugar de imponer restricciones estrictas. Nueva York, en cambio, ha optado por la vía más dura.

Las reacciones han sido mixtas. Randi Weingarten, presidenta de la Federación Americana de Maestros (AFT), respaldó implícitamente la medida al señalar que es muy similar a lo que su sindicato propuso en mayo, argumentando que los estudiantes mayores necesitan estar preparados digitalmente y aprender a usar la IA con cuidado, mientras que los más jóvenes necesitan aprender a pensar, lo que requiere menos pantallas y menos "delegación cognitiva". Meredith Coffey, del Thomas B. Fordham Institute (un think tank conservador), respaldó la pausa argumentando que los distritos enteros no deberían ser conejillos de indias de una tecnología que no se entiende del todo, aunque pidió más estudios sobre IA en la educación K-12. Jeffrey Riley, exfuncionario de educación de Massachusetts y ahora director de la organización Day of AI, coincidió en que dar a los niños tiempo para "ser niños" antes de enseñarles sobre IA y finalmente exponerlos a las herramientas es un enfoque sensato.

Sin embargo, también hay críticas desde distintos frentes. Michael Mulgrew, presidente del sindicato de docentes United Federation of Teachers, lamentó que falten detalles sobre cómo el Departamento de Educación exigirá salvaguardas de IA a los productos que compra, argumentando que la responsabilidad no debería recaer después de los hechos sobre escuelas y educadores individuales; Mulgrew, cabe destacar, no asistió a la rueda de prensa de Mamdani. La concejala Carmen De La Rosa y la senadora estatal Kristen Gonzalez, responsables de tecnología en el ayuntamiento y el estado respectivamente, pidieron posponer los pilotos de secundaria por falta de criterios de evaluación previos y señalaron que las directrices se quedan cortas en materia de alfabetización y desarrollo de habilidades digitales.

Por su parte, la coalición AI Moratorium for NYC Schools, integrada por padres, docentes y organizaciones de defensa, había reclamado una moratoria de dos años y expresó su preocupación por las numerosas excepciones al veto, su duración limitada a un año y el hecho de que los límites de pantalla sean solo recomendaciones. La coalición también criticó la ausencia de mecanismos para evaluar el impacto climático de los productos de IA, sus sesgos raciales y los riesgos para la privacidad de los estudiantes. Algunos estudiantes de secundaria, como Yelani Joseph, del Teen Activist Project de la New York Civil Liberties Union, reclamaron tener una voz real en si se debe usar esta tecnología y cómo.

Mamdani no precisó cómo se aplicará realmente la política, más allá de afirmar que confía en que docentes, directores y superintendentes la cumplirán. Tampoco explicó en detalle por qué eligió un año como plazo, aunque dijo que su administración quiere evaluar los resultados de la política antes de decidir si la extiende o modifica. El canciller escolar Kamar Samuels reconoció las críticas desde ambos extremos del espectro —quienes creen que la medida no llega lo bastante lejos y quienes creen que no hay lugar para la IA en el aula— y afirmó que ninguna de esas dos posturas extremas sirve bien a los estudiantes. La ciudad planea monitorear los resultados de la política durante el curso escolar junto con una coalición de padres, estudiantes, docentes, representantes sindicales y expertos, cuyo trabajo determinará el rumbo para el curso siguiente.

El caso de Nueva York, al ser el mayor sistema escolar del país, probablemente se convertirá en un punto de referencia obligado —a favor o en contra— para el debate nacional sobre cómo regular la IA generativa en la educación pública, en un momento en que ni la evidencia científica sobre sus beneficios ni el consenso político sobre su regulación están consolidados.