Un robot-LLM de 57.590 $ en un aula: el problema no es el escándalo, es la gobernanza

Los hechos, según Gizmodo (que cita a Techspot): el distrito escolar Salamanca City Central School District, en el oeste del estado de Nueva York, destinará 57.590 dólares —rebajados de un precio de catálogo de 95.000— a un robot llamado "Sally". El aparato funciona esencialmente como la boca física de un modelo de lenguaje (un LLM), igual que otro caso reportado el mes anterior en una escuela concertada de San Diego. Lo fabrica Realbotix, empresa que hasta mayo de 2024 se llamaba Tokens.com y que, poco antes de aquel cambio de nombre, adquirió la firma hoy conocida como Abyss Creations, fabricante de las RealDoll (muñecas sexuales). De ahí el titular provocador del artículo original.

Conviene separar el ruido de la señal. El ángulo "tu hijo tendrá de profesor un robot sexual" es sátira periodística: sirve para captar la atención, pero mezcla dos negocios distintos de un mismo grupo y no describe lo que se instala en el aula. Caer en el escándalo es cómodo y estéril. Lo que merece análisis es lo mismo que planteamos ante cualquier despliegue de IA en dominios sensibles: no la capacidad técnica —encapsular un chatbot en una carcasa antropomórfica no tiene misterio—, sino la gobernanza que lo rodea.

Y ahí las preguntas del artículo son las correctas. Primero, la de sentido común: si un centro decide que su alumnado necesite acceso a un chatbot, ¿por qué gastar decenas de miles de dólares en un robot cuando un portátil con conexión hace lo mismo? El coste de oportunidad es brutal en presupuestos escolares crónicamente cortos. Segundo, y más importante, la de los datos. Un robot que ve y oye un aula genera un flujo continuo de información sobre menores. Gizmodo advierte —sin acusar a Realbotix de hacerlo— del riesgo de que ese material acabe alimentando futuras versiones del modelo, y recomienda a cualquier dirección de centro leer con lupa el EULA y la documentación de licencia. Es un consejo prudente, no una imputación: la carga de la prueba sobre el tratamiento de datos debe recaer en el proveedor, por contrato y por transparencia.

Hay un tercer plano, el laboral, que enlaza con una serie que seguimos de cerca. El artículo especula con que el destino último de estos aparatos sea sustituir docentes. Nuestra tesis sobre IA y empleo apunta justo a lo contrario de esa distopía: en educación gana el profesor que ORQUESTA la IA —el tutor aumentado— y pierde el que solo transmite. Un robot que recita respuestas de un LLM no es un maestro; es un periférico caro. El valor humano en el aula —el criterio, la relación, la lectura del alumno que se descuelga— es precisamente lo que la máquina no cubre.

Nuestra lectura: este caso no anuncia el futuro de la educación, sino un patrón que ya hemos visto en aulas de Nueva York, protección infantil u oncología: la tecnología corre por delante de las reglas. El freno recurrente no es lo que la IA puede hacer, sino la falta de marco de datos, normativa y confianza institucional. La respuesta madura no es prohibir por miedo al titular ni comprar por deslumbramiento, sino exigir gobernanza antes que adopción: contratos claros sobre datos de menores, evaluación de coste-beneficio frente a alternativas más baratas y un rol del docente reforzado, no vaciado. A largo plazo, la IA bien gobernada puede ser un tutor personalizado que democratice el aprendizaje. Para llegar ahí, el primer deber de un director no es firmar el cheque, sino leer la letra pequeña.