Deepfakes en el Pellegrini: cuando la IA generativa se vuelve arma de violencia de género en el aula

Por Agencia El Vigía · 11 de julio de 2026.

En el Colegio Carlos Pellegrini y otras instituciones dependientes de la Universidad de Buenos Aires se investiga un caso en el que, según la crónica, estudiantes habrían utilizado inteligencia artificial para producir imágenes sexuales falsas de compañeras y comercializarlas. Conviene subrayar el condicional: se trata de hechos bajo investigación, no de una sentencia, y así hay que tratarlos. Pero incluso como denuncia, el caso es elocuente. La autora del artículo, Karina Vukusic, especialista en escuela y cultura digital, lo describe con precisión quirúrgica: no es una "broma" ni una travesura tecnológica, es violencia sexual digital y de género. La imagen puede ser falsa en su construcción; la humillación, el hostigamiento y el daño reputacional de quien la sufre no lo son.

Los deepfakes sexuales toman una foto cotidiana —una imagen de una red social, por ejemplo— y la manipulan mediante IA generativa para simular desnudez o contenido sexual. Lo que antes exigía destreza técnica y tiempo hoy lo hace una aplicación en segundos, con un realismo que dificulta distinguir lo falso de lo real. Eso cambia la escala del problema: no crea la misoginia ni el pacto de silencio entre pares que la sostiene, pero multiplica su alcance mediante el anonimato, la velocidad de circulación y la casi imposibilidad de borrar definitivamente un contenido una vez que empezó a moverse. El artículo también documenta un choque político oportuno: mientras el caso reabre la discusión sobre cómo intervenir, la vicejefa de Gobierno porteño, Clara Muzzio, calificó a la Educación Sexual Integral de "trampa mortal", según recoge la nota. La autora responde que precisamente la ESI —trabajando consentimiento, autonomía sobre la propia imagen y masculinidades— es la herramienta que permite nombrar y prevenir este tipo de violencia, y que debilitarla no resuelve nada, solo desarma a las escuelas frente a un escenario que ya está ocurriendo.

Este caso es, en miniatura, el patrón que venimos señalando en Zendoric cada vez que la conversación sobre IA se reduce a benchmarks y capacidades de frontera: la tecnología generativa democratiza no solo la productividad, también democratiza el daño. Un adolescente sin conocimientos técnicos avanzados puede hoy producir contenido sexual falso y verosímil de una compañera con una herramienta gratuita o de bajo costo, y monetizarlo entre pares. Ese es el costo marginal casi nulo que hace tan atractiva a la IA para usos legítimos —y tan peligrosa cuando el objetivo es humillar o cosificar—. No es un fallo de la tecnología en sí, es la ausencia de fricción: ni ética, ni legal, ni institucional, que antes actuaba como freno natural.

Nuestra lectura es que el debate no debería polarizarse entre "prohibir la IA en manos de menores" y "dejar que la escuela se las arregle sola", porque ninguna de las dos resuelve el problema de fondo. Lo que el caso Pellegrini expone es un déficit de gobernanza en tres niveles a la vez: educativo (una ESI actualizada con perspectiva digital, no recortada), estatal (protección de datos, acceso a la justicia, mecanismos de denuncia ágiles) y corporativo (las plataformas que alojan o facilitan la circulación de estos contenidos deben ofrecer canales reales y rápidos de bloqueo y remoción, no promesas). Es exactamente el mismo tipo de arquitectura de control —permisos, auditoría, límites claros de uso— que ya reclamamos para los agentes de IA en el ámbito corporativo; aquí se aplica, con más urgencia aún, a menores de edad.

A largo plazo seguimos convencidos de que la IA será una fuerza que multiplique el bienestar humano: salud, longevidad, abundancia. Pero ese horizonte no llega solo, y casos como este son el recordatorio de que la transición no es gratuita ni automáticamente benigna. Cada vez que una sociedad aprende a poner límites éticos y legales a una capacidad nueva —como debería ocurrir ahora con los deepfakes en las aulas— construye el mismo músculo institucional que necesitará, multiplicado, cuando la IA gestione decisiones de mayor calado. La pregunta que deja este episodio no es si la tecnología es buena o mala, sino si las instituciones —escuela, Estado, plataformas— logran madurar al mismo ritmo que la herramienta que ya está en el bolsillo de cualquier adolescente.