Dos menores detenidos por deepfakes sexuales en un instituto: la ley llegó, la prevención no

Dos adolescentes han sido detenidos en Cookeville (Tennessee) acusados de crear con inteligencia artificial imágenes sexualmente explícitas de compañeras del instituto y difundirlas por redes sociales. Según el sheriff del condado de Putnam, Eddie Farris, los alumnos utilizaron el mes pasado un programa de IA para superponer los rostros de otras estudiantes sobre imágenes sexuales explícitas; algunas quedaron almacenadas en el teléfono de uno de los menores y fueron distribuidas. Ambos están imputados por explotación sexual agravada de un menor y explotación sexual especialmente agravada de un menor. El fiscal de distrito, Bryant Dunaway, confirmó que el caso se verá en el tribunal de menores.

El testimonio que da la medida del daño es el de la madre de una de las víctimas, recogido por la televisión local: «Ella no hizo ninguna foto desnuda y aun así ocurre… con la IA no podemos hacer nada». Describe a una hija que se encerró en su habitación y dejó de hablar con su familia y sus amigos. Esa frase resume el cambio de régimen mejor que cualquier análisis: durante una década la educación digital se apoyó en un consejo sencillo —controla lo que compartes— que presuponía que la imagen comprometida existía. Ahora basta con una foto de perfil.

Aquí hay una asimetría que conviene nombrar con precisión. La imagen es falsa, pero el daño no lo es: el estigma, el acoso y el aislamiento funcionan igual para la víctima con independencia de la autenticidad del archivo. Y la carga de la prueba se invierte de la peor manera, porque la persona agredida acaba teniendo que explicar que algo no ocurrió. Esa es la razón de fondo por la que la respuesta penal, aunque llegue, siempre llegará después del perjuicio.

Nuestra tesis es que este caso no ilustra un vacío legal, sino un vacío preventivo. Los cargos existían, encajaron y se aplicaron en cuestión de semanas: la ley penal sobre material de explotación sexual infantil no necesitaba que nadie inventara una categoría nueva para actuar. Lo que falta está antes. Falta que fabricar este material exija algo más que abrir una web, y falta una alfabetización que trate esto como lo que es —una agresión sexual mediada por software—, no como una travesura tecnológica. Venimos defendiendo que la regulación eficaz apunta al diseño y a la distribución de las herramientas, no al contenido generado caso por caso; este episodio lo confirma en el peor escenario posible, un instituto.

Nuestra lectura, sin edulcorar: esta es exactamente la clase de coste de transición que la IA está imponiendo a corto plazo, y que un optimismo serio obliga a mirar de frente. La capacidad de generar imágenes realistas se ha democratizado mucho más rápido que las normas sociales, las herramientas de detección y los protocolos escolares que deberían acompañarla. La frase del sheriff Farris —«la tecnología sigue cambiando, pero la responsabilidad que viene con usarla no»— es correcta, aunque insuficiente: la responsabilidad individual no escala sin fricción técnica ni respuesta institucional rápida.

A largo plazo seguimos pensando que esta tecnología acabará dando mucho más de lo que quita, pero nada de eso llega solo. Se construye con procedimientos aburridos: retirada inmediata de contenidos, procedencia verificable de las imágenes, apoyo psicológico a las víctimas y consecuencias claras para quienes las producen. Lo que aquí ha funcionado —una denuncia, una investigación, dos detenciones— es el suelo mínimo, no el techo.