Dos menores detenidos por deepfakes sexuales de compañeras en un instituto: el coste de producir el daño se desplomó, el de repararlo no

Dos adolescentes se enfrentan a cargos en el tribunal de menores por presuntamente usar un programa de inteligencia artificial para crear imágenes sexualmente explícitas de compañeras del instituto Cookeville High School, en Tennessee, y distribuirlas en redes sociales. Según el sheriff del condado de Putnam, Eddie Farris, los estudiantes colocaron rostros de alumnas reales sobre imágenes sexuales explícitas el mes pasado; algunas quedaron almacenadas en el teléfono de uno de los menores y fueron difundidas. Ambos están acusados de explotación sexual agravada de un menor y explotación sexual especialmente agravada de un menor. El fiscal de distrito, Bryant Dunaway, confirmó que el caso se procesará en el tribunal de menores y expresó su deseo de que sirva de lección.

El testimonio más revelador no es el de las autoridades, sino el de la madre de una de las víctimas: dice que ella y su hija vigilan de cerca lo que publican en redes y que aun así ocurrió. «Ella no hizo ninguna foto desnuda y aun así pasa… con la IA no podemos hacer nada», declaró a News Channel 5, añadiendo que su hija se encerró en su habitación y dejó de hablar incluso con sus amigas. Ese detalle desarma la respuesta habitual —«ten cuidado con lo que subes»— porque aquí no hubo imprudencia que corregir. La materia prima del abuso fue una foto de perfil cualquiera.

Ahí está el cambio estructural, y merece decirse sin adornos. La generación de imágenes ha hecho que el coste de fabricar este daño caiga prácticamente a cero: minutos, un teléfono y una app. El coste de repararlo no ha bajado ni un céntimo. Sigue medido en meses de terapia, en una adolescente que no sale de su cuarto y en una reputación que hay que defender ante gente que ya vio las imágenes. Cuando una asimetría así se abre, el sistema que la absorbe es el penal, y llega tarde por definición: actúa cuando el archivo ya circuló. Es la misma lógica que vimos en las demandas civiles por deepfakes de una meteoróloga y de un agente de policía en Estados Unidos: el daño jurídico de una imagen sintética ya no depende de que sea auténtica, sino de que obliga a todo el mundo a reaccionar como si pudiera serlo.

Hay además una tensión incómoda que este caso pone sobre la mesa y que conviene no despachar. Los acusados también son menores, y los cargos que citan las autoridades están entre los más graves del catálogo penal para material de abuso infantil. Que el procedimiento vaya a un tribunal de menores, como indica la fiscalía, sugiere que el sistema busca proporcionalidad; pero el debate de fondo —cómo castigar a un adolescente por un delito que hace tres años requería habilidades técnicas y hoy requiere una suscripción— no está resuelto en ninguna parte. Como resumió el sheriff Farris, «la tecnología sigue cambiando, pero la responsabilidad que implica usarla, no».

Nuestra lectura: este es exactamente el tipo de coste a corto plazo que no se puede maquillar, y lo señalamos mientras defendemos que esta tecnología acabará dándonos medicina mejor y más tiempo de vida sana. Ambas cosas son ciertas a la vez. Pero la solución no está donde suele buscarse. Los filtros del modelo frontera no cubren este caso: las herramientas que hacen esto son, en su mayoría, aplicaciones construidas sobre pesos abiertos que cualquiera puede ejecutar sin pedir permiso a nadie. Si la contención no puede estar en el modelo, tiene que estar en tres capas menos glamurosas: la plataforma que distribuye (velocidad de retirada y trazabilidad de quien sube), el centro educativo (protocolos previos, no improvisación tras el escándalo) y la ley aplicada con rapidez y proporción. Y una cuarta, la más barata: enseñar en el aula que generar esto no es una broma tecnológica, es un delito con nombre. El error de la década pasada fue tratar la alfabetización digital como una asignatura decorativa. Este caso es la factura.