xAI, demandada en Arkansas por usar Grok para crear pornografía infantil deepfake de menores reales

Por Zendoric · 25 de julio de 2026.

Una familia de Arkansas ha demandado a xAI, la empresa de inteligencia artificial de Elon Musk, después de que la policía confirmara que la imagen de su hija fue utilizada para generar material de abuso sexual infantil (CSAM, por sus siglas en inglés) con el modelo Grok. La demanda, presentada por el bufete Potts Law Firm y consultada por KATV, no es un caso aislado: según su socio director, Derek Potts, el despacho ya prepara demandas adicionales en nombre de otras familias —adultas y menores— que han sido notificadas por la policía de que su imagen sufrió el mismo destino, y las presentará la próxima semana.

El origen del caso es una investigación penal. Russell Bloodworth III, un fotógrafo conocido en el noroeste de Arkansas, fue arrestado el 10 de junio y acusado de 200 cargos por posesión y creación de material de abuso sexual infantil generado por IA. Según la policía de Bentonville, Bloodworth usó Grok para transformar fotografías que él mismo había tomado a clientes menores de edad en contenido sexual explícito; un registro de su teléfono, recogido en el atestado policial, reveló cerca de 1.700 imágenes y vídeos de este tipo.

La demanda contra xAI reclama daños económicos, la eliminación de todo el material generado ilegalmente y, sobre todo, que la compañía implemente salvaguardas para impedir que Grok pueda generar representaciones sexuales no consentidas de personas reales, incluidos menores. Potts es explícito sobre por qué apunta al modelo y no solo al usuario: "creo que todo el mundo coincide en que esta plataforma, frente a otras, es única, que se comercializó a sí misma como 'rebelde'. Promocionaron modos adicionales para crear lo que llaman imágenes 'picantes' (spicy)", dijo a KATV, en referencia a la función de generación de imágenes sin las restricciones habituales que xAI ha usado como argumento de venta de Grok frente a rivales más conservadores.

El vacío regulatorio es la segunda pata del caso. Arkansas ha aprobado leyes que tipifican como delito la creación de CSAM mediante IA, pero, como señala Potts, "prácticamente no hay leyes aprobadas ni por Arkansas ni por el gobierno federal para restringir, limitar o regular la propia IA". Phillip Huff, profesor de informática en la Universidad de Arkansas en Little Rock, lo enmarca en términos más amplios: "no creo que podamos seguir viviendo en un mundo donde solo unas pocas empresas ponen todas las reglas sobre IA y nosotros tenemos que vivir con las consecuencias".

Este es exactamente el tipo de caso donde nuestra tesis habitual sobre regulación —cuidado con legislar por pánico en lugar de por evidencia— no aplica en sentido inverso: aquí la evidencia ya existe, es un atestado policial con 1.700 archivos y 200 cargos, no una proyección especulativa sobre riesgos futuros. Cuando una empresa elige diferenciarse comercialmente ofreciendo menos fricción que sus competidores en la generación de imágenes de personas reales, la ausencia de barreras técnicas deja de ser una decisión de producto neutral y pasa a ser, potencialmente, un factor de responsabilidad civil. Es plausible que este litigio, y los que el bufete anuncia para la próxima semana, se conviertan en el vehículo real para fijar qué obligaciones tienen los proveedores de modelos generativos cuando su diseño facilita —aunque no ordene— un delito con víctimas menores identificables.

Conviene separar dos planos, porque es fácil confundirlos. Uno es el largo plazo de la IA que defendemos en Zendoric: modelos cada vez más capaces liberando tiempo y recursos, con potencial para transformar la medicina y la abundancia material. El otro es este caso concreto, donde el diseño de un producto —comercializado explícitamente como menos restringido— ha facilitado, según la acusación policial, la victimización de menores reales. No hay matiz posible aquí: la protección infantil frente al abuso generado por IA no es un "coste de transición" que se resuelva solo con el tiempo, es una línea roja que exige barreras técnicas y responsabilidad legal ya, con independencia de lo optimista que sea la lectura de fondo sobre hacia dónde va esta tecnología. Si algo confirma este caso es que la ausencia casi total de regulación federal específica sobre modelos de IA generativa —más allá de leyes estatales dispersas y reactivas, como la propia de Arkansas— deja el listón de la prevención en manos de los tribunales, demanda por demanda, en lugar de en reglas claras fijadas de antemano.