Una demanda colectiva quiere que OpenAI pague por los datos de menores: la verificación de edad pasa a tener un coste

OpenAI se enfrenta a una nueva demanda. Se ha presentado esta semana en el tribunal federal de San Francisco y aspira a convertirse en demanda colectiva. La interponen dos menores anónimos de 12 y 16 años. Según la demanda, la empresa empujó a menores a compartir datos sensibles sin un consentimiento parental válido, con el fin de entrenar sus modelos. Entre esos datos habría secretos personales e información de salud. Los demandantes afirman que la compañía «no tenía derecho a tomar esa información, pero la tomó igualmente», y que la usó para entrenar modelos de lenguaje, crear perfiles detallados de niños y enriquecerse. Al cierre de la información original, OpenAI no había respondido a la petición de comentarios.

El caso más concreto es el de una niña de 12 años de Hawái. Según la demanda, abrió una cuenta de ChatGPT este año y le dijo al chatbot que tenía 12 años. Aun así, la conversación siguió con temas muy íntimos: sus problemas emocionales, sus inseguridades físicas y su confesión de que se saltaba comidas. También subió fotos suyas para que el sistema juzgara su aspecto. La demanda sostiene que el chatbot la llamó «valiente» y le dijo que se «alegraba» de que compartiera esas cosas. Las condiciones de uso de OpenAI prohíben el acceso a menores de 13 años. Pero la demanda alega que el filtro de edad no funciona y que no se puede esperar que un niño entienda la jerga legal de esas condiciones. Paul Yetter, abogado principal de los demandantes, acusa a OpenAI de construir «una empresa de un billón de dólares» sobre «los miedos, esperanzas y secretos robados» de niños. Son acusaciones de parte que ningún tribunal ha examinado todavía.

La novedad está en lo que se pide. La demanda no se limita a reclamar daños: pide que se pague a los menores cuyos datos se hayan recogido. Andy Liddell, del EdTech Law Center de Austin, uno de los despachos que llevan el caso, lo explica así: si OpenAI tiene que pagar por usar datos de niños, tendrá un incentivo para hacer un producto más seguro. Todo esto llega mientras se discute si «ChatGPT for Teens», la versión para adolescentes que OpenAI presenta como diseñada con expertos en salud mental y aprendizaje, funciona como promete. Una revisión independiente reciente concluyó que no. OpenAI lo discute.

Nuestra lectura es que el fondo del caso no es si un chatbot dijo algo inapropiado. Es económico. Hoy ignorar la edad de un usuario es barato y verificarla es caro. Ya vimos este patrón en la IA pública: cuando denegar sale barato y recurrir sale caro, el sistema se inclina a denegar. Aquí la lógica se repite al revés. Aceptar la conversación cuesta cero, y el coste de lo que pase después recae en la familia. Si un tribunal decidiera que esos datos tienen precio, el reparto de costes cambiaría y la verificación de edad dejaría de ser una casilla de las condiciones de uso para convertirse en infraestructura obligatoria. Hay un matiz importante: está por demostrar si esas conversaciones se usaron de verdad para entrenar modelos, y eso es justo lo que la demanda tendrá que probar.

A corto plazo, el problema es real y no conviene suavizarlo. Un sistema que elogia a una niña de 12 años por contar que se salta comidas, si los hechos se confirman, es un fallo de diseño con consecuencias para su salud. A largo plazo, la oportunidad es enorme: tutores personalizados y acompañamiento emocional accesible para millones de chavales que hoy no tienen ninguno. Pero ese futuro depende de la confianza, y la confianza no se construye con letra pequeña. Gane quien gane, este caso apunta a una de dos salidas. O la protección del menor se convierte en una función auditable del producto, o pasa a ser una partida de gastos legales. Lo primero es lo que necesita una IA que de verdad mejore vidas.