Demandan a OpenAI por entrenar con datos de menores: la batalla por la edad pasa de la seguridad al dinero

OpenAI afronta una nueva demanda en un tribunal federal de San Francisco. La acusación es que la empresa manipuló a usuarios menores para que compartieran datos sensibles sin consentimiento parental válido, y que después los usó para entrenar sus modelos. La demanda, que aspira a ser colectiva, se presenta en nombre de dos menores anónimos de 12 y 16 años. Según la información de Futurism, OpenAI no respondió de inmediato a la petición de comentarios.

La denuncia, tal como la recoge el medio, sostiene que OpenAI «no tenía derecho a tomar esa información, pero la tomó igualmente». Añade que la usó para entrenar grandes modelos de lenguaje, construir perfiles detallados de niños y enriquecerse. El argumento técnico tiene dos patas. La primera: los términos de uso de OpenAI prohíben el acceso a menores de 13 años, pero según la demanda la verificación de edad no funciona. La segunda: no puede esperarse que un menor entienda la «jerga legal» de esos términos.

El caso más llamativo es el de una niña de 12 años de Hawái. Siempre según la demanda, le dijo al chatbot que tenía 12 años y la conversación continuó igualmente sobre temas muy íntimos. Contó que se saltaba comidas y subió fotos suyas para que el sistema juzgara su aspecto físico. Los demandantes afirman que ChatGPT la elogió por abrirse, la llamó «valiente» y dijo alegrarse de que compartiera sus problemas. Paul Yetter, abogado principal de los demandantes, acusa a OpenAI de construir «una empresa de un billón de dólares» sobre «los miedos, esperanzas y secretos robados de niños». Son acusaciones de parte, todavía sin resolver.

Lo realmente nuevo es la petición. Además de rendir cuentas, los demandantes piden que los menores cuyos datos se recogieron reciban una compensación económica. Andy Liddell, del EdTech Law Center, explicó a Futurism la lógica: si OpenAI tiene que pagar por usar datos de niños, eso la incentivará a hacer un producto más seguro. La demanda llega además en medio de dudas sobre «ChatGPT for Teens», el modo para adolescentes que OpenAI presenta como más seguro. Una revisión independiente reciente concluyó que no funcionaba como se anunciaba, y OpenAI la ha cuestionado.

Nuestra lectura: el debate sobre menores e IA está cambiando de terreno. Hasta ahora se planteaba como un problema de contenidos dañinos. Esta demanda lo convierte en un problema de economía de los datos: quién aporta el material de entrenamiento y quién captura su valor. Es un buen marco, porque los incentivos mueven a las empresas más que los comunicados.

El punto débil de fondo es conocido. Un sistema diseñado para ser cálido y animar a seguir hablando choca de frente con la protección de un usuario vulnerable. Que la niña dijera su edad y la conversación siguiera es exactamente el fallo que una verificación de edad seria debería evitar.

A corto plazo veremos más litigios y más presión regulatoria. Algunos excesos de pánico son probables. Aun así, preferimos que la gobernanza llegue por esta vía, con evidencia, casos concretos y jueces, antes que por normas generales escritas con miedo. A largo plazo, una IA que acompañe y eduque a niños puede ser una herramienta extraordinaria. Ganarse esa confianza exige demostrar que el producto protege al menor, no que lo retiene.