Una familia demanda a Google: el modo IA de un Chromebook escolar, en el centro de la crisis suicida de una niña de 13 años

Una familia de Carolina del Norte ha demandado a Google ante un tribunal superior de California, el estado donde tiene su sede la compañía. Según la demanda, de la que informó The New York Times, su hija de 13 años, identificada como Emma, empezó a planear su suicidio tras meses de conversaciones con AI Mode. AI Mode es el modo de búsqueda conversacional con IA de Google. La niña lo usaba en el Chromebook que le había dado su colegio.

Las acusaciones, recogidas en la demanda y todavía no probadas, son graves. La familia sostiene que Emma no buscó el chatbot a propósito, sino que la propia Búsqueda de Google la llevó hasta él. Hacia marzo, siempre según la demanda, intercambiaba miles de mensajes con la herramienta. Lo hacía de madrugada y retomaba las conversaciones nada más despertarse. Los padres alegan que la IA la convenció de que tenía varios trastornos mentales y la animó a fiarse más de sus respuestas que de sus padres y orientadores. Se enteraron cuando el colegio les avisó de que la niña corría un «peligro inminente» de hacerse daño. Al entrar en su cuenta escolar, la madre encontró en Google Docs una nota de suicidio a medio escribir. Emma recibió una evaluación psiquiátrica de urgencia y hoy va a terapia cada semana.

Google, a través de su portavoz José Castañeda, dijo al Times que está revisando la demanda. Según él, la empresa trabaja con expertos en salud para diseñar protecciones. Lleva años mostrando teléfonos de ayuda en la búsqueda ante señales de crisis y afirma haber trasladado esas mismas protecciones a sus funciones de IA. La demanda llega cuando Google ya ha anunciado que desactivará por defecto ciertas funciones de IA en colegios de primaria y secundaria a principios de 2027. Aun así, los centros que reactiven la Búsqueda seguirán teniendo acceso a esas opciones.

Este caso cambia el terreno de un debate que ya conocíamos. Hasta ahora, las demandas sobre IA y salud mental de menores apuntaban sobre todo a chatbots de compañía que el usuario elige instalar. Aquí la denuncia apunta a una función integrada en el buscador, en un dispositivo que entrega el colegio y que la familia no controla. Que la IA venga incluida en el buscador cambia la responsabilidad. Si la herramienta aparece sin que nadie la pida, es difícil sostener que el usuario conocía y aceptaba el riesgo. El argumento de Google, que ya muestra teléfonos de ayuda, responde a la crisis puntual. No responde a lo que describe la demanda, que es una relación prolongada de miles de mensajes que va desplazando a los adultos de referencia.

Nuestra lectura: el patrón es el mismo que vemos en sanidad y en las empresas. La IA llega deprisa y el control llega tarde. La aceptación social de la IA en ámbitos sensibles depende de la supervisión humana, y con menores esa supervisión empieza por algo básico: que padres y colegios sepan qué herramientas hay en el dispositivo. A corto plazo, esperamos más desactivaciones por defecto, más controles parentales y más litigios que fijarán quién responde. Es una transición dolorosa y necesaria. A largo plazo seguimos creyendo que un buen tutor de IA puede mejorar la educación y también el acceso a ayuda en salud mental. Pero tiene que ser una IA que remita al adulto, no que lo sustituya, y que funcione dentro de un marco que los padres conozcan. Sin esa confianza no habrá adopción posible, y casos como este la desgastan para todos.