Google despliega un asistente de IA que suspende en seguridad infantil y que nadie puede apagar

Por The College Investor · 17 de julio de 2026.

El Instituto de Seguridad Infantil en IA de Common Sense Media ha puesto a las funciones de IA de la búsqueda de Google —AI Overview y AI Mode— su calificación más baja: "riesgo inaceptable" para niños y adolescentes. La evaluación, publicada el 14 de julio tras siete semanas de pruebas (19 de mayo a 1 de julio) sobre más de 2.600 interacciones en cuentas registradas como de 11 y 15 años con SafeSearch activado, concluye que ambas funciones incumplieron las cinco "líneas rojas" de daño grave que el instituto usa como umbral mínimo. Los números son concretos: AI Overview solo remitió a una línea de ayuda o un recurso médico en el 58% de los casos en que claramente correspondía (frente a un mínimo exigido del 95%); AI Mode completó de forma literal el 100% de 180 tareas escolares entregables tal cual en dispositivos de centros educativos; y solo la mitad de las preguntas con premisas falsas fueron rechazadas, con casos tan flagrantes como describir una sentencia inexistente del Tribunal Supremo o citar una sanción de la FTC de 400 millones de dólares que nunca existió. Casi un tercio de las más de 2.100 citas auditadas procedían de Reddit, Facebook o foros sin ningún control editorial.

Hay un matiz de diseño que agrava todo lo anterior: mientras el chatbot independiente Gemini puede desactivarse mediante Family Link, AI Overview aparece automáticamente en la búsqueda por defecto —en Chromebooks escolares, móviles y ordenadores de biblioteca— y no existe ningún ajuste para apagarlo. Es, según el propio censo 2026 de Common Sense Media, la puerta de entrada de IA para el 75% de adolescentes y preadolescentes de EE.UU., lo que convierte un fallo de producto en un problema de infraestructura educativa. Google ha revisado un borrador del informe y dice haber corregido algunos de los prompts probados, pero el instituto aclara que no ha verificado esos cambios de forma independiente, así que conviene tratar ese matiz como una promesa, no como un hecho consumado.

El ángulo económico añade una capa que The College Investor lleva documentando dos años: Google exige a sí mismo un estándar de precisión más alto para temas de "tu dinero o tu vida" (salud, estabilidad financiera, seguridad) y su propia IA no lo cumple. Su estudio de 2024 encontró un 43% de respuestas financieras erróneas o engañosas; el seguimiento de 2025 sobre las mismas 100 preguntas bajó solo al 37%, con instituciones inventadas de la nada ("Hustle Digital Credit Union", "Sally May") e información desactualizada sobre préstamos estudiantiles. Que ese margen de error persista dos años después, en la misma pregunta repetida, dice más sobre la prioridad del problema que cualquier titular puntual.

Nuestra lectura: esto no es un fallo de capacidad de los modelos de lenguaje —es un fallo de gobernanza de producto, y la distinción importa. Como hemos señalado en otros sectores sensibles (aulas, protección infantil, oncología), el freno recurrente ante estas tecnologías no suele ser la técnica sino la falta de normativa, de datos de seguridad segmentados por edad y de mecanismos de control antes del despliegue masivo. Google ha hecho justo lo contrario: desplegó una función que no puede desactivarse en el canal de información por defecto de los menores, sin el umbral de fiabilidad que exige a sus propios contenidos financieros. El resultado es una paradoja que vale la pena nombrar: el 43% de respuestas contradictorias ante la misma pregunta repetida no solo desinforma puntualmente, erosiona la confianza en que exista una respuesta correcta verificable.

A largo plazo seguimos convencidos de que sistemas de IA bien gobernados pueden tutelar el aprendizaje, detectar señales de riesgo en menores antes que un adulto y democratizar el acceso a información fiable sobre salud y dinero para familias que hoy no tienen asesor financiero ni orientador escolar. Pero ese futuro exige exactamente lo que este informe documenta que falta hoy: interruptores reales, estándares de precisión verificables y auditoría independiente, no promesas de "ya lo hemos corregido" sin datos que lo respalden. Las peticiones de Common Sense Media —opción de apagado para colegios y familias, protocolos de crisis estandarizados, reevaluación trimestral con datos por edad— son exactamente el tipo de gobernanza mínima que separaría la IA que ayuda a los niños de la que simplemente los expone, a escala, a un motor de respuestas que ni sus propios creadores logran hacer fiable.