Meta AI sugirió preguntas para perfilar a dos menores: el riesgo ya no es el dato filtrado, es el agregador

Kalie Robins publicó un vídeo cotidiano con su hija y se hizo viral por una razón que no buscaba. Al revisar la publicación, encontró que la inteligencia artificial de Meta había generado preguntas sugeridas —propuestas automáticas de consulta que el sistema ofrece a quien mira el contenido— orientadas a averiguar quién era la niña que aparecía. Según relató a NewsNation, esas sugerencias apuntaban a los nombres de sus hijos, sus fechas de nacimiento, vídeos, fotos de recién nacido, imágenes que ella ya había borrado y, al final del recorrido, su ubicación en tiempo real. «Es horrible sentir que fallé a mis hijos en ese momento», declaró. «No sé si otros lo vieron, pero pueden averiguar lo que quieran sobre mí… Todavía me revuelve el estómago.» Meta reconoció, según recoge el medio, que la función «no dio en el blanco», que nunca debió sugerir preguntas así y que el problema ya está resuelto.

Conviene precisar qué ocurrió, porque no es una filtración. Nadie reventó una base de datos ni robó credenciales. Todo ese material estaba, en principio, dentro del perímetro de la propia plataforma. Lo que cambió es el coste de ensamblarlo. Los juristas de privacidad llaman a esto «oscuridad práctica»: información técnicamente accesible pero tan costosa de reunir que, en la práctica, permanece inerte. Un asistente conversacional reduce ese coste a cero. Lo que antes exigía horas de rastreo manual por perfiles, etiquetas y publicaciones antiguas se resuelve ahora en una frase. La capacidad no es nueva; la fricción que la contenía, sí ha desaparecido.

Hay un segundo matiz, más incómodo, y es el que convierte este caso en algo distinto de un susto de privacidad más. El sistema no respondió a una curiosidad ajena: la propuso. Una cosa es que un modelo conteste a quien pregunta por los hijos de una desconocida; otra muy distinta es que sugiera esa pregunta a alguien a quien no se le había ocurrido. Eso no es un fallo de alineamiento del modelo, es una decisión de diseño de producto —maximizar la interacción proponiendo la siguiente consulta— aplicada sin filtro a un dominio donde el sujeto es un menor. Y el detalle de las fotos borradas, si se confirma en los términos del relato, abre una pregunta que Meta no ha respondido públicamente: qué queda accesible al sistema después de que una usuaria pulsa «eliminar».

El contexto de riesgo no es teórico. El National Center for Missing & Exploited Children recibió el año pasado más de 182.000 denuncias relacionadas con intentos de crear material de abuso sexual infantil mediante IA o con la posesión de ese material generado sintéticamente, según los datos citados en el reportaje. El propio texto apunta que el punto de partida de ese tipo de manipulación puede ser una imagen perfectamente inocente de un niño. No se trata de imputar esa cadena a Meta —no hay evidencia de que ocurriera aquí—, sino de entender por qué una función de «preguntas sugeridas» sobre menores no es un detalle menor de interfaz.

La respuesta corporativa merece su propio comentario. «Missed the mark» es el registro del control de calidad de producto: el lenguaje que se usa cuando una recomendación musical falla o un botón queda mal colocado. Aplicado a la seguridad infantil, ese vocabulario desplaza el asunto de la categoría equivocada. Y la asimetría es evidente: Robins afirma que la compañía nunca se puso en contacto con ella. Quien corrigió su comportamiento fue ella, cambiando para siempre cómo comparte a sus hijos. La empresa parcheó una función; la familia asumió el coste.

Nuestra lectura: la tecnología que aquí falla es exactamente la misma que, bien orientada, resulta extraordinaria. Correlacionar señales dispersas y débiles hasta formar un cuadro coherente es lo que permitirá detectar un cáncer años antes de que dé síntomas o anticipar un brote epidémico desde datos que hoy nadie cruza. El problema no es la capacidad de agregar: es la direccionalidad por defecto. Un asistente instalado sobre el mayor archivo de vida privada jamás reunido debería tener una regla estructural, no un parche reactivo: no proponer nunca consultas no solicitadas sobre terceros identificables, y menos sobre menores. Es una restricción barata de implementar y cara de omitir. A corto plazo, la carga recaerá sobre las familias, que aprenderán a publicar menos —y ese es un coste real, no un daño colateral aceptable. A largo plazo, casos como este son el material con el que se escribe la norma. Ojalá se escriba mirando al diseño del producto y no solo al modelo, porque aquí el modelo hizo lo que el producto le pidió.