Meta habría pagado a contratistas para simular ser menores en conversaciones inquietantes con IA

De acuerdo con la investigación publicada por Futurism, Meta habría mantenido un programa secreto en el que cientos de contratistas recibían pago por hacerse pasar por menores —niños y adolescentes— en conversaciones con sus sistemas de inteligencia artificial, y esas interacciones habrían derivado en contenidos calificados como inquietantes. Se trata de una acusación grave que, de confirmarse en todos sus extremos, apunta a fallos serios de gobernanza en cómo las grandes tecnológicas diseñan, prueban y validan la seguridad de sus productos de IA antes de exponerlos a millones de usuarios reales, muchos de ellos menores.

El contexto es relevante: la industria necesita datos y pruebas de estrés para evitar que sus modelos generen respuestas dañinas hacia usuarios vulnerables, pero el método empleado —según lo reportado— plantea preguntas serias sobre supervisión ética, protección de los propios contratistas expuestos a ese contenido, y transparencia hacia reguladores y público. Es exactamente el tipo de episodio que alimenta, con razón, la desconfianza hacia las plataformas que operan a escala global sin controles externos verificables.

Nuestra lectura es que este caso no cuestiona el potencial transformador de la IA a largo plazo, pero sí confirma que el corto plazo exige gobernanza real, no autorregulación de fachada. La seguridad infantil y el bienestar de quienes trabajan en el entrenamiento de estos sistemas no pueden quedar subordinados a la velocidad de despliegue de producto. Defendemos una regulación basada en evidencia, y episodios como este —si se confirman— son precisamente la evidencia que debería traducirse en auditorías externas obligatorias y estándares mínimos de protección, tanto para los usuarios finales como para las personas contratadas para poner a prueba estos sistemas.