El censor que nadie eligió no era Claude: era la automatización de Meta, sin red de seguridad humana

LO QUE PASÓ, Y LO QUE NO. El 17 de octubre, la coalición No Kings celebraba su jornada «Vote Early». Según los organizadores, fueron cerca de 3.000 actos en los 50 estados. A las 13:30 (hora de Nueva York), su cuenta principal de Instagram desapareció. Según la coalición, volvió a verse hacia las 15:00, pero sus administradores no recuperaron el acceso hasta las 17:33. Meta ha dado dos explicaciones. La primera, de su portavoz Andy Stone, culpaba a un ritmo inusual de publicaciones y comentarios. Al día siguiente la corrigió: sus ingenieros habían detectado «una herramienta de Claude leyendo perfiles, publicaciones y hashtags» unas cuatro veces más rápido de lo normal, en ráfagas. Ese patrón, dijo Meta, «se parecía al tráfico de un bot». La compañía lo calificó de error y pidió disculpas. Hay que fijarse en lo que Meta no ha dicho: qué herramienta era, quién la usaba y para qué. Anthropic no ha hecho declaraciones públicas. Por eso nuestra tesis es esta: el titular «la IA censuró una protesta» describe mal lo ocurrido. Claude no decidió qué discurso podía circular. Lo decidió un sistema antibots de Meta, y nadie lo revisó a tiempo.

CÓMO MODERA UNA MÁQUINA. Conviene separar dos piezas. La primera son los sistemas de integridad, que vigilan comportamientos: velocidad de peticiones, inicios de sesión raros, patrones de bot. Actúan sin leer lo que dices. Eso fue lo que saltó aquí. La segunda es la moderación de contenidos, que juzga lo que se publica. Hoy funciona en capas. Unos clasificadores (modelos que asignan una etiqueta, como «spam» o «acoso», con un grado de confianza) filtran el gran volumen. Cada vez más, un modelo de lenguaje (LLM, la tecnología de ChatGPT o Claude) recibe la política de la empresa convertida en instrucciones y decide los casos dudosos. Los casos más delicados deberían pasar a una persona. Meta está acelerando el cambio. Según el Financial Times, los LLM ya gestionan cerca de la mitad de las revisiones de contenido y anuncios, y la meta es superar el 90% en algunas categorías. La empresa defiende que sus modelos cometen un 13% menos de errores que los revisores humanos y detectan un 10% más de infracciones. Son cifras de sus propias pruebas, sin auditoría externa. Según el mismo diario, empleados de Meta advierten de que el despliegue va demasiado rápido y de que los modelos aún retiran o reducen el alcance de contenido inofensivo.

ERRORES DISTINTOS: MENOS, PERO EN SERIE. Nuestra lectura es que una máquina no se equivoca como una persona. Un moderador humano se equivoca al azar: un mal día, un contexto que desconoce, un caso que no entiende. Un modelo es más consistente, porque aplica la misma regla siempre igual. Pero cuando la regla o el modelo fallan, el error se repite miles de veces a la vez y con el mismo sesgo. La investigación académica empieza a medirlo. Un estudio de la Universidad de Queensland (abril de 2026) encontró que los LLM juzgan el discurso de odio de forma distinta según el perfil ideológico que se les asigne, aunque su precisión global apenas cambie. Un trabajo presentado en el congreso de seguridad NDSS 2026 halló que el contenido político es el que más varía según el país y el idioma. El caso No Kings añade un tercer modo de fallo, más prosaico. Un sistema afinado para cazar bots castiga a cualquiera que navegue muy deprisa. Cada vez más personas navegan con agentes de IA, es decir, asistentes que leen y actúan en la web en su nombre. Así, un organizador que usa un agente para seguir menciones en plena campaña se parece mucho a un bot. Ese choque no es una anécdota. Va a crecer.

«LO HIZO LA IA» NO PUEDE SER UNA COARTADA. La cadena de responsabilidad aquí está clara, aunque el relato la enturbie. Meta diseñó el umbral, Meta suspendió la cuenta y Meta decidió que esta cuenta no tuviera protección humana. Su propio Consejo Asesor de Contenido (Oversight Board), que la empresa financia, dijo el 20 de octubre que el error «debería haberlo detectado» su sistema de prevención de fallos. También preguntó por qué las cuentas de No Kings no estaban en «cross-check», el programa que da revisión humana a cuentas cívicas relevantes. Mencionar a Claude en el comunicado desplaza el foco hacia un tercero que no tomó ninguna decisión. Ya lo vimos con los despidos: «lo decidió el algoritmo» suena a fatalidad técnica, pero alguien eligió desplegarlo así. No afirmamos que Meta actuara con intención política. No hay pruebas de eso, y la cuenta se restauró de forma automática en una hora. Pero la coalición, 14 fiscales generales estatales liderados por el de Connecticut, William Tong, y el senador Chris Van Hollen piden lo mismo: saber si intervino algún humano, qué otras cuentas electorales se han restringido y cómo se distingue la actividad política legítima del tráfico automatizado. Los fiscales han dado de plazo hasta el 29 de octubre. Son las preguntas correctas.

QUÉ DEBERÍA CAMBIAR. En el corto plazo, el riesgo es real y tiene fecha. A días de unas elecciones, una plataforma que automatiza el 90% de sus decisiones puede silenciar en minutos a quien organiza el voto. Y puede hacerlo sin que nadie lo haya querido. Proponemos tres exigencias concretas. La primera: protección humana obligatoria para cuentas cívicas y electorales en periodos de campaña. La segunda: transparencia sobre las tasas de error del sistema automático, auditadas por terceros y no solo publicadas por la empresa. La Ley de Servicios Digitales europea ya obliga a explicar cada decisión y a ofrecer recurso, y Estados Unidos no tiene nada equivalente. La tercera: reglas claras para el tráfico de agentes de IA legítimos, que pronto será normal. En el largo plazo somos optimistas. La moderación con IA puede ser mejor que la actual: más rápida, más consistente y, sobre todo, capaz de explicar por qué toma cada decisión. Un modelo de lenguaje puede razonar su veredicto, cosa que un clasificador opaco no hace. Bien gobernada, liberaría a miles de moderadores del trabajo más traumático de internet. Pero eso solo ocurrirá si la responsabilidad no se automatiza junto con la decisión. El censor que nadie eligió no es la IA. Es la empresa que decide dónde no poner a una persona.