Un detector de deepfakes en árabe acierta al 99% con noticias y falla casi a cara o cruz con comunicados oficiales

Por Zendoric · 8 de octubre de 2026.

Investigadores de la Universidad Rey Fahd de Petróleo y Minerales (KFUPM) y la Universidad Princesa Nourah bint Abdulrahman, en Arabia Saudí, han publicado ArabiDeepfake, uno de los intentos más completos hasta la fecha para medir si un sistema de IA puede distinguir texto en árabe escrito por una persona del generado o manipulado por un modelo de lenguaje. El estudio, firmado por Amal Sunba y Tarek Helmy y publicado en la revista Neural Computing and Applications, destapa una grieta poco explorada hasta ahora: el mismo detector puede acertar el 99% de las veces con noticias falsas y desplomarse al 49% -prácticamente un lanzamiento de moneda- cuando el texto imita comunicados gubernamentales.

El conjunto de datos cubre cinco dominios de alto riesgo -noticias, comunicaciones gubernamentales, redes sociales, reseñas de productos y comercio electrónico- y etiqueta cada muestra según el tipo de engaño: alteración de hechos, omisión de información o cambio de tono satírico. Construir un dataset así no es trivial: con modelos de lenguaje entrenados en volúmenes masivos de texto web, cada vez es más difícil garantizar que una muestra «auténtica» no haya sido en realidad generada por una IA. Los autores lo resolvieron limitando los ejemplos genuinos a material anterior a la popularización de ChatGPT, y añadiendo filtros de idioma, deduplicación y revisión humana. Para detectar, usaron MARBERTv2, un modelo transformador (una arquitectura de red neuronal especializada en entender el significado de un texto completo, no solo palabra a palabra) entrenado específicamente en árabe dialectal y formal, una decisión relevante porque el árabe escrito oscila entre el árabe estándar moderno de la prensa y los dialectos regionales de las redes sociales, y un detector afinado para uno puede ser ciego al otro.

El hallazgo más importante no es el 0,99 en noticias ni el 0,95 en redes sociales -cifras que cualquier laboratorio enseñaría con orgullo-, sino lo que ocurre cuando el detector cruza de dominio. Los investigadores compararon un modelo único entrenado con los cinco dominios mezclados frente a un comité de cinco modelos especializados, uno por dominio. Según el estudio, el modelo mezclado superó al comité especializado en cuatro de los cinco escenarios de transferencia entre dominios, con significancia estadística confirmada mediante el test de McNemar (p<0,001) e intervalos de confianza del 95%. Es decir: exponer a un solo modelo a estilos de escritura variados produjo representaciones más robustas de qué es una manipulación que sumar especialistas. El estudio añade un matiz incómodo: los engaños que alteran el contenido -cambiar una cifra, omitir un dato- resultaron sistemáticamente más difíciles de detectar que los que solo cambian el tono o el registro. Tiene sentido: un detector puede aprender patrones de estilo, pero pillar que un número se ha falseado en una noticia exige algo parecido a la verificación de hechos, no a la clasificación de estilo.

Como contexto del sector, la inmensa mayoría de la investigación en detección de texto generado por IA se ha concentrado en inglés, pese a que el árabe lo hablan varios cientos de millones de personas. ArabiDeepfake es uno de los intentos más serios de cerrar ese hueco con rigor metodológico -separaciones de datos sin fugas, test balanceados, controles de contaminación-, un estándar que buena parte de los recursos anteriores en árabe no cumplía. El proyecto, según el propio artículo, se desarrolló en colaboración entre KFUPM y la Autoridad General para el Desarrollo de la Defensa de Arabia Saudí, con financiación de un programa de defensa; el dataset no es público y solo se compartirá bajo petición razonada y con permiso de las partes implicadas, un modelo de acceso restringido habitual en investigación de seguridad de doble uso.

Nuestra lectura: el dato que debería quedarse grabado es el salto del 99% al 49%, no la media. Ya lo hemos visto en ciberseguridad con los modelos de lenguaje -benchmarks saturados que transmiten una falsa sensación de problema resuelto mientras las tareas que de verdad importan siguen sin dominarse- y aquí se repite el mismo patrón con la detección de texto manipulado: un sistema que luce casi perfecto frente a noticias falsas puede ser papel mojado frente a un comunicado oficial falsificado, que es justo el tipo de contenido con más capacidad de causar daño político o financiero. A corto plazo esto es una mala noticia que no conviene maquillar: a medida que los modelos generativos mejoran en árabe y en otras lenguas distintas del inglés, la ventana para distinguir texto humano de texto fabricado se estrecha, y la capacidad de detección no avanza al mismo ritmo que la de generación. El hallazgo sobre las alteraciones de contenido es el que más debería preocupar: lo más peligroso -cambiar un hecho conservando un estilo creíble- es precisamente lo que peor detectan los sistemas actuales, construidos para reconocer patrones de estilo y no para verificar hechos.

A medio plazo, sin embargo, el propio estudio apunta hacia la salida: no se trata de construir detectores especializados por dominio, sino sistemas expuestos a la mayor diversidad posible de registros, y de evolucionar de la clasificación de estilo hacia una verificación de hechos más parecida al fact-checking automatizado que a la detección de texto como tal. Es un trabajo poco vistoso -nadie celebra un paper sobre puntuaciones F1 por dominio-, pero es precisamente el tipo de investigación metódica que determinará si, dentro de unos años, un comunicado gubernamental falsificado en árabe se detecta en segundos o se hace viral antes de que alguien lo desmienta.