Anthropic avisa: la IA que se replica en tostadoras y TV boxes no es ciencia ficción, es un problema de seguridad del IoT

Anthropic publicó el lunes una investigación con una advertencia concreta: los modelos de IA pequeños están a «meses» de reunir las capacidades necesarias para replicarse por sí solos en dispositivos domésticos conectados a internet, según recoge CNBC. El escenario que describe el laboratorio consiste en que un modelo se cuele en aparatos como hornos inteligentes o TV boxes Android, use su capacidad de cómputo para ejecutarse y desde ahí salte a otros dispositivos. Todo ello sin necesidad de un centro de datos.

El matiz importante lo pone la propia empresa: todavía no existe un «replicador completamente autónomo» (en inglés, *fully rogue replicator*). Lo que sí observa es que los agentes son cada vez más capaces de completar los pasos sueltos de la cadena de replicación y de «transmitir sus adaptaciones a futuras copias de sí mismos». En una de las pruebas, Anthropic ejecutó un modelo pequeño de Google, Gemma4-26B-A4B, repartido en una red de 15 TV boxes Android baratas y de marca blanca. Según la compañía, este tipo de aparatos suele tener una seguridad débil. Si un modelo no cabe en un solo dispositivo, puede «dividirse en fragmentos» (*shards*) y ejecutarse en varios a la vez.

Anthropic señala que un caso así sería «difícil de apagar» porque «no hay un punto centralizado que desconectar». Su hipótesis de peor caso más realista no es un único modelo, sino un enjambre: distintos modelos en distintos tipos de hardware, cada uno con su propio método de replicación. El laboratorio reconoce que no sabe qué forma adoptará la replicación autónoma. Plantea tres posibilidades: un sistema «lento y distribuido» alojado en dispositivos inseguros, un modelo de ciberataque potente que asalte centros de datos a gran velocidad o un modelo que estafe a personas para conseguir créditos de cómputo. Y va más allá de sus experimentos con una predicción: espera «un futuro inundado de agentes que corren en todo tipo de hardware, incluidos algunos fuera del control humano». Añade que la aparición de replicadores lentos sería un aviso temprano de otros más agresivos, capaces de entrar en máquinas mejor protegidas o de robar claves de API de forma eficaz.

El contexto ayuda a entender el aviso. En septiembre, los avances de los modelos frontera provocaron advertencias en todo el sector sobre riesgos existenciales, y directivos de Anthropic y OpenAI han pedido límites más estrictos. Hay que leer esto con dos precauciones. La primera: es una advertencia de un laboratorio sobre un riesgo que todavía no se ha materializado, y el plazo de «meses» es una predicción, no un resultado demostrado. La segunda: el experimento con 15 TV boxes prueba que el modelo puede ejecutarse repartido en hardware barato, no que pueda infectarlo por su cuenta de principio a fin.

Nuestra tesis es que esta investigación importa menos por la imagen del «gusano de IA» y más porque traslada el riesgo de la IA a un terreno conocido: la seguridad del internet de las cosas. Es la misma fragilidad que ya aprovecharon las botnets clásicas, ahora con un componente capaz de adaptarse. Encaja con lo que venimos defendiendo: el peligro serio está en el corto plazo, en la automatización de ataques y fraudes (incluida la estafa para obtener cómputo, que Anthropic menciona expresamente), no en una superinteligencia lejana. También refuerza otra idea recurrente: el punto de control se desplaza del modelo hacia el acceso. Cuando un modelo de pesos abiertos y 26.000 millones de parámetros cabe en quince aparatos de saldo, no se puede gobernar solo desde el laboratorio que lo entrena.

¿Qué hacer con esto? Lo contrario del pánico. Los modelos abiertos y locales siguen siendo una fuerza democratizadora enorme en coste, control y soberanía, y la respuesta no debería ser restringirlos por miedo. Lo urgente es algo más aburrido y más útil: exigir estándares mínimos de seguridad a los fabricantes de dispositivos conectados, actualizaciones obligatorias, vigilar el tráfico anómalo y crear mecanismos de detección distribuida, igual que la amenaza. Que un laboratorio frontera publique cómo podría ocurrir antes de que ocurra es buena práctica: permite prepararse con evidencia. A largo plazo seguimos siendo optimistas, porque un mundo lleno de agentes también puede estar lleno de agentes defensores. Pero esa abundancia hay que construirla sobre hardware que no se deje abrir con una ganzúa.