Las dimisiones en DeepMind señalan el punto débil de la IA militar: salvaguardas que nadie puede auditar

Varios empleados de Google DeepMind, la división de investigación en IA de Google, han dimitido por los contratos militares de la empresa con Estados Unidos. Otros se preparan para hacer lo mismo, según una investigación de la BBC publicada el miércoles y recogida por Ynetnews. El detonante es el acuerdo firmado este año con el Pentágono. Permite usar los modelos de Google para «cualquier fin gubernamental lícito», también en operaciones clasificadas. Nuestra tesis: el debate de fondo ya no es si una tecnológica debe trabajar con Defensa. Es si una salvaguarda escrita en un contrato vale algo cuando el desarrollador pierde de vista su tecnología.

Los testimonios tienen nombre. Sofia Liguori, ingeniera de investigación en Londres, se marchó esta semana tras tres años en Google. Dijo a la BBC que sentía «vergüenza» de la deriva militar de la compañía. También describió una cultura interna en la que la gente evita poner objeciones por miedo a represalias o a perjudicar su carrera. El investigador Andreas Kirsch dimitió a principios de mes. Según él, la gobernanza interna de Google no basta para un despliegue responsable en entornos militares clasificados. Añadió que la empresa tiene poca visibilidad sobre lo que ocurre con su tecnología una vez llega al Pentágono, y poca capacidad para frenar usos que considere inapropiados. Ambos dudan además de la fiabilidad técnica: Kirsch sostiene que los modelos actuales no son lo bastante robustos ni están entrenados para decisiones en las que hay vidas en juego.

Google responde que sus contratos cumplen sus principios de IA, que incluyen supervisión humana y respeto al derecho internacional y a los derechos humanos. El acuerdo recoge límites explícitos. Prohíbe la vigilancia masiva doméstica y las armas autónomas, incluida la selección de objetivos, sin «supervisión y control humanos apropiados». El problema está en esa palabra, «apropiados», y en quién la interpreta. Los críticos citados por la BBC dudan de que esas cláusulas puedan hacerse cumplir en operaciones secretas controladas por agencias del Gobierno y no por el desarrollador.

El contexto ayuda a medir la presión. El secretario de Defensa, Pete Hegseth, ha prometido convertir al ejército estadounidense en una «fuerza de combate con la IA como prioridad». Google no está sola: OpenAI, Amazon, Microsoft, SpaceX, Oracle y Nvidia también han firmado acuerdos relevantes con el Pentágono este año. Un ejemplo es Maven Smart System, la plataforma de Palantir que integra modelos de varias empresas para organizar inteligencia y ayudar a identificar posibles objetivos. Ahí aparece la tensión clave. El teniente general retirado Jack Shanahan, que dirigió el Proyecto Maven, cree que el Pentágono prioriza desplegar rápido y a gran escala, quizá a costa de pruebas y evaluaciones rigurosas. El subsecretario de Defensa Emil Michael defiende lo contrario: en la era de la IA, ganar depende de la velocidad. A todo ello se suman las protestas por el contrato de nube de 1.200 millones de dólares de Google y Amazon con Israel.

Nuestra lectura: este episodio encaja con lo que llevamos tiempo defendiendo sobre la IA de doble uso. Un modelo de frontera ya es un activo estratégico, y los Estados van a usarlo, con o sin el permiso de sus ingenieros. Pedir que las empresas se queden fuera de Defensa es poco realista. Lo exigible es que las salvaguardas sean verificables: auditorías independientes, registros de uso y límites técnicos, no solo contractuales. También tiempo suficiente para que un humano revise de verdad cada recomendación de la máquina. «Supervisión humana» que se reduce a firmar en segundos lo que propone el sistema no es supervisión. Conviene no exagerar: según la información publicada, son unas pocas dimisiones, no un éxodo. Pero quienes se van son las personas que mejor conocen los límites técnicos de estos sistemas, y su advertencia sobre la fiabilidad merece más peso que el entusiasmo de los departamentos de compras.

Hacia dónde va esto. A corto plazo, la carrera por la velocidad militar tensará la cultura interna de los laboratorios y pondrá a prueba sus principios publicados. A largo plazo seguimos siendo optimistas: la misma IA que hoy se integra en sistemas de selección de objetivos es la que puede acelerar la medicina y la ciencia. Que el rumbo se incline hacia ahí depende de construir ahora una gobernanza basada en evidencia y en control real. Las declaraciones de intenciones no bastan. El indicador que conviene vigilar es si alguien, dentro o fuera de Google, llega a tener acceso para comprobar cómo se usan estos modelos en operaciones clasificadas.