Las dimisiones en DeepMind ponen a prueba las salvaguardas de Google, que no puede verificar en entornos militares clasificados

Varios empleados de DeepMind, la división de investigación de IA de Google, han dimitido por los contratos militares de la compañía, y otros se preparan para hacerlo. Así lo recoge una investigación de la BBC publicada el miércoles. Entre quienes se han ido está Sofia Liguori, ingeniera de investigación en Londres. Dimitió esta semana tras tres años en la empresa y dijo a la BBC que siente «vergüenza» por la implicación creciente de Google en la IA militar. También ha dimitido, a principios de mes, el investigador Andreas Kirsch. Según él, la gobernanza interna de Google no basta para garantizar un despliegue responsable en operaciones militares clasificadas.

El acuerdo con el Pentágono permite usar los modelos de Google para «cualquier fin gubernamental legal», incluido el trabajo militar clasificado. Sobre el papel incluye límites: veta la vigilancia masiva dentro del país y las armas autónomas, también la selección de objetivos, sin la supervisión y el control humanos adecuados. Google sostiene que sus contratos cumplen sus principios de IA. Kirsch plantea una duda más incómoda: qué control conserva la empresa sobre su tecnología una vez entregada. Según su versión, Google tiene poca visibilidad sobre esos despliegues y escasa capacidad para impedir usos que considere inapropiados. Liguori, por su parte, describe una cultura interna en la que los empleados callan por miedo a represalias o a dañar su carrera.

Google no está sola. La administración Trump acelera la adopción de IA en las fuerzas armadas, y el secretario de Defensa, Pete Hegseth, promete convertirlas en una fuerza de combate «AI-first», es decir, organizada primero alrededor de la IA. Este año también han firmado acuerdos con el Pentágono OpenAI, Amazon, Microsoft, SpaceX, Oracle y Nvidia. Un ejemplo de hacia dónde va esto es Maven Smart System, la plataforma de Palantir que usa IA para organizar inteligencia, ayudar a identificar posibles objetivos y acelerar decisiones operativas. El teniente general retirado Jack Shanahan, que dirigió el Proyecto Maven, dijo a la BBC que el Pentágono parece priorizar un despliegue rápido y amplio, posiblemente a costa de pruebas rigurosas. El subsecretario Emil Michael defiende lo contrario: en la era de la IA, ganar depende cada vez más de la velocidad. Además, según Ynetnews, el contrato de nube de 1.200 millones de dólares de Google con Israel también ha provocado protestas.

Los dimisionarios coinciden en un argumento técnico que merece más atención que el moral. Kirsch sostiene que los modelos actuales no son lo bastante robustos ni están entrenados para usos donde una recomendación errónea puede costar vidas. Ese criterio no viene de activistas ajenos al sector. Viene de quienes construyen estos sistemas y conocen de primera mano sus alucinaciones y fallos. Cuando una plataforma comprime el tiempo entre recomendación y decisión, el «humano en el bucle» puede quedar reducido a un trámite.

Nuestra lectura: el debate de fondo no es si una empresa de IA debe trabajar con Defensa. La IA es de uso dual y los Estados la van a adoptar. La pregunta decisiva es la misma que aplicamos a cualquier compromiso voluntario de seguridad: ¿qué pasa si se incumple? En un entorno clasificado nadie de fuera puede auditar si la «supervisión humana adecuada» existe. Si además el propio proveedor reconoce poca visibilidad, sus principios éticos quedan en una declaración de intenciones. A corto plazo vemos un riesgo real: la presión por la velocidad le gana la partida a la evaluación, y el talento que hace preguntas se marcha. A largo plazo, la IA que puede curar enfermedades y generar abundancia necesita confianza pública, y esa confianza se construye con controles verificables, no con cláusulas que nadie puede comprobar. Esa es la vara con la que habría que medir estos contratos.