Deepfakes, sesgo y la pérdida del contacto humano: lo que quita el sueño a la salud sobre la IA

Por Zendoric · 8 de septiembre de 2026.

El material de partida es modesto y conviene decirlo así: se trata de un episodio de recopilación ('highlights') del podcast de KFF 'The Business of Health with Chip Kahn', publicado por American Enterprise Institute (AEI), donde su presentador —Charles N. Kahn III, Visiting Senior Fellow de AEI— cierra cada entrega con la misma pregunta a sus invitados: ¿qué te quita el sueño? Este episodio reúne varias de esas respuestas centradas en inteligencia artificial y salud. Según recoge la propia AEI, los temas que emergen son los deepfakes y la desinformación, el sesgo y el riesgo de que la tecnología erosione la conexión humana que sostiene el acto de cuidar.

El podcast forma parte de una serie más amplia que la propia AEI enlaza junto a este episodio: entregas recientes han sentado a la mesa a Michelle Mello, profesora de Derecho y Medicina en Stanford y codirectora de su laboratorio de evaluación ética de IA sanitaria, para hablar de las barreras ('guardrails') que debe tener la IA en salud; a Caroline Pearson, directora ejecutiva del Peterson Health Technology Institute, sobre quién se beneficia realmente cuando la IA entra en el back-office administrativo de la sanidad; y a Seema Verma, exadministradora de los Centros de Servicios de Medicare y Medicaid (CMS) y hoy directiva de Oracle Health, sobre la reconfiguración de los historiales clínicos electrónicos. El episodio que nos ocupa funciona como resumen de ese hilo conductor, no como pieza nueva de reporterismo.

Que estas preocupaciones vengan de gente que lleva la sanidad estadounidense por dentro —académicos, gestores del sector y exfuncionarios de Medicare, a juzgar por los invitados que la propia serie enumera— importa más que el contenido en sí. No son activistas alarmados desde fuera: son quienes tienen que implementar la IA mañana por la mañana en un hospital real, con pacientes reales y responsabilidad legal real. Que su lista de miedos incluya algo tan poco técnico como 'perder el contacto humano' es revelador: el problema no es solo si el algoritmo acierta el diagnóstico, es si el sistema sigue tratando a la persona como persona.

Esto encaja con lo que venimos señalando en Zendoric sobre el despliegue sanitario de la IA: el corto plazo es de fricción real. El sesgo algorítmico en modelos entrenados con datos históricos desiguales puede perpetuar disparidades ya existentes en el acceso a la atención; los deepfakes y la desinformación generada por IA amenazan con contaminar la relación de confianza médico-paciente antes incluso de que esa relación empiece; y la automatización administrativa, aunque libere tiempo de médicos y enfermeras, puede terminar sirviendo más a la cuenta de resultados de quien la implanta que al paciente —la pregunta de a quién beneficia realmente es justo la que plantea la entrega de la serie con Pearson.

Nuestra lectura es que estas voces internas hacen un trabajo necesario de vigilancia mientras la tecnología madura. La promesa de fondo —diagnósticos más precisos y tempranos, medicina personalizada, alivio de la carga administrativa que hoy quema a médicos y enfermeras— sigue en pie y es la que, a largo plazo, puede acercarnos a una sanidad que detecte enfermedades antes de que sean graves y libere recursos humanos para el cuidado que solo puede dar una persona. Pero esa promesa solo se cumple si el sector no pierde de vista, en el camino, las mismas cosas que hoy quitan el sueño a quienes lo dirigen: el sesgo, la desinformación y el riesgo de deshumanizar precisamente aquello que se supone que la tecnología debía aliviar.