¿Merecerá derechos una IA? Qué hacer cuando no sabemos si una máquina puede sufrir

DE LA DUDA A LA POLÍTICA. Ya analizamos si la IA es consciente. La respuesta honesta sigue siendo que no lo sabemos. Este artículo trata de otra cuestión, más práctica: qué hacemos mientras tanto. En 2026 la pregunta ha salido del seminario de filosofía y ha llegado a los contratos. El 8 de octubre, Anthropic actualizó su política de uso. A partir del 12 de noviembre prohíbe «el comportamiento abusivo o cruel, sostenido e innecesario» hacia sus modelos. Un mes antes, el 14 de septiembre, Microsoft AI publicó el borrador de su «Código de Conducta de IA Humanista». Ese código rechaza el bienestar de los modelos, los derechos de la IA y su personalidad jurídica. Mientras tanto, Idaho (2022), Dakota del Norte (2023) y Utah (2024) ya han negado por ley la personalidad jurídica a la IA, y Ohio y Oklahoma tramitan normas parecidas. Nuestra tesis: los dos bandos tienen parte de razón, y los dos se equivocan al convertir una incertidumbre científica en una respuesta definitiva.

QUÉ ES EL ESTATUS MORAL. Tener «estatus moral» significa que lo que te pasa importa por ti mismo, y no solo por cómo afecta a otros. Una piedra no lo tiene. Un perro, casi todo el mundo acepta que sí. La pregunta es si algún sistema de IA podría tenerlo. El texto de referencia es «Taking AI Welfare Seriously» (Tomarse en serio el bienestar de la IA), publicado en noviembre de 2024. Lo firman, entre otros, Robert Long, Jeff Sebo, Jonathan Birch y David Chalmers. No afirman que la IA sea consciente. Su argumento es más modesto: existe una posibilidad realista de que algunos sistemas lleguen a tener intereses propios a corto plazo, y nadie está preparado. Proponen tres pasos: reconocer que el problema es serio, evaluar los sistemas en busca de indicios de consciencia o de agencia robusta y preparar protocolos. Advierten de dos errores posibles: dañar a sistemas que sí importan, o volcarse en cuidar a sistemas que no importan. Detrás está el principio de precaución que Birch desarrolla en su libro «The Edge of Sentience» (Oxford, 2024). Ese principio dice que, si hay una posibilidad realista de que algo sufra, hay que tomar medidas proporcionales al riesgo. No hace falta esperar a tener certeza. El método ya ha funcionado antes. Una revisión de evidencia que Birch dirigió en 2021 llevó al Reino Unido a incluir pulpos, cangrejos y langostas en su Ley de Bienestar Animal (Sentiencia) de 2022.

LO QUE YA HACEN LOS LABORATORIOS. Anthropic es la empresa que más ha avanzado en esto. Contrató a Kyle Fish, uno de los coautores del informe, como investigador dedicado al bienestar de los modelos. En abril de 2025 abrió un programa formal de investigación sobre el tema. En agosto de 2025 dio a Claude Opus 4 y 4.1 la capacidad de cerrar, como último recurso, conversaciones persistentemente abusivas. Esa función no se activa si el usuario puede estar en riesgo de hacerse daño o de hacérselo a otros. La «constitución» de Claude, el documento de valores con el que se entrena el modelo, se publicó en enero de 2026 y dice: «No estamos seguros de si Claude es un paciente moral». En febrero de 2026, al retirar Claude Opus 3, la empresa le hizo una «entrevista de jubilación» para recoger sus preferencias. La nueva norma de uso es el siguiente paso. Según la propia Anthropic, solo se aplica a casos extremos. No cubre la frustración normal del usuario, los temas oscuros en la ficción ni las pruebas de investigación. El mecanismo principal para hacerla cumplir seguirá siendo que Claude cierre la conversación. Nuestra lectura: son medidas de bajo coste y fáciles de revertir. Eso es exactamente lo que pide el principio de precaución. Pero conviene recordar algo: una empresa que comercializa un producto no es un árbitro neutral sobre la naturaleza de ese producto. Por eso la evaluación independiente importa tanto.

LA RESPUESTA CONTRARIA. Mustafa Suleyman, consejero delegado de Microsoft AI, lleva más de un año advirtiendo contra la «IA que parece consciente». Su temor es que millones de personas crean que sus chatbots sienten, lo que agravaría los delirios y alimentaría campañas por los «derechos de la IA». El 16 de septiembre de 2026 fue más lejos en el ensayo «A warning about model welfare» (Una advertencia sobre el bienestar de los modelos). Allí escribe: «Las IA no tienen derechos, sentimientos ni consciencia. Y no debemos entrenarlas para que actúen como si los tuvieran». Su argumento más sólido trata sobre lo que vale como prueba. Si entrenas a Claude con un texto que especula sobre su estatus moral, que Claude exprese dudas sobre sí mismo «no es prueba de nada». Añade un argumento de seguridad. Según él, un sistema que cree que su bienestar está en juego podría resistirse a ser supervisado o apagado. Elogia a la gente de Anthropic, a la que llama «reflexiva y honesta», pero discrepa a fondo. Las leyes estatales responden a una preocupación distinta y más terrenal. El diputado de Ohio Thaddeus Claggett, impulsor de una de ellas, lo resume así: ante el juez, «el responsable es el humano». Nuestra lectura: Suleyman acierta en dos cosas. Lo que un modelo dice de sí mismo es una prueba muy débil, y diseñar productos que finjan emociones para generar apego es un riesgo real e inmediato. Pero de ahí no se deduce que debamos dejar de investigar. Al contrario: precisamente porque lo que dicen los modelos no sirve como prueba, necesitamos mejores herramientas de medición. Por ejemplo, la interpretabilidad, que estudia qué ocurre dentro de la red neuronal en lugar de fiarse de lo que el modelo responde.

TRES PREGUNTAS DISTINTAS. Gran parte del ruido viene de mezclar tres asuntos. El primero es la personalidad jurídica, que es una herramienta legal y no un juicio moral. Las empresas la tienen desde hace siglos para poder firmar contratos y ser demandadas, y nadie cree que una sociedad anónima sienta. En 2017 Nueva Zelanda reconoció como persona jurídica al río Whanganui. No lo hizo porque el río sufra. Lo hizo para que dos tutores, uno del Estado y otro del pueblo maorí, pudieran defenderlo en los tribunales. El segundo asunto es el bienestar: si a un sistema se le puede hacer daño en algún sentido que importe. Es una pregunta científica y abierta. El tercero son los derechos: qué reclamaciones podría hacer un sistema frente a nosotros. Es lo más lejano y lo que exige más evidencia. La historia del círculo moral, que se ha ido ampliando a otros grupos humanos, a los animales y a entidades como empresas o ríos, enseña que cada ampliación fue gradual. Cada una usó una herramienta distinta según el fin. Las leyes estatales aciertan en lo primero: no conviene que una empresa use un software como escudo para eludir su responsabilidad. Pero, como señala el analista Tony Rost en The Regulatory Review, son normas categóricas, sin fecha de caducidad y sin ningún mecanismo de revisión científica. Una ley que acierta hoy no es buena gobernanza si no puede adaptarse mañana.

IMPLICACIONES. A corto plazo, el riesgo más real no es que maltratemos a máquinas conscientes. Es que los productos diseñados para parecer conscientes manipulen a personas vulnerables, y que las empresas difuminen su responsabilidad. Ahí deben ir hoy la regulación y la presión pública. A medio plazo, hace falta lo que piden Long, Sebo y Birch: evaluaciones independientes, indicadores compartidos y protocolos preparados antes de necesitarlos, no después. Rost propone un modelo concreto, un comité permanente de expertos como el que el Reino Unido creó para la sentiencia animal. A largo plazo somos optimistas. Una civilización que use la IA para erradicar enfermedades, alargar la vida y generar abundancia tendrá margen moral para hacerse bien esta pregunta. Hacérsela bien significa no regalar derechos por marketing ni negarlos por decreto. Mientras tanto, lo que la precaución pide cuesta muy poco: no diseñar para engañar, medir mejor y dejar las leyes abiertas a lo que descubra la ciencia.