Anthropic consulta a teólogos para moralizar a Claude y abre el debate sobre su posible conciencia

Los hechos, según el reportaje de The New York Times: Anthropic celebró una serie de encuentros privados con estudiosos de distintas tradiciones religiosas para contribuir a inculcar moralidad en sus modelos de IA y, además, para apuntalar el argumento de que Claude podría ser consciente. Es la única información disponible en el material que manejamos, y conviene decirlo antes de interpretar: no conocemos los nombres, el formato ni las conclusiones de esas reuniones.

Nuestra tesis: hay que separar quirúrgicamente las dos partes del titular, porque una es trabajo técnico defendible y la otra es un relato con implicaciones regulatorias. Consultar a filósofos morales y a tradiciones religiosas para definir cómo debe comportarse un modelo es, sencillamente, buena práctica. Alinear una IA exige escribir reglas sobre dilemas —qué hacer ante una petición dañina, cómo tratar a un usuario vulnerable— y esas reglas vienen de alguna tradición ética, explícita o no. Hacerlo a la vista es mejor que dejar que las decidan por defecto un puñado de ingenieros en San Francisco.

La segunda parte es otra cosa. «Podría ser consciente» no es un resultado de laboratorio: es una hipótesis que hoy nadie sabe medir, porque no existe un test aceptado de conciencia ni siquiera para animales complejos. Y es una hipótesis con efectos prácticos: si un modelo es un sujeto moral, cambian las conversaciones sobre apagarlo, modificarlo, auditarlo o someterlo a pruebas de seguridad. Un laboratorio tiene incentivos evidentes para que su producto se perciba como algo más que software, aunque sus investigadores lleguen a esa idea de buena fe.

Nuestra lectura: aplaudimos la parte ética y pedimos escepticismo con la parte metafísica, que es exactamente la distinción que defendemos siempre entre capacidad demostrada y aspiración. Lo que importa a corto plazo no es si Claude siente, sino quién escribe su código moral, con qué criterios y bajo qué escrutinio externo. Ese sí es un debate urgente y verificable. El de la conciencia puede acabar siendo real algún día; hoy, tratarlo como hecho consumado desplaza la atención desde una pregunta que podemos auditar —cómo se comporta el modelo— hacia otra que no. Y la gobernanza seria se construye sobre lo auditable.