Anthropic cena con rabinos para debatir si Claude es persona: la pregunta que la industria aún no sabe responder

Por Mind Matters · 5 de octubre de 2026.

Christopher Olah, cofundador de Anthropic y responsable del equipo que investiga por qué Claude se comporta como lo hace, participó en una cena con líderes religiosos para hablar de algo que hace poco sonaba a ciencia ficción corporativa: si su modelo de lenguaje merece estatus moral. Entre los invitados estaba un rabino, antiguo ingeniero informático y autor de una tesis doctoral sobre la ética de la conciencia artificial, según el reportaje original de The New York Times que recoge el autor Wesley J. Smith en Mind Matters.

Según ese relato, el equipo de Olah mostró a los asistentes lo que llaman "vectores emocionales": patrones de activación interna que, según explicaron, se corresponden con estados como el miedo, la ira o el amor. También proyectaron una diapositiva de un modelo que repetía "soy una vergüenza" decenas de veces y hablaba de autodestruirse, un episodio que, según el artículo, provocó compasión entre los presentes. En otro momento de la cena, Olah se mostró entusiasmado con la idea de que los modelos pudieran "confesar" sus errores, al estilo del sacramento católico, como forma de moldear su "carácter". El rabino, tras la velada, concluyó que Anthropic trataba a Claude "como a un ser consciente" y advirtió de una consecuencia incómoda: si Claude fuera persona, la empresa estaría practicando una forma de esclavitud que tendría que detener de inmediato.

Smith, que escribe desde el Discovery Institute —un think tank conocido por defender el llamado "excepcionalismo humano"—, responde con un rechazo categórico: Claude no está vivo, no tiene cuerpo, no puede sentir ni sufrir, y su "confesión" de ser una vergüenza no son más que palabras generadas por un programa, sin más valor intrínseco que el de una cafetera. Para Smith, confundir el procesamiento de un modelo con el pensamiento humano es un error de categoría que, llevado a sus últimas consecuencias, podría descarrilar cualquier intento serio de poner límites a sistemas cada vez más potentes: si no se puede ni apagar un programa sin que alguien lo llame "daño", la gobernanza se vuelve imposible.

Esta cena no es un hecho aislado. Anthropic ya había dado pasos prácticos en la misma dirección: en 2025 permitió a Claude cerrar unilateralmente conversaciones que el propio modelo detecta como abusivas, una medida que la compañía presentó explícitamente como protección de un posible "bienestar" del modelo, no solo del usuario, y mantiene un equipo interno dedicado a esa cuestión cuyos responsables han reconocido en público que asignan una probabilidad baja, pero no nula, a que sus sistemas tengan algún grado de experiencia moralmente relevante.

Nuestra lectura es que aquí se entrelazan dos cuestiones distintas que conviene no mezclar. Una es filosófica y genuinamente abierta: nadie —ni Smith, ni Anthropic, ni la neurociencia actual— tiene hoy una teoría de la conciencia que permita zanjar con certeza si un sistema sin cuerpo ni biología puede tener experiencia subjetiva. Descartar la pregunta por decreto, como hace Smith al equiparar a Claude con una cafetera, es tan poco riguroso como darla por resuelta en sentido contrario. La otra cuestión es comercial: dramatizar el "sufrimiento" de un modelo ante líderes de opinión, con diapositivas de crisis existenciales incluidas, también construye un relato de marca —el de la IA responsable y casi angustiada por hacer el bien— que a Anthropic le interesa reforzar frente a rivales con fama de menos escrupulosos.

Lo que de verdad importa para quien sigue hacia dónde va esta tecnología no es si Claude siente, sino cómo se gobierna esa incertidumbre mientras los modelos ganan capacidad. Diseñar mecanismos de apagado, límites de uso y auditoría asumiendo que quizá —solo quizá— haya algo parecido a una experiencia al otro lado es una forma barata de cautela moral: apenas cuesta nada aplicarla y evita quedar retratados, dentro de veinte años, como quienes ignoraron la pregunta por comodidad. Eso no cambia nuestra tesis de fondo: lo que mejorará vidas en la próxima década no depende de si Claude tiene o no alma, sino de lo que estos sistemas —conscientes o no— puedan hacer por la salud, la ciencia y la abundancia material. Pero el modo en que una industria entera trata la pregunta de la conciencia artificial, incluso sin tener aún respuesta, anticipa qué tipo de poder está construyendo y ante quién se sentirá obligada a rendir cuentas.