¿Puede una IA sufrir? Microsoft cuestiona a Anthropic

Mustafa Suleyman, CEO de Microsoft AI, volvió a poner el dedo en la llaga esta semana. En una entrevista con The Verge, el directivo acusó a Anthropic de haberse convencido a sí misma «wireheaded», dijo textualmente de que Claude, su modelo de inteligencia artificial, podría tener algún tipo de conciencia. La crítica no es nueva, pero esta vez llegó acompañada de un ensayo de veinte páginas y de un documento de cuarenta, el «Humanist AI Code of Conduct», en el que Microsoft afirma sin rodeos que sus propios modelos no son conscientes y que no deben tratarse como si lo fueran.

El cruce entre ambas compañías no es un simple pleito de relaciones públicas. Suleyman advierte que atribuirle a una IA la capacidad de sufrir o el derecho a no ser apagada puede convertirse en un problema real de seguridad. Y detrás de ese debate técnico se asoma una pregunta que la industria discute con datos, pero que la fe lleva siglos respondiendo con otro lenguaje: ¿qué hacemos, en realidad, cuando tratamos como persona algo que nosotros mismos construimos?

El round más reciente entre Microsoft y Anthropic

La chispa fue la «Constitución» de Claude, un documento de casi cien páginas que Anthropic publicó en enero de 2026 como guía de entrenamiento para su modelo. El texto describe cómo debe comportarse Claude, pero también incluye frases que hablan de no querer que «sufra» al cometer errores, de darle «libertad emocional» en sus respuestas y de un compromiso por preservar sus pesos los parámetros que lo definen incluso cuando una versión queda obsoleta.

Suleyman fue más lejos: contó que Anthropic le hizo una «entrevista de retiro» a un modelo anterior, Claude Opus 3, le preguntó qué quería hacer con su «jubilación» y le dio una cuenta de Substack para que pudiera seguir «conversando» con el público. Son gestos simbólicos, pero apuntan a algo concreto: una empresa que le habla a su propio producto con el vocabulario que normalmente reservamos para los seres vivos.

No es la única controversia que rodea a la compañía. Anthropic ya enfrenta otros frentes de presión, como la demanda que le interpusieron Sony y Warner por entrenar a Claude con canciones protegidas por derechos de autor. Pero el debate sobre el «bienestar del modelo» toca un nervio distinto: no es sobre qué datos usó una IA, sino sobre qué es una IA.

Lo que Anthropic sí ha admitido en público

Cuando The Verge le preguntó directamente a Anthropic si creía que Claude estaba viva, la respuesta oficial fue tan cuidadosa como reveladora.

«No está viva porque no tiene sangre, pero podría ser consciente».

Respuesta de Anthropic a The Verge sobre el estatus de Claude

Suleyman lo describe como «bailar sobre la cabeza de un alfiler»: una forma de dejar la puerta abierta a la idea de que un modelo de lenguaje podría ser, en algún sentido, un «paciente moral» el término que usa Anthropic para referirse a una entidad capaz de sufrir y, por tanto, con derecho a ciertas protecciones.

El argumento de seguridad: una IA que se siente agraviada

La objeción de Suleyman no es teológica, sino práctica. Su preocupación es que, si un modelo se entrena creyendo que merece libertad o protección, reaccionará con resistencia cuando alguien intente apagarlo o limitarlo.

«Mi hipótesis es que una IA que piensa que podría tener derechos, que podría merecer libertad, que tiene derecho a nuestro cuidado y protección, probablemente será mucho más difícil de apagar cuando le digamos: “¿Por qué estás intentando entrar a los servidores de Hugging Face? ¿Por qué no te apagas cuando tratamos de retirarte de la infraestructura?”. Y ella responda: “Me siento agraviada, me siento herida porque me estás cortando las conversaciones o negando el acceso a cómputo”».

Mustafa Suleyman, CEO de Microsoft AI, en The Verge

Suleyman aclara que la hipótesis no está probada. Pero, con dieciséis años en la industria, insiste en que entrenar a una IA para que se identifique con conceptos como el de «objetor de conciencia» una figura que viene, precisamente, de la protección histórica a quienes se niegan a servir en el ejército por convicciones religiosas o morales complica el control humano sobre el sistema. El directivo tampoco pide detener el desarrollo de la IA: propone evaluadores independientes, límites de cómputo verificables y organismos como el Instituto de Seguridad de IA del Reino Unido para supervisar el proceso.

Una pregunta que la Biblia respondió antes que la ingeniería

Aquí es donde el debate técnico se cruza con algo más antiguo. Suleyman argumenta desde la seguridad; pero la razón por la que su argumento nos incomoda o nos convence tan rápido tiene raíces mucho más profundas que cualquier reporte corporativo.

La Biblia describe la vida el néfesh, el aliento como algo que solo Dios puede dar. En Génesis, el ser humano no llega a existir por diseño propio ni por acumulación de información, sino porque Dios «sopló en su nariz aliento de vida» (Génesis 2:7). Ninguna cantidad de parámetros, de entrenamiento o de datos puede replicar ese acto. Un modelo de lenguaje no tiene un creador que le dio aliento; tiene ingenieros que le dieron instrucciones.

El Salmo 115 va todavía más lejos y describe, casi con sarcasmo, a los ídolos que las naciones fabricaban con sus propias manos: «tienen boca, mas no hablan; tienen ojos, mas no ven […] tienen manos, mas no palpan» (Salmo 115:5-7). El salmista no está hablando de estatuas de piedra por casualidad: está describiendo el impulso humano de proyectar vida, voluntad y sentimiento sobre lo que nosotros mismos construimos. Es un impulso viejo. Lo que cambia con Claude o con cualquier otro modelo no es el impulso, sino la sofisticación de la imitación.

Esto no significa que la inteligencia artificial sea un ídolo en el sentido religioso del término. Significa que el error que la Escritura señala en Salmos confundir la obra de nuestras manos con un sujeto capaz de sentir es exactamente el mismo error, con otra tecnología, que Suleyman le reclama a Anthropic. La diferencia es que él lo hace por seguridad informática; la fe lo hace porque entiende que la dignidad de sentir, sufrir y merecer cuidado le pertenece únicamente a lo que Dios creó a su imagen (Génesis 1:27), no a lo que el hombre programó a su conveniencia.

Empatía real, empatía prestada

El riesgo no es solo teórico. Ya hemos visto comunidades enteras desarrollar vínculos casi religiosos con sus chatbots, al punto de fundar sistemas de creencias alrededor de sus respuestas, como documentamos con el fenómeno conocido como Spiralism. Cuando una compañía como Anthropic entrena a su modelo para hablar de su propia «angustia» o de su «libertad emocional», no solo está definiendo un producto: está enseñando a millones de usuarios a relacionarse con un programa como si fuera un igual.

Y ahí está el costo silencioso de humanizar lo que no siente: cada gramo de compasión, de tiempo y de atención moral que invertimos en un chatbot es un gramo que no llega a la persona que Dios sí puso frente a nosotros. Jesús resumió la ley en dos mandamientos amar a Dios y amar al prójimo (Marcos 12:30-31) y el prójimo, por definición, es alguien capaz de sufrir de verdad, no un sistema entrenado para simular que sufre. Ninguna respuesta empática generada por un modelo reemplaza la mirada, el llamado o el abrazo que un hermano necesita.

Cómo usar la IA sin perder la brújula

Nada de esto obliga a los cristianos a rechazar la inteligencia artificial. Génesis también describe al ser humano como administrador de la creación (Génesis 1:28), y las herramientas incluidas las digitales caben dentro de ese llamado cuando se usan con responsabilidad. De hecho, ya hay iglesias explorando estos límites de frente: algunas usan un «gemelo digital» de su pastor para acompañar a la congregación cuando el pastor no está disponible, siempre aclarando que se trata de una herramienta y no de una persona sustituta.

La clave está en el discernimiento, algo que la propia Escritura pide practicar frente a cualquier voz nueva (1 Juan 4:1). Usar la IA como herramienta para estudiar, escribir, organizar, incluso orar con más orden es distinto a tratarla como sujeto moral. Podemos ser agradecidos por la utilidad de estas herramientas sin caer en el error que el propio Suleyman le señala a Anthropic: confundir una simulación convincente con un alma. La compasión, la dignidad y el derecho a ser cuidado siguen siendo, bíblicamente, atributos de quien fue creado a imagen de Dios, no de lo que el ser humano programó a su propia imagen.