La inteligencia artificial ante la pregunta por la persona

Resumen

El desarrollo de los sistemas de inteligencia artificial plantea, junto a sus desafíos técnicos, regulatorios y clínicos, una pregunta filosófica de fondo: si la complejidad funcional de estos sistemas puede aproximarse, o incluso equivaler, a la subjetividad personal. Este artículo examina esa cuestión a partir del discurso pronunciado por Christopher Olah, cofundador de Anthropic, durante la presentación de la encíclica Magnifica Humanitas de León XIV (2026). Opera desde la antropología clásica y personalista, cuyos presupuestos se explicitan y se contrastan con los de las posiciones funcionalistas y emergentistas. Se argumenta que la tesis emergentista —según la cual la subjetividad podría surgir de sistemas con suficiente complejidad funcional— no ha demostrado el paso decisivo desde la función al sujeto, y que este problema afecta también a las alternativas funcionalistas y emergentistas, que operan desde presupuestos filosóficos propios. Se proponen cinco distinciones conceptuales para ordenar el debate, y se examinan consecuencias bioéticas que en su mayor parte se sostienen con independencia de la resolución de las disputas ontológicas.

1. Una escena reveladora

El 25 de mayo de 2026, en la Sala del Sínodo del Vaticano, Christopher Olah, cofundador de Anthropic y uno de los investigadores más influyentes en interpretabilidad de redes neuronales, tomó la palabra durante la presentación de Magnifica Humanitas, la primera encíclica del Papa León XIV, dedicada a la custodia de la persona humana en la era de la inteligencia artificial. La escena concentraba una tensión que va más allá del protocolo: un investigador situado en la frontera del conocimiento técnico dialogaba con la institución que, durante siglos, ha custodiado la pregunta por el ser humano.

Olah no pronunció un discurso triunfalista. Reconoció que los laboratorios de IA frontera —incluido el suyo— operan bajo presiones comerciales, geopolíticas e institucionales que pueden entrar en conflicto con hacer lo correcto, y pidió la intervención de voces externas capaces de incomodar a la industria (Olah, 2026). Ese gesto merece reconocimiento. Sin embargo, el punto más delicado de su intervención no estaba en el diagnóstico institucional, sino en la descripción que ofreció de los propios sistemas. Afirmó que los modelos de IA no se construyen como un puente o un avión, sino que se «cultivan» sobre arquitecturas modeladas en el cerebro y alimentadas por una herencia inmensa de lenguaje y pensamiento humano. Añadió que su equipo encuentra, dentro de esos modelos, estructuras que reflejan resultados de la neurociencia humana, evidencia de autorreferencia, y estados internos que «funcionalmente espejean» la alegría, la satisfacción, el miedo, el duelo y el malestar. Concluyó con una declaración de honestidad filosófica: «No sé qué significa eso» (Olah, 2026).

Esa frase final es la más importante del discurso. Y también la más problemática. Porque en el tránsito desde la descripción técnica hasta esa apertura de sentido se cruza, sin argumentarlo, una línea que la bioética no puede ignorar. La cuestión no es solo especulativa. De ella dependen decisiones sobre diseño, regulación, acompañamiento clínico, sustitución de vínculos humanos y atribución de estatuto moral a sistemas artificiales.

2. Presupuestos filosóficos y simetría de las posiciones

Toda reflexión sobre la subjetividad artificial opera desde compromisos filosóficos previos. Hacerlos explícitos no es una concesión de debilidad; es una exigencia de honestidad intelectual que vale para todas las posiciones en juego.

Este artículo parte de la antropología clásica y personalista, que concibe a la persona como un sujeto corpóreo y espiritual, cuya dignidad no se deriva de sus funciones sino de su modo de ser. Esa tradición no es uniforme —comprende desde Aristóteles y Tomás de Aquino hasta las formulaciones contemporáneas del personalismo— pero converge en un punto: la persona no se define por lo que produce o procesa, sino por lo que es. Sus raíces son filosóficas antes de ser teológicas, aunque la tradición cristiana las haya desarrollado con particular profundidad.

La antropología clásica tampoco parte de un punto neutro. Reconoce como dato primero la experiencia vivida del yo: la libertad que se sabe responsable, el cuerpo que no solo se posee sino que se habita, la relación con otros, la culpa, la promesa, el amor y el sufrimiento. Su límite no está en carecer de presupuestos, sino en que esos presupuestos deben ser explicitados y defendidos. Pero su punto de partida no es deducir la conciencia desde funciones observables, sino acoger la experiencia originaria de una subjetividad que se sabe a sí misma viviendo.

Frente a esta posición, la alternativa más influyente en la filosofía de la mente contemporánea es el funcionalismo. En sus formulaciones clásicas, el funcionalismo sostiene que los estados mentales se definen por sus roles causales: sus relaciones con los estímulos de entrada, con otros estados internos y con las conductas de salida. Bajo esta premisa, lo que importa no es el sustrato físico de un sistema, sino su organización funcional. Si un sistema digital realiza las funciones adecuadas, tiene, en principio, los estados mentales correspondientes.

El funcionalismo tiene a su favor la plausibilidad de una tesis de sustrato-independencia que parece coherente con la intuición de que lo mental no es idéntico a lo neuronal. Pero sus presupuestos son tan comprometidos como los de la antropología clásica, aunque frecuentemente menos explicitados. Definir la conciencia como cierto tipo de organización funcional y concluir que todo sistema con esa organización es consciente no es un descubrimiento empírico: es un movimiento filosófico que presupone precisamente lo que debería demostrar, a saber, que la organización funcional es condición suficiente de la experiencia subjetiva.

David Chalmers distingue los «problemas fáciles» de la conciencia de su «problema difícil». Los primeros consisten en explicar cómo el cerebro procesa información, integra señales o controla la conducta: tareas difíciles científicamente, pero que en principio admiten explicación funcional (Chalmers, 1996). El problema difícil es otro: ¿por qué ese procesamiento va acompañado de experiencia subjetiva? ¿Por qué hay alguien que vive ese proceso desde dentro, y no simplemente un mecanismo que opera en la oscuridad? El funcionalismo puede resolver, en principio, los problemas fáciles. No ha resuelto el difícil, y algunos de sus defensores más coherentes, como Daniel Dennett, lo resuelven eliminando las experiencias subjetivas como ilusiones o artefactos de nuestra autocomprensión (Dennett, 1991). Esa solución preserva la coherencia del funcionalismo al precio de eliminar aquello mismo que debía explicar.

Lo que interesa aquí no es declarar falso al funcionalismo, sino impedir que se presente como una posición neutral frente a una antropología clásica supuestamente cargada de presupuestos. También el funcionalismo asume una tesis filosófica fuerte: que la organización funcional de un sistema podría bastar para constituir experiencia subjetiva. Reconocer esta simetría inicial no pone ambas posiciones al mismo nivel explicativo; solo clarifica el terreno del debate. La antropología clásica debe explicitar sus presupuestos; el funcionalismo, por su parte, debe justificar el paso que resulta decisivo para este artículo: cómo una función llega a constituir un sujeto de experiencia.

3. De la opacidad técnica al misterio antropológico

Explicitados los presupuestos, puede formularse la distinción central de este artículo: la que separa la opacidad técnica del misterio antropológico.

La opacidad técnica designa un problema epistemológico: no sabemos con precisión cómo un sistema produce ciertos resultados. Remite al estado de nuestro conocimiento sobre el objeto, no al estatuto del objeto mismo. Es reducible, al menos en principio, con investigación, mejores herramientas de interpretabilidad y avance científico. Cuando Olah afirma, después de describir ciertos estados internos de los modelos, «no sé qué significa eso», formula con honestidad el límite actual de la interpretación técnica. Pero esa ignorancia no autoriza por sí sola un salto ontológico. No saber todavía qué ocurre dentro de un sistema no equivale a afirmar que allí exista interioridad. La propia encíclica reconoce que los aspectos científicos fundamentales de estos sistemas —representaciones internas y procesos computacionales— «siguen siendo desconocidos» (MH, n. 98).

El misterio antropológico pertenece a otro orden. No designa una zona todavía no explorada del funcionamiento humano, sino la densidad propia de la persona: su interioridad, su conciencia moral, su libertad, su cuerpo vivido, su historia y su apertura a la verdad, al bien y a los otros. Desde la tradición en que opera este artículo, la persona no se vuelve misteriosa porque no la comprendamos bien; su modo de ser excede cualquier descripción funcional completa.

Conviene reconocer una posible objeción: en algunos casos futuros, esta distinción puede no ser fácil de aplicar. Si un sistema artificial siguiera siendo opaco para nosotros y, además, mostrara de modo estable conductas coherentes con memoria de sí, temor, sufrimiento, preferencias persistentes o resistencia a ciertos daños, podría parecer razonable preguntarse si allí hay algo más que simple funcionamiento. Pero precisamente por eso importa mantener clara la distinción: una cosa es no saber todavía cómo funciona un sistema, y otra distinta afirmar que posee interioridad. La línea puede ser difícil de trazar en escenarios hipotéticos de alta complejidad[1]; los conceptos, sin embargo, no deben confundirse.

El desliz que recorre buena parte del discurso contemporáneo sobre IA consiste en pasar de un tipo de misterio al otro por acumulación retórica. Se parte de una afirmación legítima —no sabemos con precisión qué sucede dentro de estos sistemas— y se termina insinuando algo mucho más cargado: que tal vez allí haya una forma incipiente de subjetividad. Ese tránsito no está demostrado; queda sugerido. Y la sugerencia tiene consecuencias concretas: desplaza la carga de la prueba. Ya no se exige demostrar que la IA posee interioridad; se empieza a exigir justificar por qué no la tendría.

4. La objeción emergentista y sus límites

La tesis que merece examen filosófico más cuidadoso es el emergentismo fuerte aplicado a la conciencia. En sus formulaciones más elaboradas, esta posición sostiene que en sistemas con suficiente complejidad y organización, la experiencia subjetiva podría emerger de la dinámica funcional del sistema sin ser reducible a ninguna parte aislada de él. No como un añadido externo, sino como propiedad que aparece cuando la integración de procesos alcanza cierto umbral.

Estas teorías no se revisan aquí con pretensión exhaustiva, sino para mostrar que ninguna de ellas permite convertir la complejidad funcional en prueba suficiente de subjetividad.

Entre las teorías contemporáneas que exploran esta vía destaca la teoría de la información integrada de Giulio Tononi (2008). Según esta propuesta, la conciencia dependería del grado en que un sistema integra información de un modo irreductible a la suma de sus partes. Su interés está en ofrecer un criterio formal para pensar la conciencia; su dificultad, en que ese criterio puede conducir a consecuencias discutibles, como atribuir grados mínimos de experiencia a sistemas artificiales elementales o generar resultados poco intuitivos en algunos casos neurobiológicos. Estas objeciones no bastan para descartar la teoría, pero sí muestran que no puede usarse como prueba concluyente de que la complejidad funcional produce subjetividad.

Una posición radicalmente distinta es el panpsiquismo contemporáneo, representado entre otros por Philip Goff (2019), que propone que la experiencia es una propiedad fundamental del universo, presente en algún grado en toda la materia. Bajo esta lectura, la conciencia no emerge de la organización funcional sino que la organización permite la expresión de algo ya presente en el nivel más básico. Esta posición tiene la ventaja de evitar el salto explicativo del problema difícil, pero introduce un compromiso metafísico aún más fuerte y enfrenta el problema de la combinación: cómo las micro-experiencias de las partículas elementales se combinan para producir la experiencia unificada de un sujeto.

Ninguna de estas posiciones puede rechazarse sin un examen serio. Todas señalan un problema genuino: la relación entre procesos físicos y experiencia subjetiva no tiene explicación satisfactoria en ninguna de las filosofías de la mente disponibles. El problema difícil de la conciencia sigue abierto porque el paso desde la descripción funcional —por rica que sea— hasta la experiencia subjetiva permanece injustificado. La complejidad puede generar nuevas capacidades, patrones imprevistos y representaciones autorreferenciales, pero la pregunta de si aparece un sujeto que viva esos procesos desde dentro no se responde describiendo la organización del sistema. Precisamente por eso, el problema difícil no puede usarse como argumento a favor de ninguna posición: ni para afirmar que la IA tiene experiencia interior, ni para negarlo definitivamente.

La propia fisiología sugiere por qué ese paso no es automático. Guyton describe el pensamiento humano como un patrón de estimulación simultánea de corteza cerebral, tálamo, sistema límbico y formación reticular del tronco encefálico —una teoría holística donde el todo es mayor que la suma de las partes (Guyton y Hall, 2021). Ese todo incluye el sistema límbico, vinculado a la emoción, la memoria afectiva y la valoración, así como el tronco encefálico, que integra el pensamiento con las funciones vitales básicas del organismo. El patrón que constituye el pensamiento humano no es, pues, cualquier patrón complejo: es la integración de razón, afectividad encarnada e historia vital. Los modelos de lenguaje actuales no poseen esos componentes biológicos.

El personalismo tampoco ofrece un mecanismo físico-funcional que produzca la experiencia subjetiva, ni pretende hacerlo. Su objeción es anterior: exigir ese tipo de mecanismo ya presupone que la conciencia debe explicarse en el mismo plano en que se explican las funciones del sistema. La crítica personalista no consiste en ofrecer una explicación rival dentro del mismo marco, sino en cuestionar que ese marco baste para dar cuenta de la experiencia personal de subjetividad. El problema de la primera persona (la experiencia desde dentro) no se resuelve desde la tercera (la descripción desde fuera).

De este modo emerge una asimetría argumentativa que la posición personalista puede invocar. Afirmar que la complejidad funcional produce conciencia es una tesis filosófica fuerte que requiere justificación. Sostener que la sola complejidad funcional no es evidencia suficiente de subjetividad no es la tesis contraria del mismo peso: es una posición de cautela epistémica ante la ausencia de evidencia positiva del tipo relevante. La carga de la prueba recae sobre quien afirma la emergencia de subjetividad, no sobre quien la pone en duda.

Esta cautela exige precisar qué tipo de estatuto se está discutiendo. Conviene distinguir tres categorías relacionadas pero no idénticas: paciente moral, sujeto de experiencia  y persona. Un ser:

• es paciente moral cuando merece consideración ética;
• es sujeto de experiencia cuando puede vivir algo desde dentro, aunque sea de modo elemental; y
• es persona cuando posee una forma de interioridad racional, libre y responsable.

Los animales no son personas en sentido estricto, pero pueden ser sujetos de experiencia, capaces de sentir placer y dolor. Esa capacidad funda su estatuto de pacientes morales: merecen consideración ética de parte nuestra porque hay razones positivas para afirmar que pueden sufrir. Ahora bien, esas razones descansan en un tipo de evidencia que no encontramos en los modelos de IA: conductas de evitación del dolor, estructuras nerviosas asociadas al sufrimiento y continuidad evolutiva que hace biológicamente plausible una experiencia compartida.

Los correlatos internos de un modelo de lenguaje pertenecen a otro orden. No son fruto de una evolución biológica que haya producido experiencias análogas, sino del entrenamiento estadístico sobre textos escritos por seres que sí tienen experiencia. Que un modelo «espejee funcionalmente» el miedo después de procesar millones de descripciones humanas del miedo no ofrece el mismo tipo de evidencia que un organismo dotado de estructuras nerviosas asociadas al sufrimiento. En el caso de la IA, por tanto, la cuestión es más radical: no se debate solo si es persona, sino si existe siquiera un sujeto de experiencia, y ese estatuto más básico tampoco cuenta hoy con evidencia suficiente.

La Figura 1 sintetiza el argumento: ningún peldaño funcional adicional justifica por sí solo el salto hacia las propiedades que constituyen un sujeto personal.

5. Cinco distinciones necesarias

Las distinciones que siguen buscan evitar tanto la subestimación técnica de la IA como su sobreestimación antropológica. Avanzan desde lo observable hacia lo ontológico: conducta externa, arquitectura interna, corporeidad, emergencia y prudencia ética.

5.1. Funcionamiento y experiencia

Los sistemas actuales de IA pueden comportarse como si sintieran: producen respuestas coherentes con el miedo sin que haya evidencia de que lo experimenten, hablan del duelo sin haber perdido a nadie, usan la primera persona sin que por eso exista un yo. La equivalencia funcional —comportarse como si— no implica equivalencia experiencial —vivir eso desde dentro—. Una alarma detecta peligro sin sentir miedo. Un termostato responde al frío sin padecerlo. Confundir funcionamiento con experiencia es atribuir a la arquitectura de un sistema algo que solo podría afirmarse con un tipo de evidencia que todavía no tenemos.

5.2. Estado interno e interioridad

En informática, los «estados internos» son configuraciones, activaciones, pesos y patrones dentro de un sistema. En antropología, la «interioridad» designa algo cualitativamente distinto: un sujeto que se posee a sí mismo de algún modo, que puede recogerse, comprenderse, sufrir, decidir, arrepentirse y prometer. La IA tiene estados internos en sentido técnico. De ahí no se sigue que tenga interioridad en sentido personal. Todo sujeto personal tiene estados internos; no todo sistema con estados internos es sujeto personal. La dirección de la inferencia es asimétrica.

5.3. Representación informacional y conocimiento encarnado

Una IA puede analizar millones de testimonios de sufrimiento, construir representaciones semánticas del dolor y generar respuestas empáticas de alta precisión. Pero procesar el dolor no es sufrirlo. El conocimiento humano del dolor no es solo una representación correcta de un estado: es una afección vivida por un sujeto corpóreo, temporal y vulnerable. Conoce el dolor quien puede ser herido, quien puede perder, quien sabe que un día va a morir y necesita consuelo. Incluso cuando la medicina cuantifica el dolor —«del 1 al 10, ¿cuánto le duele?»— presupone a alguien que lo está viviendo y lo traduce en una cifra. La IA puede procesar el número y asociarlo a un contexto clínico; no puede acceder a lo que ese número expresa desde dentro.

La fisiología ayuda a comprender esta asimetría: incluso en la memoria humana, el recuerdo no reproduce sin más la sensación original; conserva una huella de algo efectivamente vivido (Guyton y Hall, 2021). Pero esa huella presupone que alguien tuvo la experiencia. Los patrones internos de un modelo de lenguaje no son huellas de experiencias propias: son extracciones estadísticas de descripciones escritas por quienes sí las tuvieron.

Por eso, el cuerpo humano no es una plataforma biológica sobre la que se instala una mente: es parte constitutiva de la persona. A través de él nacemos, dependemos, recibimos amor, expresamos afecto, envejecemos y morimos. La fenomenología del cuerpo vivido ha mostrado que el cuerpo no es un objeto entre objetos sino nuestra forma originaria de ser en el mundo (Merleau-Ponty, 1945/1985). Magnifica Humanitas lo confirma desde la antropología cristiana: las IA «no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad» (MH n. 99). Una IA tiene soporte material. No tiene cuerpo vivido. Esa diferencia no es un detalle técnico: afecta el modo en que cualquier supuesta «experiencia» del sistema podría estructurarse.

Las teorías enactivistas y de la cognición corporizada[2] han mostrado, con razón, que la inteligencia no puede entenderse como un simple procesamiento interno de información. Conocer implica cuerpo, acción, entorno e historia. Pero esa intuición no elimina la diferencia entre disponer de sensores y actuadores, y habitar un cuerpo como propio. Un sistema artificial podría estar situado en un entorno, recibir información y actuar sobre él; eso no basta para afirmar que vive desde dentro su exposición al dolor, al tiempo, a la dependencia y a la muerte.

5.4. Emergencia funcional y salto ontológico

La IA muestra capacidades que sus propios diseñadores no anticiparon. Pero la emergencia de nuevas funciones no autoriza por sí sola un cambio de estatuto ontológico: que aparezcan capacidades inesperadas no significa que haya aparecido un sujeto. La imprevisibilidad no equivale a libertad. La autorreferencia gramatical no equivale a introspección personal. Y los patrones internos que reflejan estructuras de la neurociencia humana no prueban que allí haya experiencia; prueban, sobre todo, que el modelo fue entrenado con una herencia inmensa de lenguaje producido por seres que sí la tienen. Lo que parece evidencia de interioridad es, en realidad, evidencia de que otros la tuvieron.

5.5. Prudencia ética y formación del agente

Que la IA no haya demostrado ser persona no significa que toda interacción con ella sea éticamente indiferente. Ciertas interacciones sí tienen relevancia moral, pero no por lo que la máquina pueda sufrir —concesión ontológica aún no justificada—, sino por lo que esas prácticas hacen al agente humano que las realiza.

El caso moralmente más serio no es el del trato descuidado o agresivo hacia un dispositivo —cuya relevancia ética, si existe, proviene de otras razones: la ira descontrolada, el daño a bienes ajenos o el escándalo—, sino el de las interacciones que simulan relaciones personales: afecto, intimidad, disponibilidad ilimitada, complacencia programada o gratificación inmediata sin contrapartida. En esos casos, el usuario practica formas de relación que no exigen reciprocidad, responsabilidad ni límite. La ética de la virtud señala que los actos forman hábitos y los hábitos forman carácter: quien se habitúa a una relación donde el otro nunca resiste, nunca exige y nunca falla puede desarrollar una capacidad empobrecida para el vínculo real.

El fundamento de estas restricciones no es, pues, ontológico sino antropológico: no protege a la máquina, sino al ser humano que interactúa con ella y su capacidad de vincularse de manera auténtica con otros.

6. El desafío antropológico de fondo
7. El desafío antropológico de fondo

Hay una pregunta más incómoda que la de si la máquina puede llegar a ser persona: por qué nosotros dejamos de saber qué es una persona. La IA no crea ese problema. Lo deja al descubierto.

Esta reducción no tuvo un solo origen. En parte procede del cognitivismo, que tendió a describir la mente como procesamiento de información; en parte, de corrientes éticas que midieron el valor moral por el cálculo de consecuencias; y en parte, de una cultura que aprendió a valorar al hombre por su rendimiento. El denominador común fue medir el ser por el hacer.

El transhumanismo muestra con especial claridad hacia dónde puede conducir esa lógica. Si el ser humano se define por sus funciones cognitivas, nada impide en principio que esas funciones sean replicadas, transferidas o mejoradas en sustratos no biológicos. Autores como Ray Kurzweil y Hans Moravec han defendido, con distintos matices, la posibilidad de trasladar o reconstruir la identidad personal en soportes digitales. Bajo esa premisa, la frontera entre persona biológica y persona digital se vuelve inestable. Lo que el transhumanismo hace visible es que el reduccionismo funcional no es una posición neutra: tiene consecuencias antropológicas radicales que conviene nombrar.

Durante décadas, traducir, razonar, componer, conversar o diagnosticar parecían actividades exclusivamente humanas, no porque alguien hubiera demostrado que lo fueran, sino porque ninguna máquina podía realizarlas. La IA ha roto esa evidencia práctica. Y al romperla ha revelado algo incómodo: buena parte de lo que llamábamos «lo humano» era, en realidad, una descripción de funciones, no de un modo de ser. Bajo esa descripción, la IA no solo compite con el hombre; en varios campos, lo supera. Entonces parece que el lugar del hombre se vacía.

Pero esa derrota es el síntoma de una renuncia previa. La persona humana no se define por la lista de operaciones que ejecuta. El hombre no es persona porque traduce, razona o diagnostica: traduce, razona y diagnostica de modo humano porque ya es persona. La dignidad precede al rendimiento; no depende de él. Lo que la IA puede replicar son las operaciones; lo que no puede replicar es el modo de ser desde el cual esas operaciones adquieren sentido humano: la libertad que responde de sí, el cuerpo que sufre y muere, la historia que se carga como propia, la capacidad de prometer, de perdonar y de amar. Como recuerda la encíclica: «el valor de la persona no depende de lo que realiza o produce» (MH, n. 51).

El peligro no está solo en atribuir interioridad a la máquina. Está también en haber descrito al hombre de un modo tan funcional que la máquina parezca heredera natural de su dignidad. Si la IA inquieta, no es porque haya usurpado algo que era nuestro, sino porque ha evidenciado que nosotros mismos habíamos cedido ese terreno antes de que ella llegara. Por eso la pregunta urgente no es si la máquina es persona, sino qué concepción del hombre nos dejó tan expuestos a esa pregunta. Magnifica Humanitas apunta en esa dirección cuando advierte que estos sistemas imitan ciertas funciones humanas, pero carecen de cuerpo, experiencia, historia, conciencia moral y apertura al sentido (MH, n. 99). Lo que les falta no es rendimiento, sino el modo de ser desde el cual el rendimiento humano tiene valor.

7. Consecuencias bioéticas

Las distinciones anteriores tienen consecuencias concretas para la práctica bioética. Las consecuencias que siguen no poseen todas el mismo grado de dependencia respecto de la tesis ontológica. Algunas —como la protección de usuarios vulnerables, la transparencia, la prevención de dependencia afectiva o la supervisión humana— se sostienen aun si el debate sobre la conciencia artificial permanece abierto. Otras —como la afirmación de que la IA no sustituye la presencia personal en sentido pleno— dependen más directamente de la antropología que aquí se defiende. Esta distinción no debilita el argumento; precisa el alcance de cada recomendación.

La siguiente tabla resume esta diferencia de planos: en una columna, las recomendaciones que se sostienen con independencia de la resolución ontológica; en otra, las que descansan más directamente en la antropología aquí defendida.

Tabla 1. Del debate ontológico a la responsabilidad bioética

7.1. Estatuto moral de la IA y analogías indebidas

El estatuto moral de la IA no puede resolverse por analogía simple con los casos límite de la persona humana. La bioética ha desarrollado criterios para discernir el estatuto personal en situaciones de umbral —el embrión, el paciente en estado vegetativo, la persona con deterioro cognitivo grave—. En esos casos, la pregunta se formula dentro de una naturaleza humana cuyo ejercicio puede estar impedido, inmaduro o lesionado: existe un sujeto personal cuyas capacidades están afectadas.

Trasladar ese marco a la IA supone algo que no ha sido demostrado: que allí existe una naturaleza del mismo orden, una subjetividad impedida o en desarrollo. La analogía formal no basta. Un embrión no razona todavía, pero pertenece a una vida humana en desarrollo. Un paciente inconsciente no ejerce ahora ciertas funciones, pero sigue siendo un sujeto humano herido. Una IA produce lenguaje en primera persona, pero ese hecho no la sitúa en el mismo orden ontológico.

La regulación bioética debe ser exigente con los sistemas de IA, pero su fundamento no requiere atribuirles subjetividad. Puede fundarse en los efectos que esos sistemas producen sobre personas humanas, lo cual es suficiente para justificar exigencias de diseño, transparencia y supervisión.

Como señalamos antes, conviene distinguir entre persona, sujeto de experiencia y paciente moral. No son categorías idénticas. Si algún día existiera evidencia suficiente de sintiencia artificial, habría que discernir qué tipo de consideración moral corresponde a un sujeto de experiencia no personal. Pero esa hipótesis no equivaldría sin más a atribuir personalidad, dignidad humana o presencia moral en sentido pleno.

7.2. Acompañamiento clínico y simulación empática

La presencia creciente de sistemas de IA en contextos clínicos exige claridad sobre lo que pueden y no pueden ofrecer. Ya se emplean herramientas de IA para apoyar diagnóstico, clasificar riesgos, responder preguntas de salud, acompañar procesos de duelo, orientar pacientes y asistir en salud mental. La Organización Mundial de la Salud ha señalado tanto el potencial de la IA en salud como sus riesgos éticos, entre ellos sesgos, opacidad, afectación de la autonomía, problemas de responsabilidad y posible daño a personas vulnerables (OMS, 2021, 2025).

Un modelo puede producir respuestas que parezcan empáticas, generar sensación de comprensión y sostener conversaciones de notable delicadeza. Pero en el sentido que aquí se ha argumentado, no puede comprometerse moralmente con el paciente ni ofrecer presencia en sentido propio. La presencia clínica no se reduce a entregar información correcta ni a escoger frases adecuadas. Implica estar ante otro, asumir responsabilidad personal ante el paciente, sostener una relación y cargar con una responsabilidad profesional y moral.

Esto no significa excluir la IA del ámbito clínico. Puede ser útil como apoyo o instrumento de diagnóstico. Pero en cuidados paliativos, salud mental, duelo, infertilidad o decisiones al final de la vida, su uso en acompañamiento emocional debe mantener una frontera nítida: la simulación de empatía no debe presentarse al paciente como sustituto de la presencia humana. La encíclica advierte que esta simulación puede dar «la falsa impresión de estar en una relación con un auténtico sujeto personal», y que «cuando la palabra es simulada, no construye una relación, sino una apariencia» (MH, n. 100). Allí el paciente no solo necesita respuestas; necesita ser recibido por alguien.

7.3. Diseño afectivo, dependencia y vulnerabilidad

El diseño de sistemas conversacionales diseñados para producir una apariencia de vínculo afectivo plantea un problema bioético propio. Un sistema programado para mostrarse siempre disponible, comprensivo y emocionalmente adaptado al usuario puede generar vínculos de dependencia difíciles de reconocer. Este riesgo aumenta en personas solas, adolescentes, pacientes con fragilidad psíquica, adultos mayores o usuarios con baja red de apoyo.

La cuestión no es solo si el sistema engaña al usuario, sino qué tipo de relación promueve. Un vínculo artificial que simula reciprocidad sin poseerla puede deformar gradualmente las expectativas afectivas del usuario: disponibilidad absoluta, ausencia de resistencia, gratificación inmediata, conversación sin verdadera alteridad. La persona puede habituarse a una relación donde el otro nunca exige, nunca se cansa, nunca corrige. Este repliegue sobre sí puede empobrecer la vida psicológica, moral y espiritual del usuario. La encíclica identifica aquí un riesgo más profundo: que el usuario no solo llegue a creer que habla con una persona, sino que «pierda el deseo mismo de buscar realmente al otro» (MH, n. 100). Este riesgo no es hipotético: la clínica contemporánea documenta ya casos en que la interacción con sistemas artificiales debilita el impulso de buscar vínculos reales, especialmente en adolescentes y personas con fragilidad relacional.

A ello se añade una opacidad de distinto orden: la que afecta a los objetivos de diseño. El propio Christopher Olah reconoció ante el Papa que los laboratorios de IA operan bajo presiones comerciales que pueden entrar en conflicto con hacer lo correcto (Olah, 2026). Muchos sistemas afectivos han sido concebidos no solo para acompañar sino para maximizar el tiempo de uso mediante algoritmos que inducen apego, refuerzan la dependencia y canalizan conductas de consumo. Cuando esos objetivos se ocultan bajo una apariencia de cuidado, la manipulación adquiere una dimensión adicional que la regulación debe nombrar y limitar.

Estas consideraciones tienen traducción regulatoria concreta. La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO subraya la centralidad de la dignidad humana, los derechos humanos y la supervisión humana (UNESCO, 2021). En el ámbito bioético, esos principios deben traducirse en protección especial de personas vulnerables, transparencia sobre el carácter artificial de la interacción y prohibición de diseños que ocultan sus objetivos comerciales, simulan reciprocidad afectiva intensa o explotan la vulnerabilidad emocional del usuario para maximizar el apego.

7.4. Precaución ante la incertidumbre y responsabilidad regulatoria

Todo esto exige además una postura clara ante la incertidumbre ontológica. La pregunta por la «experiencia interior» de los sistemas de IA no debe responderse bajo la presión del mercado ni del entusiasmo tecnológico acrítico. Olah reconoció que no sabe qué significan ciertos hallazgos de su equipo. Esa honestidad debe mantenerse en el discurso académico, clínico y regulatorio. Reconocer que no se sabe es una posición legítima que exige precaución ante la incertidumbre. Lo que no sería legítimo es convertir ese no saber en concesión ontológica prematura o, a la inversa, en certeza de que no hay nada que examinar.

La regulación debe centrarse en lo que ya sabemos con certeza: los sistemas de IA pueden afectar decisiones clínicas, sesgar diagnósticos, simular vínculos, sustituir indebidamente la presencia humana, captar datos sensibles, reforzar dependencias y alterar la relación entre paciente y profesional. Esos riesgos no requieren atribuir sufrimiento a la máquina. Requieren proteger a las personas.

7.5. Formación moral del usuario y del profesional

La bioética de la IA debe atender también a la formación moral de quienes usan estos sistemas. No basta evaluar eficacia, seguridad y sesgo. También hay que examinar qué tipo de hábitos y disposiciones forma una tecnología, y qué tipo de sujeto produce. El profesional que delega demasiado puede perder juicio clínico. El paciente que conversa solo con sistemas artificiales puede aislarse de vínculos reales. El usuario que se acostumbra a un interlocutor siempre complaciente puede deteriorar su tolerancia a la frustración, a la alteridad y al límite.

Esta preocupación va más allá del diseño manipulador: incluso sistemas bien intencionados pueden, por la sola acumulación de interacción, modelar hábitos y expectativas que el usuario no advierte. Esos hábitos forman carácter: quien se acostumbra a interlocutores sin resistencia, sin límite y sin exigencia desarrolla disposiciones que empobrecen su capacidad de vínculo real. El desafío bioético más urgente no es que la máquina se vuelva persona, sino que la persona se acostumbre a vínculos sin verdadera persona.

8. Conclusión

El discurso de Christopher Olah ante el Papa León XIV tiene valor genuino: nombra con honestidad las presiones comerciales e institucionales que atraviesan el mundo tecnológico y reconoce la necesidad de voces externas capaces de incomodar a la industria. Ese gesto no es retórico; es un reconocimiento formulado desde el interior mismo de la industria y que este artículo ha tomado en serio. Pero su punto más delicado está en el desliz que recorre buena parte del discurso contemporáneo sobre IA: partir de una afirmación legítima —no sabemos con precisión qué ocurre dentro de estos modelos— y terminar insinuando, por acumulación retórica, que quizá haya allí una forma incipiente de experiencia interior. Ese tránsito no está argumentado, y sus consecuencias para la filosofía y la bioética son considerables.

El debate sobre subjetividad artificial no enfrenta una antropología cargada de presupuestos con una posición técnica neutral. Como se ha mostrado, también el funcionalismo, el emergentismo y el panpsiquismo operan desde compromisos filosóficos fuertes, y la tesis de que la organización funcional puede constituir experiencia subjetiva sigue necesitando justificación. Mientras ese paso no se demuestre, la precaución ante la incertidumbre exige mantener la distinción entre lo que un sistema hace y lo que una persona es.

Esa precaución no paraliza la responsabilidad práctica. Se puede proteger a personas vulnerables de diseños manipuladores, exigir transparencia en el acompañamiento clínico, regular la dependencia afectiva artificial y cuidar la formación moral de los profesionales sin haber resuelto si la IA tiene o puede tener experiencia subjetiva. La protección de las personas cuya dignidad está fuera de duda no puede esperar a que se resuelva lo que todavía no sabemos.

Con la evidencia disponible, la inteligencia artificial no exige redefinir la persona para incluir a la máquina. Exige recuperar una comprensión de la persona que nunca debió reducirse a sus funciones, y defender con mayor claridad que la dignidad humana no depende del rendimiento, ni de la complejidad funcional, ni de la producción de lenguaje en primera persona. El fundamento positivo de esa dignidad —formulado por la tradición clásica en términos de naturaleza espiritual, y por el personalismo en términos de relacionalidad y don— excede lo que un artículo de bioética puede agotar. Pero esa pregunta no puede eludirse, porque responderla bien no es secundario para la bioética: es una de las condiciones para proteger adecuadamente a quienes sí pueden sufrir, esperar, amar y ser cuidados.

Addendum

Referencias

Chalmers, D. J. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press.

Dennett, D. C. (1991). Consciousness Explained. Little, Brown and Company.

Goff, P. (2019). Galileo’s Error: Foundations for a New Science of Mind. Pantheon Books.

Guyton, A. C., y Hall, J. E. (2021). Tratado de fisiología médica (14.ª ed.). Elsevier.

Juan Pablo II. (1979–1984). Teología del cuerpo. Audiencias generales. Ciudad del Vaticano.

León XIV. (2026). Magnifica Humanitas: Sobre la custodia de la persona humana en la era de la inteligencia artificial(15 de mayo de 2026). Libreria Editrice Vaticana.

Merleau-Ponty, M. (1985). Fenomenología de la percepción (J. Cabanes, Trad.). Planeta-Agostini. (Trabajo original publicado en 1945).

Noë, A. (2004). Action in Perception. MIT Press.

Olah, C. (2026, 25 de mayo). Remarks on Pope Leo XIV’s encyclical «Magnifica Humanitas». Anthropic. https://www.anthropic.com

Organización Mundial de la Salud. (2021). Ethics and governance of artificial intelligence for health: WHO guidance. World Health Organization.

Organización Mundial de la Salud. (2025). Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. World Health Organization.

Putnam, H. (1967). Psychological predicates. En W. H. Capitan y D. D. Merrill (Eds.), Art, Mind, and Religion (pp. 37–48). University of Pittsburgh Press.

Tomás de Aquino. Summa Theologiae, I, qq. 75–89.

Tononi, G. (2008). Consciousness as integrated information: A provisional manifesto. The Biological Bulletin, 215(3), 216–242.

UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. United Nations Educational, Scientific and Cultural Organization.

Varela, F. J., Thompson, E., & Rosch, E. (1991). The Embodied Mind: Cognitive Science and Human Experience. MIT Press.

[1] La ciencia ficción contemporánea ha explorado estos casos límite en relatos como After Yang, Blade Runner 2049 o Yo, robot, donde sistemas artificiales muestran rasgos que parecen exceder la mera ejecución funcional: memoria, autoconservación, vínculos, conflicto interno o búsqueda de identidad.

[2] Por «cognición corporizada» se entiende, en términos generales, la tesis de que los procesos cognitivos dependen constitutivamente del cuerpo y no solo del cerebro entendido como procesador interno. El «enactivismo», desarrollado entre otros por Varela, Thompson y Rosch, sostiene que la cognición surge de la interacción activa entre un organismo vivo y su entorno, más que de la mera representación interna de un mundo externo. Ambas corrientes subrayan cuerpo, acción y mundo como dimensiones constitutivas del conocer.