Apuntes | El Vaticano entra en el debate sobre la inteligencia artificial

La publicación de Magnifica Humanitas, la primera encíclica de León XIV, introduce al Vaticano en el debate contemporáneo sobre la inteligencia artificial. Más allá de su origen religioso, el documento aborda cuestiones como el trabajo, la concentración de poder tecnológico, la gobernanza de los sistemas digitales y la dignidad humana. Pero quizá lo más interesante no sea lo que dice la encíclica, sino comprobar cómo algunas de sus preocupaciones coinciden con las de otras instituciones internacionales.

No tenía claro si debía dedicar una entrada a una encíclica papal sobre inteligencia artificial. La duda no tenía que ver con la relevancia de la inteligencia artificial, que ocupa cada vez más espacio en esta web, sino con el propio origen del documento. Cuando pensamos en inteligencia artificial, solemos pensar en empresas tecnológicas, universidades, organismos reguladores o instituciones internacionales. No solemos pensar en el Vaticano. Sin embargo, precisamente por eso merece la pena detenerse unos minutos en la reciente encíclica Magnifica Humanitas, publicada por el papa León XIV.

Antes de seguir, quizá convenga aclarar un par de cuestiones:

• La primera es qué es una encíclica. Simplificando mucho, una encíclica es uno de los documentos más importantes que puede publicar un papa. No es una ley ni una norma jurídica, pero sí un texto destinado a fijar la posición de la Iglesia católica sobre una determinada cuestión de especial relevancia.
• La segunda es por qué debería interesarnos lo que diga el Vaticano sobre inteligencia artificial. Y aquí aparece una primera sorpresa. Aunque habitualmente asociamos el Vaticano a su dimensión religiosa, también es un Estado, mantiene relaciones diplomáticas con buena parte del mundo y cuenta con una larga tradición de reflexión sobre grandes transformaciones sociales. De hecho, la propia encíclica establece un paralelismo histórico muy significativo. Magnifica Humanitas se publica exactamente 135 años después de Rerum Novarum, una encíclica promulgada por el papa León XIII en 1891. Para quien no esté familiarizado con ella, Rerum Novarum fue uno de los textos más influyentes de la denominada doctrina social de la Iglesia y abordó lo que entonces se conocía como la «cuestión obrera»: las consecuencias sociales de la industrialización, las condiciones de trabajo en las fábricas, la pobreza urbana, los conflictos laborales y las profundas desigualdades generadas por la transformación económica de finales del siglo XIX. No es casual que León XIV recupere ahora esa referencia.

¿Pero qué dice exactamente la encíclica?

Lo primero que llama la atención es que no se trata de un texto tecnófobo. León XIV no presenta la inteligencia artificial como una amenaza inevitable ni como una tecnología que deba rechazarse. Al contrario, dedica una parte importante del documento a reconocer sus potenciales beneficios en ámbitos como la medicina, la investigación científica, la educación, la comunicación o la gestión de recursos. La encíclica parte de una idea sencilla: la capacidad de crear herramientas que amplían las posibilidades humanas forma parte de la propia historia de la humanidad. El problema no es la tecnología en sí misma. La cuestión es qué sucede cuando una tecnología adquiere tal capacidad de influencia que empieza a condicionar la forma en que trabajamos, aprendemos, nos relacionamos y tomamos decisiones.

A partir de ahí, el documento desarrolla varios ejes que resultan especialmente interesantes.

El primero es la dignidad de la persona. La encíclica insiste en que la inteligencia artificial puede procesar información, identificar patrones y generar respuestas extraordinariamente complejas, pero no posee conciencia, responsabilidad moral ni capacidad para comprender el significado humano de sus actos. Puede parecer una afirmación evidente, pero el texto la utiliza para plantear una cuestión de fondo: existe el riesgo de que las personas empiecen a ser observadas y gestionadas utilizando la misma lógica con la que los sistemas procesan datos. Según León XIV, la persona humana no puede reducirse a una suma de variables medibles, perfiles de comportamiento o patrones estadísticos. La dignidad humana exige reconocer dimensiones que escapan a cualquier proceso de cálculo.

El segundo gran eje es el trabajo. Aquí es donde la referencia a Rerum Novarum cobra pleno sentido. Si la encíclica de 1891 se preguntaba cómo proteger la dignidad del trabajador en la sociedad industrial, Magnifica Humanitas se pregunta cómo preservar esa misma dignidad en una economía crecientemente digitalizada y automatizada. El documento advierte sobre el riesgo de que la eficiencia tecnológica se convierta en el criterio dominante para organizar el trabajo. Cuando las decisiones empresariales pasan a apoyarse cada vez más en sistemas de análisis de datos, algoritmos de evaluación o herramientas automatizadas de gestión, existe el peligro de que la persona trabajadora quede reducida a métricas de productividad, indicadores de rendimiento o variables de optimización. La preocupación no es la automatización en sí misma. La preocupación es la posibilidad de que el trabajo deje de entenderse como una actividad humana dotada de significado social y personal para convertirse exclusivamente en un problema de eficiencia.

Un tercer bloque se refiere al conocimiento, la información y la verdad. Esta parte resulta especialmente relevante en el contexto de la inteligencia artificial generativa. La encíclica observa que los nuevos sistemas son capaces de producir textos, imágenes, vídeos o respuestas aparentemente coherentes con una facilidad sin precedentes. Sin embargo, advierte que producir información no equivale necesariamente a comprenderla. La cuestión que plantea León XIV no es tecnológica, sino cultural y social. ¿Qué ocurre cuando una parte creciente de nuestro acceso al conocimiento se encuentra mediada por sistemas que generan respuestas plausibles pero carecen de comprensión, experiencia o responsabilidad? La preocupación no se limita a la desinformación. El documento apunta a algo más profundo: la necesidad de preservar la capacidad humana de juicio, reflexión crítica y discernimiento.

Otro de los aspectos centrales de la encíclica es el poder. Quizá sea la parte más interesante desde una perspectiva institucional. León XIV observa que las tecnologías de inteligencia artificial no se desarrollan en un vacío neutral. Requieren enormes volúmenes de datos, infraestructuras computacionales extraordinariamente costosas y capacidades técnicas concentradas en un número relativamente reducido de organizaciones. Por ello, la cuestión no es únicamente qué hacen los sistemas de inteligencia artificial, sino quién los controla. La encíclica muestra preocupación por la creciente concentración de capacidades tecnológicas en manos de grandes actores privados y advierte sobre los riesgos derivados de una dependencia excesiva respecto de infraestructuras que resultan esenciales para el funcionamiento de las sociedades contemporáneas.

Finalmente, el documento concluye con una llamada a la gobernanza y a la responsabilidad compartida. La inteligencia artificial, sostiene León XIV, no puede quedar exclusivamente en manos del mercado ni ser gestionada únicamente desde criterios económicos o tecnológicos. Gobiernos, organizaciones internacionales, empresas, universidades y sociedad civil deben participar en la construcción de marcos que permitan orientar estas tecnologías hacia el bien común.

Quienes siguen habitualmente esta web probablemente reconocerán algunas de las cuestiones que aparecen en el documento. La gobernanza de la inteligencia artificial, la concentración de poder tecnológico, la transformación del trabajo, la dependencia de infraestructuras digitales o la necesidad de construir mecanismos de responsabilidad son temas que han aparecido repetidamente en distintas entradas. En Apuntes | Inteligencia artificial: dos modelos de gobernanza en tensión, comenté cómo diferentes modelos regulatorios compiten actualmente por definir el futuro de estas tecnologías. En Debates | De la gestión algorítmica al poder algorítmico, defendí que el verdadero problema ya no consiste únicamente en el uso de algoritmos, sino en las estructuras de poder que los sostienen. En otras entradas recientes he analizado quién utiliza realmente la inteligencia artificial, cómo se distribuyen sus beneficios y riesgos, o qué implicaciones tiene la creciente concentración de capacidades tecnológicas.

Precisamente por eso, lo que más me interesa de Magnifica Humanitas no es que introduzca problemas completamente nuevos. Lo verdaderamente llamativo es que una institución tan distinta como el Vaticano termine identificando preocupaciones sorprendentemente similares a las que aparecen en organismos internacionales, reguladores, universidades o incluso en algunos de los propios desarrolladores de estas tecnologías. La Unión Europea habla de derechos fundamentales y de sistemas de alto riesgo. El Consejo de Europa insiste en la protección de la democracia, los derechos humanos y el Estado de derecho. La OCDE se centra en la gobernanza y la confianza. Naciones Unidas reclama mecanismos de cooperación global. Y ahora, el Vaticano utiliza un lenguaje diferente. Habla de dignidad humana, bien común, responsabilidad o fraternidad. Pero detrás de esos vocabularios distintos parece emerger una preocupación compartida: la inteligencia artificial está dejando de ser únicamente una cuestión tecnológica para convertirse en una cuestión institucional. Quizá esta sea la principal enseñanza que deja esta encíclica. No necesariamente porque todas sus respuestas sean correctas. Tampoco porque debamos compartir todos sus planteamientos. Sino porque constituye una señal más de que el debate sobre inteligencia artificial está entrando en una nueva fase.

Durante años nos preguntamos qué podían hacer las máquinas. Ahora empezamos a preguntarnos quién controla los sistemas, cómo se distribuye el poder que generan, qué mecanismos de responsabilidad deben existir y qué tipo de sociedad queremos construir alrededor de ellos. Que una encíclica papal participe hoy de esta conversación dice mucho menos sobre el Vaticano de lo que dice sobre la magnitud de la transformación que estamos viviendo.

Como acertadamente expone Carlos López Aritegui, Magnifica Humanitas merece ser leída también por no creyentes porque plantea una cuestión pública común: cómo seguir siendo humanos ante un poder técnico sin precedentes.

Contenido protegido. No autorizado su uso para entrenamiento de sistemas de inteligencia artificial sin autorización expresa.