La primera encíclica escrita por el papa León XIV, Magnifica Humanitas — sobre la salvaguardia de la persona humana en la era de la inteligencia artificial, es bastante compleja e inspiradora, y nos invita a reflexionar sobre los desafíos más urgentes que enfrenta hoy la humanidad.
Elisabeth Hellenbroich, desde Wiesbaden (Alemania)
Entre ellos las guerras atroces e inhumanas en todo el mundo, en particular en Ucrania y la guerra permanente en Oriente Medio. Tal belicosidad extremada es la imagen de una profunda crisis civilizatoria y cultural, acelerada en los últimos años por el impacto de la Inteligencia Artificial (IA); los multimillonarios de Silicon Valley, que concentran su poder en empresas de datos de alta tecnología, en conciencia buscan transformar la economía y la cultura globales.
El Papa, que en principio no se opone al progreso tecnológico, advierte enérgicamente sobre las consecuencias sociales y económicas de la dependencia excesiva de la IA, que se observa especialmente en las guerras en curso y en la producción de sistemas avanzados de “armas autónomas”, las cuales abren un peligroso camino para la humanidad.
La Doctrina Social de la Iglesia un “cuerpo de la verdad”
Según la encíclica, la “dignidad humana”, nos dice Evangelio se refiere al hombre y a la mujer, creados a imagen de Dios con la tarea de enriquecer y multiplicar responsablemente la creación divina, es la brújula de la humanidad. Rechaza claramente todos los delirios contemporáneos basados en el “transhumanismo” y el “poshumanismo”, que afirman que el hombre puede superarse a sí mismo de manera semejante a Dios y “optimizar” la especie humana, en un contexto en el que solo sobrevivirán los más aptos.
En cambio, la encíclica apela a un enfoque antropocéntrico que sitúa el respeto por la dignidad humana cual dignidad ontológica en el centro de un orden mundial justo, en el cual debe atribuirse un papel mucho mayor a la diplomacia para poner fin a las guerras y traer la paz a la Tierra.
En cinco capítulos, la encíclica considera la Doctrina Social de la Iglesia como una directriz, un “cuerpo de verdad” referente a la noción de “dignidad humana”. León XIV ofrece un análisis amplio de la Doctrina Social de la Iglesia, iniciada con la encíclica “Rerum Novarum” (1891) del papa León XIII, la cual reflexionaba sobre el conflicto entre capital y el trabajo, la cuestión de la fuerza laboral y las transformaciones económicas y sociales:
“El documento coloca la dignidad del trabajo y de los trabajadores en el centro de su reflexión; afirma el derecho a un salario justo para sí mismo y para su familia; reconoce que las personas tienen un valor fundamental que precede al capital y al lucro; defiende la propiedad privada, junto con su indispensable papel social; valora las asociaciones de trabajadores; y propone una forma de cooperación entre los diferentes componentes de la sociedad como alternativa a la mentalidad de la lucha de clases. (…)
Lo que permanece de la visión de León XIII es: La primacía del trabajo humano sobre cualquier mentalidad centrada únicamente en las finanzas o en la productividad, con la consiguiente atención a las personas y familias más susceptibles de explotación, y el vínculo indisociable entre proclamar el Evangelio y buscar un orden social más justo.
Una nueva fase comenzó con el Concilio Vaticano II y los escritos del papa san Juan XXIII, quien enfatizó la dimensión global de las cuestiones sociales y el lenguaje de los derechos.
De inmensa importancia es la atención dedicada a la encíclica de San Pablo VI, “Populorum Progressio” (1967), según la cual “el desarrollo es el nuevo nombre de la paz”, pues apunta erradicar las raíces de la injusticia y del conflicto y a crear oportunidades para una vida más digna para todos. Posteriormente, San Juan Pablo II habló de las “estructuras del pecado”, en referencia a los mecanismos económicos y financieros gestionados por las economías más fuertes, que estructuralmente favorecen sus propios intereses.
Por su parte, Benedicto XVI, en la encíclica “Caritas in Veritate” (2009), procuró reevaluar y ampliar el concepto de “desarrollo” presentado en el documento de Pablo VI, interpretándolo a la luz de la globalización. Observó que tal desarrollo debería traducirse en “crecimiento real, beneficioso para todos y genuinamente sostenible”. Además, señaló que el nuevo sistema económico y financiero global, caracterizado por una vasta movilidad de capital y de medios de producción, como observa la Encíclica de León XIII, reduce el poder de los Estados y su capacidad de influir en el proceso económico. Para Benedicto XVI, la actividad económica debía orientarse al Bien Común. Dispuso la “caridad” en el centro de su análisis y afirmó que esta es el corazón de la Doctrina Social de la Iglesia.
En cuanto a Francisco, su pensamiento social se desarrolla en la línea de la constitución pastoral “Gaudium et spes” de 1965, y se expone con particular claridad en la exhortación apostólica “Evangelii Gaudium” (2013), donde afirma que “el anuncio cristiano tiene una dimensión social intrínseca y exige una Iglesia capaz de escuchar el clamor de los pobres, de los migrantes y de las víctimas de nuevas formas de esclavitud”. En la encíclica “Laudato Si’” de 2015, ofrece el primer tratamiento sistemático significativo de la crisis ambiental y, en “Fratelli tutti” (2020), reflexiona sobre cómo revivir el sueño de una humanidad que opta por la “amistad social y la fraternidad universal”.
Todos estos documentos consideran la singularidad del hombre, su dignidad humana, como la piedra fundamental sobre la cual se basa toda la Doctrina Social, teniendo como principios fundamentales el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social.
¡Eviten el “síndrome de la Torre de Babel”!
“La humanidad, creada por Dios en toda su grandeza, enfrenta hoy una elección crucial”, afirma la nueva encíclica en la introducción. “O construir una ‘Torre de Babel’ o construir la ciudad en la que todos participan y en la que Dios y la humanidad habiten juntos.” El diálogo basado en la justicia es lo que debe llevar a todos los hombres y mujeres a construir conjuntamente un futuro para el Bien Común.
“Hoy, la Doctrina Social de la Iglesia es el legado de la sabiduría, donde encontramos principios de pensamiento, criterios de discernimiento y juicio, y orientaciones concretas para la acción. Fundamentada en la Sagrada Escritura y en la Tradición, y en diálogo con las ciencias, nos ayuda a interpretar claramente los desafíos del presente y a identificar los caminos adecuados para vivir un claro testimonio cristiano, con alegría y al servicio del mundo”, afirma el Pontífice.
La encíclica señala las ambigüedades que acompañan a los rápidos avances tecnológicos y observa que la tecnología no debe ser considerada antagónica para la humanidad y que, a lo largo de los siglos, ha mejorado las condiciones de vida de ella. También dice que existe una ambigüedad en estas herramientas, que pueden causar daños cuando no están orientadas al bien.
Por lo tanto, la elección que enfrenta la humanidad no es entre “sí” o “no” a la tecnología, sino “entre el poder que pretende dominar los cielos —la torre de Babel— y un pueblo que trabaja conjuntamente en la presencia de Dios para reconstruir los muros de la convivencia fraterna —los muros destruidos de Jerusalén—”.
El Papa recuerda dos metáforas bíblicas: la construcción de la torre de Babel y la reconstrucción de los muros arruinados de Jerusalén, según el relato de Nehemías en el Antiguo Testamento. Advierte, por tanto, que “debemos evitar el ‘síndrome de Babel’, es decir, la idolatría del lucro que sacrifica a los más débiles, una uniformidad que neutraliza las diferencias y la pretensión de que un único lenguaje —aunque sea digital— pueda traducirlo todo, incluso el misterio de la persona, en datos y desempeño”.
El riesgo de la “deshumanización” —de construir un futuro que excluye a Dios y reduce al otro a un medio— es una tentación antigua y siempre nueva, que hoy adopta un ropaje técnico. En cambio, el “camino de Nehemías”, “ destaca la importancia de trabajar juntos para hacer de la ‘Ciudad de Dios’ un lugar seguro para los exiliados que regresan”.
Análisis crítico de la Inteligencia Artificial
La encíclica alerta sobre lo que Francisco llama el “paradigma tecnocrático” en nuestro mundo globalizado. Según León XIV, este paradigma se ha diseminado rápidamente en los últimos años, impulsado en parte por la “expansión de la inteligencia artificial, de la ciencia cognitiva, de la nanotecnología, de la robótica y de la biotecnología. En sí mismas, estas innovaciones pueden servir grandemente al desarrollo humano integral y al cuidado de nuestra casa común. Lo que se exige como respuesta es una nueva estructura espiritual, ética y política: una visión antropológica que oriente el progreso tecnológico”.
El Papa advierte correctamente que, “en muchos casos, en el contexto digital, el control sobre plataformas, infraestructura, datos y poder computacional no reside en los Estados, sino en los principales actores económicos y tecnológicos. Estas entidades establecen efectivamente las condiciones de acceso, determinan las reglas de visibilidad y moldean las propias posibilidades de participación.
Cuando ese poder se concentra en manos de unos pocos, tiende a volverse opaco y a escapar de la fiscalización pública, aumentando el riesgo de formas distorsionadas de desarrollo que dan origen a nuevas dependencias, exclusiones, manipulación y desigualdades.
Subraya que “no es posible proporcionar una definición única y abarcadora de IA. Lo que sí puede afirmarse, sin embargo, es que debemos evitar la idea equivocada de equiparar este tipo de ‘inteligencia’ con la de los seres humanos. Estos sistemas solo imitan ciertas funciones de la inteligencia humana. Al hacerlo, muchas veces superan a la inteligencia humana en velocidad y capacidad computacional, ofreciendo beneficios tangibles en muchos campos. Sin embargo, este poder permanece enteramente vinculado al procesamiento de datos. La llamada inteligencia artificial no vive experiencias, no posee un cuerpo, no siente alegría ni dolor, no madura suficientemente por medio de relaciones y no sabe, intrínsecamente, qué significan el amor, el trabajo, la amistad o la responsabilidad.
Tampoco posee conciencia moral, ya que no juzga el bien y el mal, no comprende el significado último de las situaciones ni asume la responsabilidad por las consecuencias. Puede imitar el lenguaje, el comportamiento y las capacidades analíticas, o incluso simular empatía y comprensión, pero no comprende lo que produce, pues le falta la perspectiva afectiva, relacional y espiritual por medio de la cual los seres humanos crecen en sabiduría.
Incluso cuando las herramientas son descritas como capaces de “aprender”, afirma, “su manera de funcionar es muy diferente de la de una persona humana. No se trata de la experiencia de quienes se dejan moldear por la vida y crecen a lo largo del tiempo mediante elecciones, errores, perdón y fidelidad. Se trata, más bien, de una forma de adaptación estadística basada en datos y retroalimentación, que puede ser muy eficaz, pero que no implica crecimiento interior”.
Responsabilidad, transparencia y gobernanza de la IA
El Papa alerta sobre los usos nocivos de la IA, que pueden involucrar decisiones sensibles relativas al empleo, al crédito, al acceso a servicios públicos o incluso a la reputación de una persona. El riesgo reside en el hecho de que estas decisiones sean totalmente delegadas a sistemas automatizados que no conocen “compasión, misericordia, perdón”. Esto también puede “dar origen a nuevas formas de exclusión”. Y advierte: “Hay usos claramente nocivos, como la manipulación de información o las violaciones de la privacidad. Sin embargo, existe también un peligro más sutil, pues cuando los sistemas de IA se presentan como neutrales y objetivos, terminan reflejando y reforzando los estereotipos o el sesgo ideológico de sus creadores y desarrolladores.”
Por consiguiente, es necesario examinar “cómo” son diseñados los sistemas de IA y qué visión de la persona humana y de la sociedad está incorporada en los datos y modelos que los orientan. El Papa pide el “desarme” de la IA:
Desarmar la IA significa liberarla de la mentalidad de competencia ‘armada’, que hoy no se limita solo al contexto militar, sino que también es un fenómeno económico y cognitivo. Esto implica una carrera por algoritmos cada vez más poderosos y conjuntos de datos mayores, impulsada por el deseo de garantizar el dominio geopolítico o comercial. ‘Desarmar’ significa desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar. Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad. Significa liberar la tecnología del control monopolista y abrirla a la discusión y al debate, haciéndola, por tanto, amigable con el ser humano y restituyéndola a la pluralidad de las culturas y modos de vida humanos.
No sería una mera especulación ver en tales afirmaciones una alusión a los peligros implícitos en las agendas de potentados de Silicon Valley como Alex Karp, Peter Thiel —socios mayoritarios de Palantir Technologies— y otros.
Narrativas subyacentes: Transhumanismo y poshumanismo
El Papa enfatiza las narrativas subyacentes a la IA, que son el “transhumanismo y el poshumanismo”. Ambas corrientes aspiran a aumentar el poder del ser humano por medio de tecnologías como la biomedicina, la ingeniería corporal y algoritmos que supuestamente incrementarían el desempeño y las capacidades del hombre. El “poshumanismo”, especialmente en sus formas más radicales, afirma el Papa, “va más allá: desafía el antropocentrismo y vislumbra una hibridación entre seres humanos, máquinas y el medio ambiente, anticipando incluso el umbral en que la humanidad se supere en una nueva etapa evolutiva”.
Pero el problema de estos paradigmas subyacentes es que piensan que, si el “ser humano puede ser tratado como algo que debe perfeccionarse o superarse, se vuelve más fácil aceptar que algunas vidas son menos útiles, menos deseables o menos dignas. (…) Si se apela a sacrificios y a la idea de que la especie necesita ser optimizada, entonces Pablo VI tuvo gran perspicacia: ‘En efecto, los avances científicos y tecnológicos, cuando se disocian del progreso moral y social, terminan volviéndose contra la humanidad.’”
Aunque la desinformación no comenzó con la IA, hoy encuentra en ella un poderoso amplificador. La capacidad de manipular contenidos, imágenes y videos expone a las personas a perspectivas sesgadas o engañosas. Este problema tiene dimensiones tanto culturales como morales, ya que la calidad de la comunicación pública depende directamente de la confianza social. Al mismo tiempo, las informaciones verdaderas no surgen del control centralizado o automatizado. Solo la búsqueda compartida de la veracidad de los hechos, percibida como un bien común, puede proporcionar una base sólida para una comunicación justa.
Una alianza educativa en busca de la verdad
El Papa pide una educación específica que debe ser dada por la familia y las escuelas a los jóvenes, a fin de evitar que la omnipresencia de los medios digitales fomente una cultura de inmediatez e hiperestimulación, que genera fatiga, aburrimiento y apatía frente al esfuerzo necesario para la búsqueda de la verdad. De ahí la responsabilidad de las escuelas, que no están llamadas a seguir el ritmo del mundo digital, sino a “ofrecer aquello que la esfera digital por sí sola no puede proporcionar, es decir, un tiempo compartido para aprender y desarrollar relaciones de confianza”.
En particular, advierte sobre una nueva forma de “colonialismo”, afirmando:
“Incluso hoy, el colonialismo asume nuevas formas. Ya no domina solo los cuerpos, sino que se apropia de los datos, transformando vidas personales en información explotable. Regiones enteras, especialmente aquellas marcadas por fragilidad estructural y relevancia geopolítica limitada, están actualmente sujetas a una nueva mentalidad de extracción: la de datos de salud, perfiles epidemiológicos, mapas genéticos e informaciones demográficas. Estos se han convertido en las tierras raras del poder: datos vitales que, una vez agregados y analizados, pueden ser usados para entrenar modelos predictivos, orientar estrategias de inversión, anticipar crisis y, sobre todo, determinar quién y qué es considerado importante.
Quienes controlan los datos de salud de pueblos enteros —muchas veces recolectados bajo el pretexto de ayuda, investigación o innovación— detentan una influencia estructural sobre el futuro, pues pueden moldear las necesidades y los mercados. También pueden decidir, antes que otros, a quién se asignarán medicamentos, inversiones y protecciones. Aquí reside uno de los desafíos morales más urgentes de nuestros tiempos: garantizar que el conocimiento compartido se convierta en un verdadero bien común y no en un instrumento de dominación.
“Esto acompaña la difusión de una ‘identidad colectiva’ en oposición a un enemigo y la reducción de cuestiones complejas a categorías simplistas en conflictos bélicos específicos: ‘yo primero’, ‘amigo o enemigo’, ‘nosotros o ellos’, lo que facilita decisiones frecuentemente irresponsables y socava la confianza mutua entre las naciones. La fuerza del Derecho Internacional es, por tanto, sustituida por la alegación de que ‘la fuerza hace el derecho’. En consecuencia, los tribunales competentes para resolver disputas entre Estados o tratar crímenes de guerra son frecuentemente debilitados o ignorados, con ramificaciones devastadoras para la cultura política y la cohesión social.”
La guerra nunca es inevitable: Reaviven el diálogo por la paz
León XIV recuerda cómo Pío XII, en vísperas de la Segunda Guerra Mundial, afirmó que “nada se pierde con la paz, mientras que con la guerra todo puede perderse”. Insistió en que las personas deben volver a conversar unas con otras, porque un diálogo sincero y perseverante siempre abre la posibilidad de una solución honorable.
Cierra su encíclica dirigiéndose “a aquellos que tienen el honor y la responsabilidad de gobernar”. Por eso, afirma que “quisiera repetir las palabras que pronuncié al inicio de mi pontificado. Los pueblos de nuestro mundo desean la paz y a sus líderes les apelo de todo corazón: ¡encontrémonos, conversemos, negociemos!
La guerra nunca es inevitable. Las armas pueden y deben ser silenciadas, pues no resuelven los problemas, solo los agravan. Quienes hacen la Historia son los pacificadores, no aquellos que siembran sufrimiento. Nuestros vecinos no son nuestros primeros enemigos, sino nuestros semejantes; no criminales a los que haya que odiar, sino otros hombres y mujeres con quienes podemos conversar. Rechacemos las nociones maniqueas tan típicas de aquella mentalidad de violencia que dividió el mundo entre buenos y malos.
*MSIA Informa
