'Magnifica Humanitas': el papa León XIV pide en su primera encíclica luchar contra el "dominio" de la IA y la "deshumanización"

La inteligencia artificial no es sólo el futuro Es una realidad y un peligro real, por lo que el papa León XIV dedicó la primera encíclica de su pontificado a este fenómeno. Prevost hizo un llamamiento a luchar contra el "dominio" de la IA en un documento en el que también denuncia la "deshumanización" y el concepto de "guerra justa".

Justo después de la festividad de Pentecostés, recordando la lectura de la confusión de lenguas en el génesis tras el diluvio el papa pone al ser humano ante un nuevo reto vital e histórico: "La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos". 

Con motivo del 135.º aniversario de la Rerum novarum, -el documento está firmado el 15 de mayo, el mismo día que la encíclica de León XIII, a pesar de que se publique hoy- el pontífice abre una línea de reflexión y actualización sobre la doctrina social de la Iglesia católica en la era de la inteligencia artificial. Es un llamamiento a custodiar "una magnífica humanidad habitada por Dios". Para ello, León XIV considera necesario la promoción de la verdad, la dignidad del trabajo, la justicia social y la paz. 

Las encíclicas son documentos dirigidos a todos los fieles que fijan la posición de referencia de la Iglesia sobre cuestiones sociales, morales, políticas o teológicas. En esta ocasión, el texto de 130 páginas, llamado Magnifica Humanitas ("Magnífica humanidad"), aborda multitud de cuestiones, como el retraso de la Iglesia en condenar la esclavitud o el impacto de la inteligencia artificial (IA) en el medio ambiente.

"Desarmar" la IA para "impedirle el dominio sobre lo humano"

Dada la importancia del documento, el papa lo presentó él mismo junto a expertos en IA, entre ellos el cofundador de la compañía Anthropic, Christopher Olah. "No podemos considerar a la IA como moralmente neutra", indica el papa, pidiendo "desarmar" esta tecnología para "impedirle el dominio sobre lo humano".

El papa denuncia también que el control de las plataformas, las infraestructuras y los datos "no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso".

Denuncia de "las nuevas formas de esclavitud"

Citando entre otros a Platón o J.R.R. Tolkien por su lucha contra la deshumanización, el papa estadounidense critica las "nuevas formas de esclavitud" para extraer los recursos necesarios para la IA y pide soluciones tecnológicas más sostenibles "para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común".

"En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras", un grupo de metales esenciales para la tecnología moderna. "Cuerpos marcados, mutilados, desgastados para que el flujo de cálculos no se interrumpa", denuncia el papa.

Más allá de los desafíos tecnológicos, el papa advierte sobre el riesgo de "deshumanización", alertando contra una visión del ser humano reducido a su rendimiento o a datos explotados por máquinas.

La tecnología no es una "fuerza antagónica respecto a la persona"

No obstante, a través de los en cinco capítulos, más una introducción y una conclusión, en los que se divide  Magnifica Humanitas, ésta parte de una premisa: la tecnología no es una "fuerza antagónica respecto a la persona", ni "un mal en sí misma". Sin embargo, "no es neutra, porque asume el rostro de quien la concibe, la financia, la regula y la utiliza". 

Por ello, el pontífice invita  "construir en el bien" y a "permanecer humanos", de acuerdo con la lógica de la corresponsabilidad valiente, de la subsidiariedad, de la comunión, para que "el mundo pueda reconocer… en el corazón del ser humano el lugar donde Dios desea habitar".

Desmontando el concepto de "guerra justa"

"Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", escribe León en la encíclica.. Sin mencionar nombres, el soberano pontífice reitera la necesidad de "superar la teoría de la 'guerra justa'", un concepto defendido, entre otros, por la administración de Donald Trump, y lamenta que la humanidad esté "cayendo en la cultura violenta del poder" que normaliza la guerra como "instrumento de política internacional".

En abril, la Casa Blanca criticó al papa por afirmar que "Dios no escucha las oraciones de quienes hacen la guerra", en el contexto del conflicto en Oriente Medio.

El papa lamentó asimismo que las narrativas mediáticas polarizantes están perjudicando a la opinión pública, y lamentó "una preocupante pérdida de memoria histórica" que nos priva de una visión a largo plazo. Por ello, hoy la paz ya no se entiende como una tarea que hay que asumir, sino como un intervalo precario entre conflictos. 

Por ello, León XIV subrayó que -sin perjuicio del derecho a la legítima defensa en su sentido más estricto- es necesario superar la teoría de la "guerra justa", promoviendo más bien el diálogo, la diplomacia y el perdón.

En este sentido, León XIV llama a relanzar el diálogo pasando de una cultura del poder a una cultura de la negociación. Algo en lo que también es clave el "el diálogo entre las religiones", portador de un mensaje de paz: "Quien utiliza el nombre de Dios para legitimar el terrorismo, la violencia o la guerra, traiciona su rostro. Luchar en nombre de la religión significa, en realidad, golpear a la propia religión". 

Además, el papa destacó que la diplomacia de la Santa Sede utiliza "el principio evangélico de la misericordia" como criterio concreto de la acción política. De ahí deriva la exhortación a la oración, porque la paz proviene ante todo de Dios

La familia, bien social primario

La encíclica subraya, además, la importancia de la familia, fundada en la unión estable entre un hombre y una mujer. León XIV apuntó que se trata de un "bien social primario", "célula fundamental e insustituible de toda organización comunitaria" que debe ser apoyada también mediante políticas laborales que favorezcan la estabilidad y ritmos humanos, de modo que se garantice el justo equilibrio de vida y se proteja esa "capacidad de construir el futuro" que hace generativa a la sociedad.

Un texto surgido de la "escucha" a expertos y la preocupación por los jóvenes

En una rueda de prensa este lunes, el papa explicó que este texto surgió de "la escucha", tras dialogar con científicos, ingenieros, responsables políticos, padres y docentes "preocupados" por las jóvenes generaciones.

"Necesitamos que más actores en el mundo —comunidades religiosas, sociedad civil, investigadores, gobiernos— hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, examinarlo con atención y orientar los acontecimientos en una dirección mejor", declaró por su parte Christopher Olah.

Magnifica Humanitas culmina varios años de reflexión dentro la Iglesia católica sobre las tecnologías relacionadas con la IA. En 2020, la Santa Sede lanzó, junto a empresas digitales e instituciones académicas, el llamamiento de Roma para una ética de la IA, en el que abogaba por un desarrollo tecnológico respetuoso con la dignidad humana.