El Papa León XIV acaba de publicar Magnifica Humanitas, la primera encíclica de la historia dedicada específicamente a la inteligencia artificial y su impacto en la humanidad. El documento no es una condena tecnológica, es una reflexión profunda sobre qué tipo de sociedad queremos construir.
Para quienes trabajan en innovación, empresa o política, entender su contenido es relevante, debido a las preguntas que plantea que pocas instituciones se atreven a formular con esta claridad.
Babel o Jerusalén
El Papa estructura todo el documento alrededor de dos imágenes bíblicas, la Torre de Babel y la reconstrucción de Jerusalén por Nehemías.
Babel representa la tecnología puesta al servicio del poder, la uniformidad y la autosuficiencia. Jerusalén, en cambio, es la reconstrucción compartida, pieza a pieza, con responsabilidad distribuida y un horizonte común.
“No se trata de una decisión sobre nuestro futuro, sino sobre nuestro presente, porque la IA y las demás tecnologías emergentes ya son parte de nuestra vida cotidiana.”
Esta distinción no es filosófica en abstracto, el Papa la aplica a decisiones muy concretas sobre cómo se diseña, financia, regula y usa la inteligencia artificial hoy.
La IA no es neutra
Uno de los puntos más directos del documento es la afirmación de que la inteligencia artificial no es moralmente neutra. Cada sistema lleva consigo decisiones sobre qué mide, qué ignora, qué optimiza y cómo clasifica a las personas.
Esto choca con el discurso habitual de la industria, que tiende a presentar los algoritmos como herramientas objetivas. La encíclica argumenta que esa supuesta neutralidad es precisamente el problema, ya que, cuando un sistema descarta a personas sin posibilidad de apelación, no es un fallo técnico sino una decisión ética inscrita en el diseño.
El documento es especialmente crítico con la concentración de poder en pocas plataformas privadas que controlan datos, infraestructuras y capacidad de cálculo a escala global. Señala que este poder, predominantemente privado, es difícil de gobernar y puede orientarse contra el bien común.
Qué pide la encíclica a empresas, gobiernos y desarrolladores
León XIV no se limita al diagnóstico. El documento contiene peticiones concretas dirigidas a actores específicos.
A los desarrolladores de IA, les pide asumir un peso ético y espiritual por cada decisión de diseño. Compara su responsabilidad con la de un autor literario, lo que se construye expresa una visión de la humanidad.
A los gobiernos y organismos supranacionales, les exige marcos jurídicos adecuados, vigilancia independiente y la capacidad de ralentizar la adopción de tecnologías cuando la conciencia colectiva no ha madurado lo suficiente para gobernar sus efectos.
A las empresas, les recuerda que la creación de empleo digno no es una variable dependiente del beneficio, sino parte esencial de su función social.
“Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana.”
El trabajo en el centro
Uno de los capítulos más concretos de la encíclica aborda la transformación del trabajo en la era digital. La automatización no es mala en sí misma, pero no puede tener como único criterio la reducción de costes.
El documento cita expresamente el riesgo de que los trabajadores sean sometidos a la velocidad de las máquinas en lugar de que las máquinas estén diseñadas para ayudarles. Y señala que la desestabilización del empleo tiene consecuencias que van mucho más allá de los ingresos ya que afecta a la identidad, las relaciones y el sentido de pertenencia de las personas.
La encíclica defiende que el acceso al trabajo para todos debe seguir siendo un objetivo prioritario de las políticas públicas, y propone como criterio de éxito empresarial algo que va más allá de la productividad, la calidad y la dignidad del trabajo generado.
Desinformación, democracia y el problema de la verdad
El documento dedica un capítulo entero a la relación entre la verdad, la comunicación digital y la democracia. Su tesis principal es que la desinformación no es un accidente del entorno digital, sino que tiene en la IA un multiplicador potente.
León XIV no pide un control centralizado de la información, sino lo contrario, una ecología de la comunicación basada en la transparencia algorítmica, el fortalecimiento del periodismo independiente y la formación crítica desde la escuela.
Recuperando a Hannah Arendt, el Papa advierte que el totalitarismo prospera no cuando se convence a la gente de mentiras concretas, sino cuando se borra la distinción entre hechos y ficción. La IA, mal gestionada, puede acelerar ese proceso.
IA y guerra
Quizás el apartado más directo del documento es el dedicado a la inteligencia artificial en contextos bélicos. La encíclica condena sin ambigüedad la delegación de decisiones letales en sistemas automatizados.
“No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable. La IA no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal.”
El documento exige que cualquier sistema empleado en el ámbito bélico garantice trazabilidad y responsabilidad humana efectiva, y llama a la negociación de reglas internacionales que frenen la carrera armamentística tecnológica.
Lo que la encíclica no dice
Es importante leer el documento con perspectiva. Magnifica Humanitas no ofrece soluciones técnicas ni propone un modelo regulatorio concreto. Tampoco condena la IA como tecnología, la reconoce como una ayuda valiosa en múltiples campos.
Lo que sí hace es fijar un marco de valores desde el que evaluar decisiones concretas. Un marco centrado en la dignidad de la persona, el bien común, la subsidiariedad y la justicia social, conceptos que la Doctrina Social de la Iglesia lleva más de un siglo desarrollando.
Para quienes trabajan en el sector tecnológico, leerlo como un texto de crítica externa sería un error. Sus preguntas, qué optimizamos, para quién, con qué responsabilidad, son exactamente las que cualquier organización seria debería hacerse antes de desplegar sistemas de IA a escala.
Una encíclica para leer aunque no se sea creyente
Magnifica Humanitas es un documento largo y denso, pero su mensaje central es accesible. La tecnología no tiene dirección propia, la construimos nosotros con cada decisión de diseño, inversión y regulación.
Uno de los momentos más inesperados del documento es cuando el Papa cita a J.R.R. Tolkien para resumir esta idea. A través de las palabras de Gandalf en El Señor de los Anillos, León XIV escribe: «No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza.»
En un momento en que el debate público sobre la IA oscila entre el entusiasmo acrítico y el pánico apocalíptico, el Papa propone algo más difícil, el discernimiento. Ver con claridad lo que se gana y lo que se pierde, y elegir con responsabilidad.
Eso, con independencia de la fe de cada uno, parece una contribución que merece leerse.
