Cuando León XIV eligió el nombre con el que sería conocido por la historia, estaba enviando una señal. Quiso llamarse como León XIII, el papa que en 1891 publicó Rerum Novarum, la encíclica que marcó la respuesta de la Iglesia a los desafíos de la revolución industrial. Más de un siglo después, su sucesor cree que el mundo atraviesa una transformación de dimensiones similares.
Irán lanza advertencia a EE.UU. y pone en duda el acuerdo
Redacción MundoPor eso su primera encíclica, Magnifica Humanitas (”Magnífica humanidad”), no es solamente un documento sobre inteligencia artificial. Es, sobre todo, una reflexión sobre el poder, la dignidad humana y los riesgos de una época en la que la tecnología avanza más rápido que la capacidad ética para gobernarla.
El Papa da inicio a la encícilica de 111 páginas en su versión digital a través de metáforas, recordando la Torre de Babel, una historia que se narra en el Génesis cuando un grupo de personas pretende llegar al cielo dando la espalda a Dios, sacrificando la dignidad del pueblo en aras de la eficiencia y culminando con la dispersión de todos. Por otro lado recuerda también la reconstrucción de las murallas de Jerusalén tras el exilio babilónico, cuando Nehemías convocó a las familias judías dividiéndose por tramos las murallas y trabajando de forma unida. Es por eso que el papa reflexiona: “La primera decisión no es sí o no a la IA, es si construimos Babel o Jerusalén”.
El Papa ve en la inteligencia artificial el riesgo de construir una nueva torre, un sistema único guiado por una sola lógica de poder y control. Frente a esa posibilidad, propone exactamente lo contrario: pluralidad, diálogo, regulación democrática y responsabilidad ética.
A primera vista podría parecer un texto técnico, sin embargo no lo es. A lo largo de sus páginas, León XIV utiliza la inteligencia artificial como una puerta de entrada para hablar de algunos de los grandes dilemas contemporáneos, la guerra, el desempleo, la manipulación de la información, las nuevas formas de colonialismo y la creciente concentración del poder en manos de unos pocos actores tecnológicos. Nunca antes la humanidad había desarrollado herramientas capaces de intervenir simultáneamente en la economía, la política, la cultura, la educación y los conflictos armados con la velocidad y alcance que hoy posee la inteligencia artificial.
Por eso una de las expresiones más contundentes de la encíclica es también una de las más provocadoras: la inteligencia artificial necesita ser “desarmada”.
La palabra no aparece asociada únicamente a los sistemas militares. El pontífice la utiliza para cuestionar una lógica más profunda, aquella que convierte la tecnología en instrumento de dominio, exclusión o control. Desarmar la IA significa impedir que el poder tecnológico se transforme automáticamente en autoridad moral.
“Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar”, escribe. No se trata de renunciar a la innovación o de hacer resistencia a un futuro inevitable, sino de impedir que la innovación termine gobernando lo humano.
La preocupación atraviesa buena parte del documento. León XIV advierte que quienes controlen los sistemas de inteligencia artificial tendrán la capacidad de imponer visiones morales, orientar consumos, influir en procesos democráticos y moldear comportamientos colectivos. Lo que antes ocurría a través de la fuerza militar o económica podría ahora realizarse mediante algoritmos invisibles al alcance de todos los que tenemos un celular en nuestro bolsillo.
En ese contexto, el Papa introduce uno de los conceptos más sugerentes de la encíclica, el del “colonialismo digital”. Así como en otros siglos los imperios se apropiaron de territorios y recursos, hoy existe el riesgo de que unos pocos centros de poder acumulen datos, conocimiento e influencia sobre sociedades enteras.
León XIV observa con inquietud la forma en que los algoritmos favorecen la polarización, amplifican el enfrentamiento y erosionan la memoria colectiva, perdiendo de vista el pasado en el desespero por mirar hacia el futuro. El líder religioso advierte que la desinformación puede convertirse en una amenaza estructural para la convivencia democrática y lamenta que las nuevas generaciones crezcan en entornos donde las noticias falsas circulan con la misma velocidad que los hechos comprobados. “La opinión pública se orienta y acostumbra progresivamente a narrativas mediáticas polarizadas”, señala el pontífice.
Pero quizá el apartado más contundente sea el dedicado a la guerra, una causa frente a la que se ha parado firme desde el principio de su papado.
La inteligencia artificial y el dolor de la guerra
La inteligencia artificial, advierte, no elimina la brutalidad inherente de los conflictos. Por el contrario, corre el riesgo de volverlos más rápidos, más impersonales y más frecuentes. Cuando una máquina participa en la identificación de amenazas o en la toma de decisiones militares, las víctimas pueden terminar reducidas a simples datos. Por eso rechaza de manera frontal cualquier intento de automatizar decisiones relacionadas con la vida humana. Una máquina puede calcular. Puede predecir. Puede procesar millones de datos pero no puede distinguir entre el bien y el mal. Por eso el texto es cimentado en la Doctrina Social de la Iglesia, un conjunto de enseñanzas que guian a través de principios morales la vida en sociedad según la iglesia católica y que tiene como centro la dignidad humana.
Las máquinas no conocen la compasión. No experimentan alegría ni sufrimiento. No aman. No perdonan. No establecen relaciones auténticas con otros seres humanos. La inteligencia humana, sostiene, no puede reducirse a una capacidad de cálculo. Por eso la IA no puede considerarse moralmente neutra pues toma el rostro “de quien la financia, la consume y la utiliza”, menciona el Padre Ignacio Amorós en el pódcast Se buscan rebeldes.
La pregunta que atraviesa Magnifica Humanitas no es qué puede hacer la inteligencia artificial, sino qué tipo de humanidad queremos preservar mientras la construimos por eso el pontífice retoma las reflexiones del San Pablo VI (elegido papa en 1963), quien decía que “los avances técnicos más prodigiosos sino van acompañados de un autentico progreso social y moral se vuelven en definitiva en contra del ser humano”.
La gran conclusión es entonces la de la humanidad. “La IA, ¿hace la vida del hombre sobre la tierra, “más humana”?; ¿la hace más “digna del hombre”?