El papa León XIV sostuvo este lunes que «la inteligencia artificial necesita ser desarmada». «La palabra es fuerte, lo sé, pero elegida deliberadamente, porque este momento necesita palabras capaces de llamar la atención, despertar las conciencias e indicar caminos a seguir para la humanidad», afirmó. «Como la energía nuclear, debe estar al servicio de todos y del bien común», afirmó durante la presentación en el Vaticano de la carta encíclica ‘Magnifica humanitas’ sobre la doctrina social de la Iglesia en tiempos de la inteligencia artificial.
Prevost comparó la IA con el desarme nuclear, por el que la Iglesia católica también ha abogado en términos de la necesidad de un control público, el sumo pontífice sostuvo que, «en un sentido similar, la inteligencia artificial exige ahora ser desarmada, liberada de lógicas que la convierten en un instrumento de dominación, exclusión y muerte».
«La paz, no solo la ausencia de guerra, es la justicia en acción, pero cuando la tecnología debilita nuestro sentido crítico, la paz misma está en peligro», advirtió.
En su encíclica, el Papa advierte sobre la cuestión de la propiedad de los datos, que “no puede confiarse sólo al sector privado” ni quedar “vendida o confiada a unos pocos”. En este sentido, reclama una mayor regulación, al tiempo que alerta de que la “IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos”. «En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA», afirma en su carta.
Para León XIV, los principios de la Doctrina Social de la Iglesia —la dignidad de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia— deben orientar la toma de decisiones como “criterios para juzgar si las tecnologías sirven realmente a la humanidad o terminan por someterla”.
“El riesgo no es sólo que algunas tecnologías se usen mal, sino que el paradigma tecnocrático en el que estamos inmersos, potenciado por la revolución digital y la IA, haga parecer justa y normal una visión antihumana, según la cual la plenitud de la vida consistiría en tener más, reducir la fragilidad, eliminar lo imprevisto y controlarlo todo”, advierte en Magnifica humanitas. «Más aún, en la era de la IA y de la robótica, ya no es posible confiar únicamente en la “mano invisible” del mercado: la política tiene la tarea de orientar las dinámicas económico-tecnológicas hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación», agrega.
Critica las ideologías del transhumanismo y el posthumanismo: «El transhumanismo y el posthumanismo comprenden en su interior una pluralidad de corrientes y sensibilidades, y resulta difícil hacer una descripción unívoca de ellas. Pueden ser comparadas con un archipiélago de islas conceptuales diferentes, pero unidas por el mismo mar de presupuestos: la centralidad de la técnica y el sueño de superar los límites de la condición humana. En general, el transhumanismo imagina una potenciación del ser humano por medio de las tecnologías —biomedicina, ingeniería del cuerpo, dispositivos, algoritmos—, con la aspiración de incrementar el rendimiento y las capacidades. El posthumanismo, sobre todo en sus versiones más radicales, va más allá: critica el antropocentrismo y plantea una forma de hibridación entre el ser humano, la máquina y el ambiente, hasta imaginar que atravesará el umbral en el que la humanidad se superará a sí misma, entrando en una nueva etapa evolutiva. Aun cuando estas hipótesis siguen siendo en gran parte especulativas, van adquiriendo relevancia, porque modifican el imaginario colectivo y, en consecuencia, orientan las decisiones sociales, económicas y políticas. El punto crítico, a la luz de la Doctrina social de la Iglesia, no es el uso de la técnica en cuanto tal, sino la visión que allí subyace; si el ser humano es tratado como materia para ser perfeccionada o superada, entonces se vuelve más fácil aceptar que algunos sean considerados menos útiles, menos deseables, menos dignos. En nombre del progreso se puede llegar a pensar en “sacrificios necesarios”, y hacer pagar a los más vulnerables el precio de una presunta optimización de la especie. La ya mencionadaadvertencia de san Pablo VI sigue siendo una gran intuición: realmente las conquistas de la ciencia y de la técnica, desvinculadas del progreso moral y social, terminan por volverse contra el hombre. Por ello es necesario distinguir con claridad: una cosa es integrar las tecnologías en una visión humana y relacional; otra es dejarse guiar por un imaginario que desprecia el límite y promete una “salvación” puramente técnica».
León XIV cita De Civitate Dei (La ciudad de Dios): “‘Dos amores han dado origen a dos ciudades: el amor de sí mismo hasta el desprecio de Dios, la terrena; y el amor de Dios hasta el desprecio de sí, la celestial”. A lo largo del documento, el Papa recurre a imágenes bíblicas para explicar el desafío actual: la humanidad —afirma— debe elegir entre construir la Torre de Babel (Génesis 11, 1-9) o reconstruir una ciudad donde Dios y el hombre puedan convivir, como hizo Nehemías tras el exilio en Babilonia. “A la luz de estas dos imágenes, el Espíritu Santo hoy nos interpela acerca de nuestra relación con la tecnología y con la revolución digital en curso”, escribe. “La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias”. El Papa denuncia así el “síndrome de Babel”, que identifica con “la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias y la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”.
En Magnifica humanitas, también advierte contra el mito del moderno Prometeo, recordando que lo que salva al hombre “no es la autosuficiencia potenciada, sino una relación que libera, una comunión que transforma”.
Prevost dedica una parte relevante del documento a denunciar “un preocupante resurgimiento de la guerra como instrumento de la política internacional”, el uso de la IA en los conflictos armados y la erosión de los principios éticos que limitaban la guerra. Asimismo, pide superar la teoría de la “guerra justa”, subrayando que existen herramientas más eficaces para resolver los conflictos: “el diálogo, la diplomacia y el perdón”. En otro pasaje, alerta de que “la Babel moderna no es sólo el paradigma tecnocrático globalizado, sino también el enfrentamiento a distancia entre imperialismos contrapuestos”, junto a una creciente carrera tecnológica “según una dinámica deshumanizante que parece no conocer límites”.
La encíclica recurre a Platón para advertir sobre el uso de la IA en la educación: «Educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla. La rapidez y la facilidad con las que se obtiene una respuesta o una síntesis hacen correr el riesgo de que se apague el deseo de plantear preguntas, que sólo da fruto con el tiempo. Como escribe Platón, las cosas más profundas e importantes sólo se aprenden tras mucho tiempo y mucho esfuerzo, comprometiéndose en la discusión con los demás para “frotar” los conceptos y las experiencias como si fueran pedernal, hasta que en nosotros salte la chispa de la comprensión. Debemos aprender a prescindir de la IA y proteger a nuestros jóvenes de la promesa de la máquina perfecta, de esa sutil seducción que hace parecer inútil el pensamiento humano precisamente cuando más se necesita.
El Pontífice cita también al escritor católico del siglo XX John Ronald Reuel Tolkien, en concreto El Señor de los Anillos: El Retorno del Rey, la conclusión épica de su célebre trilogía. A través de uno de sus personajes, se recuerda la responsabilidad moral de cada generación. “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”, escribe el Papa en la encíclica.
