La IA “no tiene conciencia moral” ni “comprende lo que produce”

Sin querer pasar juicios definitivos sobre la Inteligencia Artificial (IA) porque “cualquier afirmación corre el riesgo de quedar obsoleta en poco tiempo”, el papa León XIV invita a “evitar el equívoco” de equipararla a la inteligencia humana, pues la IA “no tiene conciencia moral” ni “comprende lo que produce”.

“La IA puede ser una ayuda valiosa y, al mismo tiempo, requiere un enfoque sobrio y vigilante” para que no genere “nuevas formas de exclusión”. Una exclusión que entregue a un algoritmo el peso de las grandes decisiones, en la que “la injusticia se vuelve silenciosa y la compasión, la misericordia y el perdón … desaparecen del horizonte”.

Son afirmaciones de la esperada primera encíclica del papa León XIV “Magnífica humanitas” presentada este lunes, y que versa “sobre la protección de la persona humana en la era de la Inteligencia Artificial”.

Así como su predecesor del mismo nombre, León XIII, lanzó hace 135 años la encíclica “Rerum novarum” sobre las “nuevas cosas” que entonces aparecían (la industrialización, los obreros, la cuestión social), y puso las bases de la Doctrina Social de la Iglesia (salario justo, jornada laboral humana, derecho a la sindicalización), hoy el papa reconoce que “la digitalización, la inteligencia artificial y la robótica están transformando nuestro mundo” por lo que “ahora nos toca a nosotros asumir con lucidez y responsabilidad las realidades de nuestro tiempo”, preguntándonos, en primer lugar, “quién detenta hoy este poder y hacia qué fines lo orienta”.

El nombre de las encíclicas, como sabemos, viene de las primeras palabras de ellas, en el latín original. Esta comienza con una afirmación plena sobre la humanidad, a la que el papa califica de magnífica y, de inmediato entra, como buen hijo de san Agustín, al tema de las dos ciudades, o dos visiones del mundo: “La magnífica humanidad creada por Dios se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o construir una ciudad donde Dios y la humanidad convivan juntos”.

La nueva encíclica no es una pieza inquisitorial que fustigue los males de la IA, sino que advierte sobre sus peligros, a la vez que propone un nuevo paradigma social, basado en el diálogo y en la extrema dignidad de toda persona humana frente al “control social” y las “nuevas esclavitudes” del algoritmo y los poderosos.

“No podemos considerar que la IA sea moralmente neutra”, plantea el papa e invita a la transparencia y a la prudencia, para “debatir el código ético que se va a utilizar” en la IA. “De lo contrario —añade— quienes controlan la IA impondrán su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas”.

Por ello, el papa lanza la tesis de “desarmar la IA” para “impedir que domine a lo humano”. El concepto, dice, se asemeja al “desarme nuclear” predicado por la Iglesia, porque, “al igual que la energía nuclear, [la IA] debe estar al servicio de todos y del bien común". Y “las decisiones sobre la tecnología nunca deben separarse de la conciencia y la responsabilidad”.

Este riquísimo texto de 110 páginas en su versión en castellano (una Introducción, cinco capítulos y una conclusión, desarrollados en 245 puntos), escrito con el mismo lenguaje claro de las encíclicas del papa Francisco, contiene muchas referencias a escritos de este y de otros papas, y también de San Agustín, Platón o Tomás de Aquino, y de literatos y personajes del siglo XX, como Romano Guardini, Anna Harendt, Giorgio La Pira o Viktor Frankl ("El hombre es ese ser que inventó las cámaras de gas de Auschwitz; sin embargo, es también ese ser que entró precisamente en esas cámaras de gas con el Padrenuestro o el Shemá Israel en los labios", afirma ). Y cita también a J.R.R. Tolkien para defender la necesidad de no rendirse ante lo aparentemente inevitable.

No hace solo referencias literarias. Menciona otras formas artísticas, como cuando señala cómo "algunas obras han adquirido un valor casi profético: la Novena de Beethoven como deseo de unidad; el Guernica como denuncia de la deshumanización; la Lista de Schindler como invitación a no entregar el pasado al olvido". Y también recuerda a los santos laicos, que contribuyeron a cambiar el signo de la historia: Martin Luther King o Nelson Mandela, pero también a "mujeres valientes y generosas", como santa Laura Montoya, santa Teresa de Calcuta, Dorothy Day, Maria Sklodowska-Curie, Maria Montessori, Elisabeth Elliot, Wangari Maathai o Benazir Bhutto. Y a tres nombres que resuenan en esa Iglesia que lucha, hasta la muerte, por la dignidad y la justicia: Maximiliano Kolbe, Óscar Romero y Enrique Angelleli, a los que suma al cardenal Van Thuan y, con ellos, a "los mártires de lo cotidiano". Símbolos de esa 'magnífica humanidad' que rezuma la encíclica.

Una perla es su afirmación de que la fragilidad humana no es un error que deba corregir un algoritmo, “Por eso la humanidad —magnífica y herida— no debe ser sustituida ni superada … Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el comienzo de un cambio profundo. El futuro de una persona no es calculable, está confiado a su libertad”, clama el papa.

León XIV vuelve a apostar por el diálogo y el multilateralismo. “Cualquier intento o proyecto de eliminar o someter a una nación es gravemente inmoral y, por lo tanto, inaceptable”, asegura (en una frase que algunos creen dirigida contra Donald Trump), parte de su llamado a la paz y a fortalecer a la ONU.

Termino este brevísimo e insuficiente comentario recomendando la lectura de la encíclica, fácil de localizar en el sitio web del Vaticano.