La Inteligencia Artificial “no es neutral” y abre la puerta a la manipulación y prejuicios de sus creadores, dice el papa León XIV en su primera encíclica, 'Magnifica Humanitas'

La Inteligencia Artificial (IA) “no es neutral" y hay que evitar que se concentre en pocas manos que la puedan utilizar para manipular la información, violar la privacidad o reforzar estereotipos o posiciones ideológicas de quienes la han diseñado, advierte el papa León XIV en su primera encíclica, ‘Magnifica Humanitas’, publicada este lunes 25 de mayo.

• Más allá de Elon Musk y Sam Altman, estos son 9 personajes poderosos de la IA que replantean el mundo en el que vivimos

El papa advierte en su documento de "usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad", y también de un engaño más sutil cuando los sistemas, "presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado".

En el primer gran documento de su pontificado, publicado este lunes, León XIV, matemático y canonista, sigue los pasos de la Rerum Novarum de León XIII para actualizar la Doctrina Social de la Iglesia ante uno de los principales retos de la época contemporánea: la IA.

Ante esta nueva revolución, el papa reclama "un orden social justo en la era digital", "marcos jurídicos adecuados", "reglas justas" y "mecanismos de protección eficaces".

Entre sus primeras reflexiones en las 110 paginas del documento sostiene que "las innovaciones tecnológicas —incluida la inteligencia artificial— no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión".

• Texto completo de la encíclica Magnífica Humanitas

El texto no es un tratado técnico sobre la IA ni tampoco una condena a las nuevas tecnologías, de las que aprecia su valor, sino una relectura de la Doctrina Social de la Iglesia aplicada a esta nueva revolución digital ante el riesgo de que se extienda el transhumanismo.

Estos son los temas que aborda el papa en su encíclica:

1. La tecnología no debe concentrarse en manos de unos pocos: Las tecnologías no se deben concentrar en manos de unos pocos, alimentando la brecha entre los incluidos y los excluidos de la revolución digital.

2. Se necesita un código ético compartido sobre la IA: Es necesario abordar la IA con sobriedad y vigilancia, manteniendo la claridad sobre las responsabilidades de todas sus etapas y apostando por políticas y marcos jurídicos adecuados, una supervisión independiente y la educación de los usuarios. Sobre todo, se necesita un código ético sometido a criterios de justicia social compartida, porque no sirve una IA más moral si esa moral la deciden unos pocos.

3. Desarmar la IA y sustraerla de la lógica competitiva: Hay que desarmar la IA para sustraerla de la lógica de la competencia militar, económica y cognitiva; para romper la equivalencia entre poder técnico y derecho a gobernar; para sustraerla de los monopolios e impedir que domine al ser humano.

4. El trabajo debe centrarse en la persona, no en el beneficio: En la 'cuarta revolución industrial' que representa la transición digital, el pontífice destaca la importancia de proteger la dignidad y el valor del trabajo porque las nuevas formas de trabajar no son necesariamente mejores, ya que la tecnología puede descalificar a los trabajadores.

5. Superar la teoría de la guerra justa: La revolución digital está modificando la gramática de los conflictos y, sin un enfoque ético, las decisiones sobre la vida y la muerte de las personas serán cada vez más impersonales, considerándose el recurso a la fuerza como una opción inmediata y viable. En la base de todo hay una cultura del poder que normaliza la guerra y la rehabilita como instrumento de política internacional, favoreciendo el rearme. Ningún algoritmo hace que la guerra sea moralmente aceptable.

6. Es inmoral e inaceptable eliminar o someter a una nación: La promoción del bien común no puede separarse nunca del respeto al derecho de los pueblos a existir, a custodiar su propia identidad y a contribuir con su originalidad a la familia de las naciones.

7. La crisis del multilateralismo: La fuerza del derecho se sustituye por el derecho del más fuerte; las lógicas del poder prevalecen sobre la construcción de la paz, relegada a un segundo plano, y las instituciones creadas para custodiar el destino común de los pueblos se encuentran ahora debilitadas, sin que se reconozca su autoridad moral. A este respecto, el papa auspicia para la ONU y para el sistema político internacional reformas profundas que superen la actual crisis de valores en favor del verdadero bien común

8. Proteger la dignidad humana: Pide defender el derecho a la vida, desde la concepción hasta su final natural y define el aborto provocado, el asesinato de inocentes y la eutanasia como 'decisiones gravemente ilícitas', así como pide reconocer el derechos de las minorías, con especial atención a las mujeres.

9. La civilización del amor: El cristiano está llamado a responder a esta cultura del poder construyendo la civilización del amor y al concluir la carta, León XIV invita a los fieles a vivir las nuevas tecnologías a la luz del Evangelio para que, incluso en la era de la IA, todos puedan dar testimonio de la belleza de una magnífica humanidad habitada por Dios.