El papa León XIV advierte: ”Corremos el riesgo de acostumbrarnos a delegar en los algoritmos” decisiones humanas

El papa León XIV volvió a advertir el miércoles contra la tentación de delegar en los algoritmos decisiones que competen únicamente a la responsabilidad humana, en un contexto de creciente inquietud por las derivas de la inteligencia artificial (IA).

La advertencia en la audiencia general

"El desarrollo tecnológico, la difusión de los medios de comunicación de masas y de las redes sociales, el recurso cada vez mayor a la inteligencia artificial abren nuevas posibilidades, al derribar las barreras y las distancias", declaró el papa estadounidense durante su audiencia general semanal en el Vaticano.

"Por otra parte, las relaciones tienden a volverse cada vez menos personales, cada vez más virtuales, y corremos el riesgo de acostumbrarnos a delegar en los algoritmos decisiones que solo competen a la conciencia humana", advirtió ante los miles de fieles congregados en la plaza de San Pedro.

"Velar para que las relaciones sociales tengan una verdadera consistencia y una profundidad personal es, en este sentido, la contribución que la comunidad cristiana se propone ofrecer", añadió León XIV.

La Santa Sede también ha multiplicado en estos últimos meses las intervenciones e iniciativas a favor de una gobernanza internacional de la IA basada en la dignidad humana, especialmente en los ámbitos nuclear, cultural y de la creación artística.

Una preocupación que crece por incidentes recientes

El pontífice estadounidense dedicó en mayo su primera encíclica, Magnifica Humanitas (Magnífica humanidad), a la IA con un llamamiento a "desarmar" esta tecnología para "impedirle el dominio sobre lo humano".

La preocupación en torno a esta cuestión creció en las últimas semanas, debido a varios incidentes de seguridad y a la nueva propensión de los modelos de inteligencia artificial a mejorar por sí mismos, sin intervención humana. El debate se centra hoy también en la capacidad del sector para autorregularse después de que los grandes ejecutivos de OpenAI, xAI y Anthropic instaran a pisar el freno.

La primera encíclica: Magnifica Humanitas

El papa León XIV pidió luchar contra el "dominio" de la inteligencia artificial en su primera encíclica publicada semanas atrás, un documento que también denuncia la "deshumanización" y el concepto de "guerra justa". El texto de 130 páginas aborda multitud de cuestiones, como el retraso de la Iglesia en condenar la esclavitud o el impacto de la inteligencia artificial en el medioambiente.

Dada la importancia del documento, el papa lo presentó él mismo junto a expertos en IA, entre ellos el cofundador de la compañía Anthropic, Christopher Olah.

"No podemos considerar a la IA como moralmente neutra", indica el papa, pidiendo "desarmar" esta tecnología para "impedirle el dominio sobre lo humano". El papa denuncia también que el control de las plataformas, las infraestructuras y los datos "no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso".

Las condiciones laborales detrás de la tecnología

Citando entre otros a Platón o J. R. R. Tolkien por su lucha contra la deshumanización, el papa estadounidense critica las "nuevas formas de esclavitud" para extraer los recursos necesarios para la IA y pide soluciones tecnológicas más sostenibles "para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común".

"En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras", un grupo de metales esenciales para la tecnología moderna. "Cuerpos marcados, mutilados, desgastados para que el flujo de cálculos no se interrumpa", denuncia el papa.

Contra las "guerras justas" y la deshumanización

El obispo de Roma también aprovecha la encíclica para pedir "perdón" por el retraso histórico de la Iglesia en condenar la esclavitud. Más allá de los desafíos tecnológicos, el papa advierte sobre el riesgo de "deshumanización", alertando contra una visión del ser humano reducido a su rendimiento o a datos explotados por máquinas.

Desde su elección hace un año, el primer papa estadounidense de la historia ha multiplicado las advertencias sobre los peligros de la IA, especialmente su uso en el ámbito militar, y la necesidad de una "alfabetización digital". "Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", escribe León en la encíclica.

Años de reflexión de la Iglesia sobre la IA

Los expertos creen que el impacto de Magnifica Humanitas podría ser comparable al de la encíclica Laudato Si de 2015, en la que el papa Francisco abordaba la cuestión ecológica y que desencadenó una ola de reacciones en todo el mundo.

Magnifica Humanitas culmina varios años de reflexión dentro de la Iglesia sobre las tecnologías relacionadas con la IA. En 2020, la Santa Sede lanzó, junto a empresas digitales e instituciones académicas, el Llamamiento de Roma para una ética de la IA, en el que abogaba por un desarrollo tecnológico respetuoso con la dignidad humana.