O papa León XIV vén de publicar a súa primeira encíclica, Magnifica Humanitas -"Humanidade magnífica", en galego-, un extenso documento sobre a era da intelixencia artificial que constitúe un chamamento urxente a establecer marcos regulatorios estritos sobre as tecnoloxías dixitais. No texto, o pontífice advirte de que o poder tecnolóxico adquiriu "un rostro inédito, predominantemente privado", concentrado en mans de actores transnacionais que dispoñen de recursos superiores aos de moitos gobernos, o que dificulta "discernir, gobernar e orientar cara ao ben común" estas tecnoloxías.
A primeira encíclica do papa alerta dun poder tecnolóxico con "rostro inédito, predominantemente privado" e insta a unha maior regulación "cara ao ben común"
León XIV resultou especialmente claro ao identificar o cambio de paradigma no desenvolvemento tecnolóxico contemporáneo. Mentres que historicamente eran os Estados quen impulsaban e orientaban a innovación, o seu diagnóstico é que actualmente "os principais motores do desenvolvemento son actores privados, adoito transnacionais, dotados de recursos e capacidade de acción superiores aos de moitos gobernos". Esta concentración de poder constitúe, segundo o papa, un dos desafíos máis graves do noso tempo, xa que quen posúen o coñecemento e "sobre todo o poder económico para explotalo" exercen "un dominio impresionante sobre o conxunto da humanidade e do mundo enteiro".
O pontífice recuperou unhas palabras do papa Francisco para subliñar que a cuestión non se limita á regulación técnica, senón que require preguntarse "con realismo quen detenta hoxe ese poder e cara a que fins o orienta". Esta reflexión constitúe o núcleo da encíclica: a tecnoloxía non é neutral, senón que "toma o rostro de quen a concibe, a financia, a regula e a utiliza". Por tanto, a primeira decisión non é entre aceptar ou rexeitar a tecnoloxía, senón entre construír unha "torre de Babel" baseada no poder concentrado ou reconstruír unha "Xerusalén" onde o traballo compartido e o ben común orienten o desenvolvemento tecnolóxico.
A encíclica non se limita ao diagnóstico, senón que formula un chamamento directo á acción regulatoria, en liña coas posicións que defende a Unión Europea -e, dentro dela, en particular o Goberno de España- e en contra da posición que abanderan os Estados Unidos de Donald Trump.
"Cómpre adoptar instrumentos normativos adecuados, capaces de salvagardar a xustiza e de conter os efectos distorsionadores do poder tecnolóxico".
León XIV afirma que "é necesario adoptar instrumentos normativos adecuados, capaces de salvagardar a xustiza e de conter os efectos distorsionadores do poder tecnolóxico". Esta esixencia de regulación responde á constatación de que "nunca a humanidade tivo tanto poder sobre si mesma", o que fai especialmente complexo "avaliar o seu impacto e os seus efectos a longo prazo sobre a dignidade das persoas e o ben común".
A encíclica insiste en que as novas tecnoloxías, particularmente a intelixencia artificial, se entrelazan co tecido da vida cotiá, moldean os procesos de toma de decisións e inciden profundamente no imaxinario colectivo. Esta omnipresenza das tecnoloxías emerxentes fai que a súa regulación sexa unha cuestión de xustiza social e democrática, non meramente técnica ou sectorial.
Principios de gobernanza
No capítulo terceiro, dedicado especificamente á intelixencia artificial, León XIV desenvolve os principios que, segundo el, deben guiar o seu gobernanza. Baixo o epígrafe Responsabilidade, transparencia e gobernanza da IA, o documento expón que estas tecnoloxías requiren unha atención especial precisamente pola súa capacidade de afectar a dereitos fundamentais e estruturas democráticas.
Unha das achegas máis significativas da encíclica é a súa análise do "paradigma tecnocrático e o poder dixital" como ameaza sistémica. León XIV advirte contra o que denomina a "síndrome de Babel": "A idolatría do lucro que sacrifica os febles, a uniformidade que aplana as diferenzas, a pretensión dunha linguaxe única -mesmo dixital- capaz de traducilo todo, incluso o misterio da persoa, en datos e rendementos".
"A idolatría do lucro que sacrifica os febles, a uniformidade que aplana as diferenzas, a pretensión dunha linguaxe única -mesmo dixital- capaz de traducilo todo, incluso o misterio da persoa, en datos e rendementos"
Esta paradigma tecnocrático constitúe, segundo o papa, un risco de deshumanización que consiste en "construír o futuro excluíndo a Deus e reducindo ao outro a un medio". Trátase dunha tentación antiga que hoxe adopta un rostro técnico, pero que, en esencia, representa a concentración de poder en mans de quen controlan as tecnoloxías máis avanzadas.
O capítulo cuarto da encíclica aborda a relación entre verdade, democracia e o ecosistema comunicativo dixital. León XIV dedica seccións específicas a Verdade e democracia, Comunicación e imaxinario colectivo? e propón "unha ecoloxía da comunicación" como resposta aos desafíos actuais.
O pontífice sinala que a verdade é un "ben común" esencial para o funcionamento democrático. Nun contexto no que as plataformas dixitais moldean o imaxinario colectivo e condicionan o acceso á información, a concentración de poder en poucas corporacións tecnolóxicas representa unha ameaza directa para a democracia.
A encíclica tamén aborda as consecuencias da transformación dixital sobre a dignidade do traballo e actualiza a tradicional preocupación da Doutrina Social da Igrexa pola cuestión laboral, aplicándoa á era da automatización e a intelixencia artificial.
Adicción e manipulación
Especialmente relevante é o apartado sobre Custodiar a liberdade fronte á dependencia e a mercantilización, onde o papa denuncia as "dependencias e o control social" que xeran as tecnoloxías dixitais, e chama a "romper as cadeas das novas escravitudes". Esta crítica diríxese tanto ás formas de explotación laboral na economía de plataformas como aos mecanismos de adicción e manipulación que empregan certos modelos de negocio dixitais.
León XIV propón "unha economía que valore a dignidade" como alternativa ao modelo dominante e medir "o progreso" pola "dignidade de cadaquén e polo ben dos pobos"
León XIV propón ademais "unha economía que valore a dignidade" como alternativa ao modelo dominante. E rexeita expresamente a ideoloxía dos tecnoligarcas ao cuestionar as visións transhumanistas e posthumanistas que prometen superar os límites humanos mediante a tecnoloxía. "A verdadeira realización", defende no documento, "non nace da eliminación das fraxilidades, senón dun crecemento harmonioso", onde "o progreso se mide pola dignidade de cadaquén e polo ben dos pobos".
O papa subliña que enfrontar o poder tecnolóxico concentrado require unha "responsabilidade compartida". Ningunha instancia pode, por si soa, contrarrestar o dominio das grandes corporacións tecnolóxicas, pero tampouco ningunha é tan débil como para non poder contribuír. León XIV convoca a "científicos e investigadores, empresarios e traballadores, educadores e lexisladores, sociedade civil, movementos populares e comunidades de fe" a asumir cada un a súa parte na reconstrución dunha orde dixital máis xusta.
Esta lóxica de subsidiariedade, que valora "a cooperación entre xeracións, entre pobos, entre disciplinas e culturas", constitúe para o pontífice "o camiño privilexiado para facer crecer a estabilidade, a prosperidade e a paz". As diferenzas non deben intimidar, senón que, di, poden converterse en "enerxías creativas cando están orientadas por unha responsabilidade compartida".
O documento denuncia a "normalización da guerra" e advirte sobre os riscos da militarización das tecnoloxías de IA ao tempo que subliña a "necesidade da diplomacia e o multilateralismo"
No capítulo quinto, León XIV aborda a crise do multilateralismo na era dixital e denuncia que as dinámicas de concentración de poder tecnolóxico se inscriben nunha lóxica máis ampla de "normalización da guerra" e de "forza sen límites" que ameaza a paz mundial.
Nun apartado sobre Armas e IA, o pontífice advirte sobre os riscos da militarización das tecnoloxías de intelixencia artificial. Propón "relanzar o diálogo" e subliña "a necesidade da diplomacia e o multilateralismo" como instrumentos para construír gobernanzas globais que limiten o poder tanto de actores estatais como privados no ámbito tecnolóxico.
A "obra do noso tempo"
Na súa conclusión, León XIV fai un chamamento a "permanecer profundamente humanos" na era da intelixencia artificial. E, sen adoptar unha postura tecnofóbica, convida a todos -católicos, cristiáns doutras confesións, crentes doutras relixións e "persoas de boa vontade"- a "non temer manchar as mans na obra do noso tempo", traballando xuntos para que as tecnoloxías sirvan ao ben común e non á acumulación de poder en poucas mans.
Ao acto de presentación da encíclica só acudiu un representante das grandes tecnolóxicas: Christopher Olah, un dos cofundadores de Anthropic, que non dubidou en sumarse á mensaxe do papa. En declaracións aos medios, a súa tese central foi que o rumbo desta tecnoloxía non pode quedar á vontade exclusiva dos laboratorios e as grandes plataformas, porque estes operan baixo fortes presións comerciais, xeopolíticas e persoais que adoitan bater co interese xeral.
Anthropic súmase á mensaxe do pontífice: a gobernanza da IA non pode deixarse nas mans da autorregulación corporativa, asegura a compañía
Por iso reivindicou a necesidade dun escrutinio externo forte -igrexas, gobernos e sociedade civil- que funcione como contrapeso aos incentivos internos da industria e obrigue a aliñar o desenvolvemento da IA co ben común.
Olah aproveitou a ocasión para afirmar que existe "unha posibilidade real" de que a IA desprace traballo humano "a grande escala" e de que iso abre un imperativo moral "de proporcións históricas": soster a quen perdan o seu emprego por esta transición tecnolóxica. Non fala só dun axuste laboral, senón da responsabilidade colectiva de que o impacto económico da automatización non se traduza en exclusión e precariedade masiva.
De aí que subliñse outras dúas urxencias: garantir que os beneficios da IA se repartan tamén fóra do reducido grupo de países ricos onde se concentran os avances, e abordar o problema de sistemas cada vez máis complexos e opacos cuxa conduta nin sequera os seus creadores terminan de comprender.
Tamén as compañías que se presentan como máis prudentes, como a mesma Anthropic, están atrapadas nesa rede de incentivos e limitacións que "ás veces poden entrar en conflito con facer o correcto", recoñeceu. Esa constatación é o que lle leva a defender que a gobernanza da IA non pode deixarse en mans da autorregulación corporativa, por bienintencionados que sexan algúns investigadores, e que cómpren marcos éticos e normativos construídos con participación relixiosa, política e social.
