O que diz o Papa Leão na nova encíclica sobre inteligência artificial

O Papa Leão XIV admite que “qualquer afirmação sobre a inteligência artificial (IA) corre o risco de se tornar obsoleta em pouco tempo”. Mesmo assim, foi esse o tema que escolheu para a sua primeira encíclica, apresentada publicamente esta segunda-feira, 25 de maio, dia em que assinalou um ano no topo da Igreja Católica, e cujas principais ideias o ECO resume neste Especial.

Mais do que um documento meramente teológico ou doutrinário, a carta, intitulada Magnifica Humanitas, que versa “sobre a salvaguarda da pessoa humana na era da IA”, é um exercício de discernimento sobre alguns dos grandes dilemas da adoção tecnológica. O norte-americano não se posiciona claramente contra ou a favor da IA, preferindo colocar o foco nos objetivos e na forma como ela é usada. Ainda assim, recomenda um travão, para abrir espaço à reflexão.

“Apelar à prudência, a auditorias rigorosas e, por vezes, a um abrandamento na adoção da IA não significa ser contra o progresso, mas sim exercer a salvaguarda responsável da família humana”, justifica. Em poucos dias, a encíclica já se tornou uma referência nas principais discussões sobre o uso contemporâneo desta que é vista por muitos como a mais transformadora tecnologia dos últimos tempos.

Enquanto alguns disputam o futuro das novas tecnologias e outros se dedicam à reflexão sobre elas, a maioria das pessoas permanece a aguardar, observa de longe, simplesmente esperando que tudo corra bem.

Inteligência artificial versus inteligência humana

Admitindo que “não é possível dar uma definição unívoca e completa da IA”, o Papa apela a que “se evite o equívoco de equiparar esta ‘inteligência’ à humana”.

“Estes sistemas imitam algumas funções da inteligência humana. Ao fazê-lo, muitas vezes superam-na em velocidade e amplitude de cálculo, oferecendo benefícios concretos em numerosos campos. No entanto, este poder permanece exclusivamente ligado ao tratamento de dados: as ditas inteligências artificiais não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade. Nem sequer possuem uma consciência moral: não julgam o bem e o mal, não captam o sentido último das situações, não assumem sobre si o peso das consequências. Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem, porque não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio”, escreve o Papa Leão.

Dito isso, acrescenta: “Ainda que esses instrumentos sejam apresentados como capazes de ‘aprender’, a sua forma de o fazer é diferente da do ser humano. Não se trata da experiência de quem se deixa moldar pela vida e cresce ao longo do tempo através de escolhas, erros, perdão e fidelidade; trata-se, antes, de uma adaptação estatística a partir de dados e resultados, que pode ser muito eficaz, mas não implica um crescimento interior”, explica o líder da Igreja Católica.

Uma tecnologia que não é “neutra”

“Não podemos considerar a IA moralmente neutra”, diz o Papa Leão na sua primeira encíclica, apontando que “todo o artefacto técnico traz consigo escolhas e prioridades: o que mede, o que ignora, o que otimiza e a forma como classifica pessoas e situações”.

“Se um sistema for concebido ou utilizado de modo a tratar certas vidas como menos dignas, ou a excluí-las sem possibilidade de apelo, não se trata de um mero instrumento ‘a ser bem utilizado’: introduz já um critério que contradiz a dignidade inalienável da pessoa. Por isso, o discernimento ético não pode limitar-se a perguntar se utilizamos um determinado sistema para um fim bom ou mau, mas deve também questionar-se sobre a forma como foi projetado e que ideia de pessoa e sociedade está inscrita nos dados e nos modelos que o orientam”, escreve.

Neste contexto, o Papa alerta que a IA interfere “em processos que afetam a vida das pessoas”, pelo que existe um risco significativo de a IA “gerar novas formas de marginalização” ou de existirem “usos manifestamente anti-humanos, como a manipulação da informação ou a violação da privacidade”. Menos evidente é a “ameaça” de “os sistemas de IA, apresentando-se como neutros e objetivos”, reforçarem “estereótipos ou posições ideológicas daqueles que os projetaram e treinaram”.

“Confiar, na prática, a um algoritmo o poder de selecionar quem merece ou não, sem que ninguém mais assuma o peso da decisão, significa confiar-lhe a tarefa de redefinir os limites das possibilidades humanas. Neste processo, o que se perde não é apenas a empatia para com o excluído — que pode ser imitada artificialmente –, mas a responsabilidade política, porque o descarte dos fracos é revestido de neutralidade e objetividade, perante as quais é impossível protestar”, remata o Papa Leão, salientando que, quando tal se sucede, “a injustiça torna-se silenciosa”.

O problema da opacidade dos algoritmos

Na encíclica Magnifica Humanitas, o Papa Leão reconhece que “todos nós” sabemos “muito pouco” sobre o “funcionamento efetivo” dos algoritmos — nem mesmo “quem os projeta”.

“Na verdade, as inteligências artificiais modernas são mais ‘cultivadas’ do que ‘construídas’: os programadores não projetam diretamente todos os detalhes, mas criam uma arquitetura sobre a qual a IA ‘cresce’. Consequentemente, aspetos científicos fundamentais — como as representações internas e os processos computacionais destes sistemas — permanecem, por enquanto, desconhecidos”, explica.

Face a esta opacidade, o Papa Leão enaltece “a urgência de um duplo compromisso: por um lado, um aprofundamento da investigação científica; por outro, um exercício de discernimento moral e espiritual”.

Poder está concentrado em algumas empresas privadas

Numa altura em que grandes tecnológicas privadas decidem quem tem acesso à tecnologia de ponta — como o fez a Anthropic, quando disponibilizou exclusivamente o novo modelo Claude Mythos, especializado em cibersegurança, a poucas dezenas de empresas norte-americanas –, o Papa sublinha que, enquanto “outrora eram sobretudo os Estados a orientar e a dirigir a inovação”, atualmente o poder está concentrado num grupo restrito de empresas privadas e indivíduos.

“Hoje […] os principais motores do desenvolvimento são sujeitos privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos. O poder tecnológico assume, destarte, uma identidade inédita, predominantemente ‘privada’ e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum”, aponta.

Não é a única referência ao assunto. Noutra parte do documento, o Papa descreve também como “o controlo das plataformas, das infraestruturas, dos dados e da capacidade de computação” já “não é prerrogativa dos Estados, mas sim de grandes sujeitos económicos e tecnológicos que, na prática, estabelecem as condições de acesso, as regras de visibilidade e as próprias possibilidades de participação”. “Quando um poder desta magnitude se concentra na mão de poucos, ele tende a tornar-se opaco e a fugir ao controlo público, aumentando o risco dum desenvolvimento distorcido que gera novas dependências, exclusões, manipulações e desigualdades”, avisa.

“Estamos a viver uma rápida fase de transição, uma ‘mudança de época’ em que, enquanto alguns disputam o futuro das novas tecnologias e outros se dedicam à reflexão sobre elas, a maioria das pessoas permanece a aguardar, observa de longe, simplesmente esperando que tudo corra bem. Exatamente por isso, impõem-se à nossa consciência questões decisivas, que não podem já ser evitadas: Para onde vamos? Para que meta desejamos orientar-nos? Que direção escolher enquanto comunidade humana e enquanto povos?”, interroga também o líder da Igreja Católica.

Impõem-se à nossa consciência questões decisivas, que não podem já ser evitadas: Para onde vamos? Para que meta desejamos orientar-nos? Que direção escolher enquanto comunidade humana e enquanto povos?

A crítica à “idolatria do lucro”

Nesse sentido, o Papa critica “a idolatria do lucro, que sacrifica os mais fracos”, e mostra-se também contra a “mentalidade tecnocrática e pós-humanista, que tende a considerar a pessoa como um objeto manipulável ou um recurso a otimizar” — novamente, “eliminando tudo o que limita a maximização do lucro”.

“É desejável que a tecnologia alivie o homem de trabalhos particularmente pesados, repetitivos ou perigosos e ofereça um apoio inteligente à atividade humana; porém, o princípio geral deve continuar a ser a proteção dos postos de trabalho e do papel insubstituível da pessoa. O objetivo de maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente o emprego, pois a pessoa humana é um fim e não um meio, e a ordem económica deve manter-se subordinada à sua dignidade e ao bem comum”, assume o Papa Leão.

Então, escudando-se na doutrina social da Igreja, afirma: “O trabalho continua a ser uma dimensão fundamental da experiência humana: não é só um meio de subsistência, mas um lugar de expressão, relações e contributo para a comunidade.”

IA como “fator de aceleração” da guerra

À luz dos tempos — “conflitos regionais que se arrastam no tempo”, “escaladas de tensões e ameaças cruzadas […] quase habituais” e o ressurgimento de “formas de luta por expansão territorial que se pensavam superadas” — o Papa americano dedica todo um capítulo ao tema do uso de IA em contexto de guerra, considerando que “a revolução digital está a modificar a gramática dos conflitos”. “A guerra visível é acompanhada por formas híbridas: ataques cibernéticos, manipulação da informação, campanhas de influência, automatização de decisões estratégicas”, refere.

Assim, “a IA entra nestes processos como um fator de aceleração, num panorama em que muitas tecnologias são intrinsecamente ambivalentes: o que nasce para defender pode ser rapidamente alterado para atacar, e a fronteira entre proteção e agressão tende a dissipar-se. A IA pode reforçar a defesa e a proteção dos civis, mas também pode baixar a fasquia do uso da força, tornar as responsabilidades menos claras, alimentar uma cultura em que o inimigo é reduzido a um dado e a vítima a um ‘dano colateral'”, avisa o Papa Leão.

Para o Sumo Pontífice — que não ignora “os enormes interesses económicos que estão por trás da guerra” –, “diante destas transformações”, é necessário invocar princípios como a “dignidade da pessoa, bem comum, destinação universal dos bens, subsidiariedade, solidariedade, justiça” enquanto “critérios para julgar se as tecnologias servem realmente a humanidade ou acabam por subjugá-la”. Princípios que devem servir como “orientações para as nossas escolhas”.

Isto é ainda mais necessário perante a tendência de “reescrita seletiva ou distorcida do passado” observada pelo Papa Leão, “num clima em que as notícias falsas e as manipulações narrativas obscurecem as lições aprendidas”. “A tudo isto acresce um elemento novo e decisivo: a dimensão mediática e digital. As redes de comunicação, os ambientes informativos fragmentados e os algoritmos que privilegiam o confronto podem amplificar a polarização e o ressentimento, acelerar a propaganda e dificultar o discernimento comum. Assim, a guerra não é só combatida, mas também preparada culturalmente através de narrativas simplistas, lógicas de amigo-inimigo, desinformação e medo”, lê-se na encíclica.

É preciso “desarmar a IA”…

Na mesma senda, o Papa entende que “não basta” regular a IA — é preciso desarmá-la: “Desarmar a IA significa subtraí-la à lógica da competição armada, que hoje não é apenas militar, mas também económica e cognitiva. Trata-se da corrida ao algoritmo mais eficaz e ao banco de dados mais vasto, com o objetivo de consolidar uma vantagem geopolítica ou comercial sobre todos os outros. Desarmar significa quebrar esta equivalência entre poder técnico e direito de governar. Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano”, explica.

“A Santa Sé observou recentemente que a crescente facilidade com que os sistemas de armas com autonomia operativa podem ser utilizados torna a guerra mais ‘viável’ e menos sujeita ao controlo humano, contrariando o princípio de que o recurso à força armada deve ocorrer como última alternativa em caso de legítima defesa. Por isso, o desenvolvimento e a utilização da IA no campo bélico devem estar sujeitos aos mais rigorosos compromissos éticos, no respeito pela dignidade humana e pela sacralidade da vida, evitando uma corrida ao armamento”, sublinha.

E vai mais além: “Fala-se por vezes de ‘agentes morais artificiais’, como se uma máquina pudesse garantir, com maior coerência do que um ser humano, a distinção entre o bem e o mal. Ora, o juízo moral não se reduz a um cálculo: implica consciência, responsabilidade pessoal e reconhecimento do outro como pessoa. Por isso, não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis. Não existe algoritmo que possa tornar a guerra moralmente aceitável”, defende o Papa.

Não existe algoritmo que possa tornar a guerra moralmente aceitável.

Este é um dos principais apelos da encíclica do Papa Leão, cuja apresentação pública contou com um discurso de Chris Olah, um dos cofundadores da empresa que criou o Claude, a Anthropic: “Dirijo um apelo especial àqueles que desenvolvem as inteligências artificiais. A inovação tecnológica pode ser, em certo sentido, uma forma humana de participar no ato divino da criação. Portanto, os programadores assumem um particular peso ético e espiritual, pois cada escolha feita no projeto expressa uma visão da humanidade”, declara.

Assim, para o Papa Leão, “tal como o autor de uma obra artística ou literária é responsável por ponderar os valores que ela expressa, também eles [os programadores de IA] são chamados a tratar com a devida seriedade os valores que infundem nos seus projetos: com transparência, com responsabilidade em relação às comunidades envolvidas e com a atenção necessária em confirmar que quanto está a ser cultivado é efetivamente um bem”, declara o Sumo Pontífice.

… e torná-la mais sustentável

O Papa Leão não esquece na sua primeira encíclica o tema da sustentabilidade, o que não surpreende face ao grande volume de recursos exigido por esta tecnologia: “Os atuais sistemas de IA requerem grandes quantidades de energia e água, têm um impacto significativo nas emissões de dióxido de carbono e consomem recursos de forma intensiva”, resume o Chefe de Estado do Vaticano.

Se nada for feito, “com o aumento da complexidade, sobretudo nos grandes modelos linguísticos, crescem também as necessidades de poder de cálculo e capacidade de armazenamento, que se apoiam num conjunto de máquinas, cabos, centros de dados e infraestruturas consumidoras de muita energia”.

Assim, para o Papa Leão, “é essencial desenvolver soluções tecnológicas mais sustentáveis para reduzir o impacto ambiental e cuidar da nossa Casa comum”, numa referência ao planeta Terra.

Os atuais sistemas de IA requerem grandes quantidades de energia e água, têm um impacto significativo nas emissões de dióxido de carbono e consomem recursos de forma intensiva.

Luta contra as “novas formas de escravatura”

Por fim, a encíclica Magnifica Humanitas atira às “novas formas de escravatura”, que estão “diretamente ligadas à economia digital”. Diz que, “no mundo da IA, nada é imaterial ou mágico”. Antes, “cada resposta que parece imediata e perfeita provém de uma longa cadeia de mediações, de uma rede alargada de recursos naturais, de infraestruturas energéticas e, sobretudo, de pessoas”.

“Uma parte significativa do funcionamento da economia digital assenta no trabalho silencioso de milhões de seres humanos, empregados em atividades pouco visíveis, mas essenciais: etiquetagem de dados, moderação de conteúdos — muitas vezes péssimos — e treino de modelos. Em muitos casos, são jovens, maioritariamente mulheres, que trabalham arduamente por uma remuneração mínima”, enaltece o Papa.

“A este esforço invisível junta-se o ainda mais brutal da extração dos recursos necessários à produção dos dispositivos e dos microprocessadores, que servem de suporte à IA. Nalgumas regiões do mundo, adolescentes e crianças trabalham em condições perigosas na trituração dos materiais donde se extraem as terras raras”, denuncia.

Perante esta dura realidade, o Sumo Pontífice “renova a sua firme condenação de todas as expressões de escravatura”, enquanto alto representante da Igreja. E lembrando que “organizações criminosas utilizam plataformas na rede, sistemas de mensagens, pagamentos anónimos e técnicas de criação de perfis para recrutar, controlar e deslocar vítimas de tráfico”, declara que “o tráfico [de seres humanos] deve ser reconhecido como uma forma contemporânea de escravatura e como uma grave violação da dignidade humana”.

“Não reagir com firmeza ou tolerar de alguma forma estas práticas significa, em certa medida, tornar-se hoje cúmplice das culpas cometidas no passado, quando a escravatura era justificada ou silenciada”, concretiza o homem de seu nome Robert Francis Prevost.

(Artigo atualizado às 13h25 com mais informação)