A inteligência artificial precisa de travões?

A inteligência artificial (IA) é olhada sobretudo com deslumbramento. Por aquilo que já hoje faz e pelo que promete ainda vir a fazer. Pela poupança de tempo e recursos na execução de tarefas cada vez mais complexas. Pelo crescimento explosivo de receitas que está a proporcionar a algumas empresas, alimentando recordes bolsistas.

A luz é tanta que ofusca a necessária reflexão sobre para onde caminha a sociedade com o crescimento exponencial da IA. Um exercício que ganhou força esta semana graças a um contributo inesperado mas pertinente do Papa Leão XIV, que lhe dedicou a sua primeira encíclica.

O líder da igreja católica não renega o progresso ou a ciência, mas apela à prudência, a auditorias rigorosas e mesmo a um abrandamento que permita “exercer a salvaguarda responsável da família humana”.

A encíclica toca questões fundamentais. Desde logo o facto de a IA não ser “moralmente neutra”, carregando consigo escolhas e prioridades que desconhecemos. A opacidade sobre o “funcionamento efetivo” dos algoritmos aumenta também o risco significativo de a IA “gerar novas formas de marginalização”.

A Magnifica Humanitas alerta também que se “outrora eram sobretudo os Estados a orientar e a dirigir a inovação”, hoje o poder tecnológico assume uma identidade “predominantemente ‘privada’ e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum”.

Esse poder está, além disso, concentrado num número reduzido de empresas. Quando isso acontece “tende a tornar-se opaco e a fugir ao controlo público, aumentando o risco de um desenvolvimento distorcido que gera novas dependências, exclusões, manipulações e desigualdades”, escreve Leão XIV, num exercício que traz a igreja católica para o presente e o futuro.

Cullen Hendrix, senior fellow do Peterson Institute for International Economics, partilhou recentemente um interessante contributo para a discussão ao comparar o impacto da IA aos ‘petroestados’, como o Qatar ou a Arábia Saudita.

Nos países muito ricos em petróleo e gás natural, a maior fatia da riqueza vem da exploração destas matérias-primas, uma atividade intensa em capital e reduzida em fator trabalho. Esse peso reduzido dos trabalhadores para o PIB torna menos necessário o desenvolvimento de instituições democráticas que respondam às ânsias da população. O que favorece a prevalência de sistemas oligárquicos e autocráticos.

Embora existam muitas diferenças, Cullen Hendrix observa que também a IA é muito intensa em capital e, aliada à robotização, pode retirar importância ao fator trabalho.

“Este poderá ser o futuro da IA: um pequeno número de empresas irá gerar uma fatia cada vez maior do PIB e das receitas públicas, com forças de trabalho cada vez mais reduzidas”, escreve o economista, acrescentando mais à frente que “a democracia é difícil de sustentar, e torna-se ainda mais difícil quando a maioria dos cidadãos deixa de ter a influência económica — através do trabalho, da tributação ou do serviço militar — que historicamente lhes garantiu uma voz na governação”.

Outro ponto prende-se com o facto de os ganhos gerados pela IA poderem ficar concentrados num grupo restrito de empresas e não no Estado, com um impacto negativo no papel redistributivo da riqueza deste último.

A discussão já passou do plano teórico para o político na Coreia do Sul, onde empresas como a Samsung e a SK Hynix vão musculando lucros embaladas pela IA. O diretor nacional de políticas públicas, Kim Yong-beom, fez este mês uma publicação no Facebook onde defende que “os frutos da era da infraestrutura de IA não são o resultado apenas de algumas empresas” e que “parte dos frutos devem ser estruturalmente devolvidos aos cidadãos”, através de um “dividendo”, promovendo uma redução da desigualdade e um maior equilíbrio social. O Governo distanciou-se, assinalando que o post de Kim Yong-beom refletia apenas a sua opinião pessoal.

Todos estes dilemas podem parecer extemporâneos, mas a velocidade da implementação da IA e o seu impacto transformador obriga a que comecem a ser levadas a sério pelas lideranças políticas e planeadas com tempo. Não basta pensar como capitalizar as suas enormes vantagens, é preciso prevenir os efeitos adversos.

Nota: Este texto faz parte da newsletter Semanada, enviada para os subscritores à sexta-feira, assinada por André Veríssimo. Há muito mais para ler. Pode subscrever neste link.