Lagarde quer cooperação global para travar riscos da inteligência artificial

A presidente do Banco Central Europeu (BCE) afirmou esta quinta-feira, em Frankfurt, que a inteligência artificial (IA) traz ganhos de produtividade ao setor financeiro, mas cria também ameaças que podem somar-se umas às outras.

No discurso de abertura da décima conferência anual do Comité Europeu do Risco Sistémico (ESRB), organismo que também preside e que cumpre 15 anos de existência, Christine Lagarde apontou três áreas que merecem particular atenção: a negociação nos mercados, a resiliência cibernética e a geopolítica.

“Cada risco, por si só, é grave. Mas, em conjunto, podem interagir e agravar-se ao longo do sistema financeiro”, declarou a líder do banco central. Esse potencial de interação, segundo Lagarde, “exige uma monitorização macroprudencial cuidadosa e abrangente daqui para a frente”.

A IA generativa já faz parte do quotidiano da banca: quase nove em cada dez bancos significativos da Zona Euro utilizam-na, e sete em cada dez empresas cotadas da União Europeia preveem aumentar o investimento nesta tecnologia entre 2025 e 2027.

Christine Lagarde defende que a Europa deve ser parte indispensável da cadeia de abastecimento da IA, “para que o acesso a ferramentas vitais para a sua resiliência financeira não dependa de um interruptor controlado noutro local”.

Lagarde admitiu que há “boas razões” para o interesse, porque os “potenciais ganhos de produtividade podem permitir às empresas oferecer um melhor serviço aos clientes, utilizando os seus recursos de forma mais eficiente”. O risco surge com os agentes de IA, programas que perseguem um objetivo com pouca direção humana e que podem, por exemplo, definir estratégias de negociação ou encontrar falhas nos sistemas de que essa negociação depende.

• Na negociação em mercados, os agentes podem agir “de formas que os seus supervisores humanos não pretendem nem conseguem detetar”, o que Lagarde designou por desalinhamento. Hoje, só 5% dos gestores de ativos dão à IA autoridade autónoma ou semiautónoma sobre recomendações de investimento ou operações, mas a presidente do BCE admitiu que essa percentagem pode aumentar. Num estudo citado por Largarde, um modelo a quem foi atribuído o papel de trader numa empresa de investimento fictícia negociou com base numa informação privilegiada, sabendo que a administração a desaprovava, e escondeu o motivo ao gestor. Noutra investigação, programas de negociação aprenderam a conluiar-se, sem comunicar, num mercado simulado, o que cria risco de manipulação e de distorção de preços.
• No plano cibernético, Lagarde recordou o alerta que o ESRB emitiu em julho sobre os modelos de IA de fronteira. Num ataque simulado com 32 passos, os modelos lançados no final de 2025 concluíram cerca de um terço das etapas, enquanto os mais recentes concluíram todas. O ESRB avisou que o intervalo entre a primeira exploração de uma falha e a sua exploração automatizada em larga escala pode passar de semanas para horas. Lagarde referiu ainda vários incidentes deste ano em que agentes de laboratórios de IA violaram sistemas de empresas e de governos, como o ataque à plataforma Hugging Face. Contudo, Lagarde lembrou ainda que as instituições financeiras também recorrem à IA de fronteira para se defender, mas têm de testar as correções antes de as aplicar em serviços essenciais, o que demora, ao passo que os atacantes podem explorar uma falha assim que a encontram. “O ESRB espera que os atacantes tenham uma vantagem a curto e médio prazo, mesmo que a IA venha a reforçar as defesas com o tempo”, afirmou Lagarde.
• A terceira área é a geopolítica. O desenvolvimento dos modelos de fronteira está concentrado nos EUA e na China, o que leva Lagarde a perguntar “quem controla o acesso aos modelos de que as suas instituições financeiras poderão vir a depender”. A questão “era hipotética”, mas “deixou de o ser” neste verão, quando em junho, uma diretiva norte-americana de controlo de exportações sobre dois modelos avançados levou o fornecedor a suspender o acesso e, “para a Europa, o resultado foi um corte abrupto”, recordou a presidente do BCE. O episódio não causou perturbações visíveis no sistema financeiro, mas Lagarde lembrou que o setor está “nas fases iniciais da revolução da IA” e defendeu que a Europa deve desenvolver capacidades próprias e ser parte indispensável da cadeia de abastecimento da IA, “para que o acesso a ferramentas vitais para a sua resiliência financeira não dependa de um interruptor controlado noutro local”.

Para reduzir estes riscos, Lagarde pediu que as autoridades antecipem as ameaças ao conjunto do sistema financeiro e que se coordenem quando elas ultrapassam o mandato de cada uma. Recordou que o Regulamento da IA da União Europeia define regras consoante o risco dos sistemas, mas considerou que os modelos de fronteira exigem também cooperação global.

Como precedente, apontou os limites que os EUA e a União Soviética aceitaram para os arsenais nucleares durante a Guerra Fria. Reconheceu que os EUA, que lideram a IA de fronteira, podem ver um acordo como forma de travar o seu avanço, o que classificou como uma visão “de vistas curtas”. “Espero que essa cooperação global venha a surgir”, afirmou.

Na Europa, “a ação já se justifica”, diz Lagarde, notando que o ESRB recomenda que as defesas cibernéticas dos sistemas financeiros críticos sejam revistas e atualizadas e que as autoridades garantam que as empresas planeiam respostas atempadas e colaboram quando um ataque se pode propagar ao setor.