BCE reúne bancos da Zona Euro para discutir riscos do novo modelo de IA da Anthropic

O Banco Central Europeu (BCE) vai promover uma reunião de alto nível com os responsáveis de risco dos bancos da Zona Euro para discutir as implicações para a cibersegurança do Claude Mythos, o novo modelo de IA da Anthropic, avança a agência Bloomberg.

O encontro marcado pelo supervisor europeu deverá ter lugar ainda nesta semana e acontece depois de uma reunião semelhante do outro lado do Atlântico. Na semana passada, o secretário do Tesouro dos EUA, Scott Bessent, reuniu com os principais bancos norte-americanos para debater os riscos da IA para a segurança da informação no setor financeiro, à luz do surgimento do Claude Mythos.

O Mythos foi anunciado pela Anthropic no início deste mês e tem-se destacado pelas suas capacidades avançadas e para detetar código malicioso e encontrar e explorar vulnerabilidades informáticas de forma autónoma. Por esse motivo, a empresa fundada por Dario Amodei decidiu não disponibilizar a ferramenta ao público, colocando-a à disposição de um clube exclusivo de cerca de 40 empresas, entre as quais a AWS e a Apple.

Segundo a Anthropic, o Claude Mythos foi capaz de detetar autonomamente vulnerabilidades em sistemas considerados muito seguros. Algumas dessas falhas desconhecidas até ao momento existiam “há dez ou 20 anos”, garantiu a empresa. Assim, o grande objetivo é permitir a essas empresas terem uma vantagem sobre potenciais atacantes, justifica a Anthropic.

De acordo com a Bloomberg, as autoridades norte-americanas já puderam testar o modelo, incluindo alguns bancos. O JPMorgan está na lista de parceiros da Anthropic e o Goldman Sachs também já terá acesso ao programa. Porém, deste lado do oceano, algumas instituições financeiras do Reino Unido deverão poder aceder ao Mythos só a partir da semana que vem, enquanto os bancos europeus ainda aguardam acesso semelhante, refere a agência.

Este mês está a ser pródigo em avanços que cruzam IA e cibersegurança. No dia 14 de abril, a OpenAI anunciou o lançamento do GPT-4.5-Cyber, uma versão do seu modelo mais avançado treinado para detetar vulnerabilidades de segurança. À semelhança da concorrente, a OpenAI também decidiu dar acesso exclusivo ao modelo a um conjunto de clientes de topo validados previamente.

A AI Security Institute (AISI), uma estrutura do Governo britânico, que foi das poucas que já puderam testar o modelo da Anthropic, concluiu que este “representa um avanço em relação aos modelos anteriores, num contexto em que o desempenho já estava a melhorar rapidamente”.