Comissão Europeia vai criar estrutura para avaliar modelos de IA antes do lançamento

A Comissão Europeia vai lançar um concurso para o estabelecimento de uma estrutura na União Europeia (UE) responsável por avaliar modelos de inteligência artificial (IA) antes de serem implementados, principalmente em matéria de cibersegurança. O objetivo é que este organismo esteja operacional no ano que vem.

A intenção consta do novo Plano de Ação para a Cibersegurança e Inteligência Artificial, anunciado esta terça-feira. A avaliação de modelos de IA pelas autoridades europeias, antes até da sua disponibilização, vai ao encontro das preocupações suscitadas este ano por novos modelos de IA norte-americanos especializados em encontrar e explorar vulnerabilidades em sistemas, como o Mythos, da Anthropic.

“Para fomentar a expertise local, a Comissão lançará um concurso específico que visa estabelecer uma capacidade de avaliação na UE, abrangendo a área de cibersegurança, que deverá estar operacional em 2027. Esta nova capacidade contribuirá para a função regulatória do AI Office, ao reforçar a avaliação independente das capacidades e dos riscos da IA a nível global”, declara Bruxelas num comunicado.

Segundo o Plano de Ação, “atualmente, a maioria das principais entidades que realizam avaliações de terceiros a modelos de IA antes da sua implementação estão sedeadas fora da UE”. “Dada a sua crescente importância, torna-se urgente que parte desta expertise em avaliação, e infraestrutura a ele associada, esteja localizado na UE”, justifica a Comissão.

Bruxelas entende que a avaliação de modelos de IA em questões de cibersegurança é uma área que “a Europa tem potencial para liderar”, visto contar com “especialistas de alto nível nesta área”. Assim, o novo organismo “contribuirá significativamente para o crescente ecossistema na UE e aproveitará o conhecimento emergente de avaliação de IA dos Estados-membros”.

O novo organismo também apoiará as atividades regulatórias da Comissão Europeia e apoiará as empresas fornecedoras de modelos de IA a cumprirem as obrigações do Regulamento da IA a que estão sujeitas, segundo determina o Plano de Ação.

O ECO contactou a Comissão Europeia no sentido de obter mais detalhes sobre este concurso e sobre esta estrutura, e encontra-se a aguardar resposta.

Atualmente, um dos principais exemplos de um organismo deste tipo é o AI Security Institute do Reino Unido, que ganhou popularidade por ter sido um dos primeiros na Europa e no mundo a avaliar o novo modelo Mythos, numa altura em que a maioria das entidades europeias não tinha qualquer acesso a essa tecnologia.

Além do Mythos, este organismo público britânico também avaliou o GPT-5.5-Cyber, um modelo concorrente disponibilizado pela OpenAI. Estes foram igualmente os primeiros modelos de IA de acesso restrito, oferecidos apenas a empresas privadas específicas, maioritariamente nos EUA.

A proposta da Comissão surge também numa altura em que as autoridades norte-americanas têm vindo a intervir mais ativamente na inovação em IA. O caso mais visível ocorreu em junho, quando a Anthropic decidiu retirar o recém-lançado modelo Claude Fable, depois de ter sido alvo de uma restrição da Casa Branca que a impedia de permitir o acesso à tecnologia por cidadãos estrangeiros. O modelo só foi novamente disponibilizado no final de junho.