Início de uma nova era para a inteligência artificial

No dia 12 de julho de 2024, a União Europeia (UE) publicou o Regulamento (UE) 2024/1689, (“Regulamento IA”). Este marco legislativo estabelece o primeiro quadro jurídico a regulamentar a inteligência artificial (IA) e entra em vigor e 1 de agosto de 2024.

O Regulamento IA visa melhorar o funcionamento do mercado interno da UE, estabelecendo um quadro legal uniforme para os sistemas de IA.

A abordagem da nova regulamentação categoriza os sistemas de IA de acordo com o nível de risco. Assim, serão considerados de risco inaceitável os sistemas de IA que apresentam risco significativo de dano ou violação dos direitos dos indivíduos, sendo estes sistemas proibidos. Serão de risco elevado os sistemas de IA utilizados em áreas críticas como por exemplo emprego, educação, componentes de segurança de produtos, entre outros. Estes sistemas estão sujeitos a requisitos regulamentares rigorosos. Já os sistemas de risco limitado requerem sobretudo o cumprimento de certas obrigações de transparência. Os sistemas de IA de risco mínimo ou nulo não apresentam risco e podem, por isso continuar a ser utilizados sem serem regulamentados ou afetados pelo regulamento.

O Regulamento de IA impõe diferentes obrigações para os intervenientes envolvidos. Aqueles que desenvolvem um sistema de IA e o colocam no mercado (fornecedores) devem assegurar que este cumpre os requisitos técnicos e de segurança estabelecidos. Por sua vez, os distribuidores e importadores têm a responsabilidade de garantir que os sistemas de IA estejam em conformidade com o regulamento. Já os responsáveis pela implementação (utilizadores) devem garantir um uso adequado dos sistemas de IA, o que inclui a supervisão humana e a validação dos dados de entrada.

No que respeita à sua aplicação, o regulamento será implementado de forma gradual. Assim, as práticas de IA que são consideradas proibidas devem ser retiradas do mercado até 2 de fevereiro de 2025, já os modelos de IA de finalidade geral terão um prazo mais alargado de cumprimento devendo estar em conformidade até 2 de agosto de 2025. A partir de 2 de agosto de 2026 tornam-se aplicáveis todas as regras do regulamento, e, por fim, até 2 de agosto de 2027, estarão em vigor as obrigações adicionais para sistemas de risco elevado.

O incumprimento do Regulamento de IA pode resultar em multas elevadas até 35 milhões de euros ou 7% do volume de negócios anual da empresa, o que for maior, para violações de práticas proibidas de IA. Para outras infrações, como o não cumprimento das obrigações relativas aos modelos de IA de finalidade geral ou sistemas de IA de risco elevado, as multas podem atingir os 15 milhões de euros ou 3% do volume de negócios anual da empresa.

As organizações devem assim (i) avaliar e auditar todas as ferramentas de IA utilizadas ou em fase de implementação; (ii) fazer um inventário e classificar todos os sistemas de IA utilizados; (iii) adaptar políticas internas para refletir as novas obrigações; (iv) garantir que todos os utilizadores de sistemas de IA têm formação adequada; (v) verificar a conformidade dos fornecedores de tecnologia, e, se necessário, negociar e alterar contratos assinados; (vi) comunicar aos trabalhadores, a utilização que é feita dos sistemas de IA e suas implicações práticas e, por fim (vii) desenvolver mecanismos de proteção dos ativos incorpóreos.

O Regulamento IA representa um marco na regulamentação da inteligência artificial, com um enfoque na proteção dos direitos fundamentais e na segurança dos indivíduos. Empresas e instituições devem adaptar-se a esta nova realidade regulatória e assegurar que os seus sistemas de IA estão em conformidade com as exigências impostas pela nova regulamentação.