O AI Act é a primeira grande lei da União Europeia (UE) criada para regular o desenvolvimento e utilização de sistemas de inteligência artificial (IA). A legislação foi aprovada a 13 de março de 2024, para definir regras comuns sobre como a IA pode ser usada dentro do mercado europeu, com o objetivo de equilibrar a inovação tecnológica, proteção dos direitos fundamentais e a segurança dos cidadãos.

A lógica do regulamento baseia-se numa abordagem de risco, num género de pirâmide. Ou seja, quanto maior for o potencial impacto de um sistema de IA sobre a vida das pessoas, maiores são as obrigações impostas às empresas que o desenvolvem ou utilizam. Por isso, o AI Act distingue diferentes categorias de risco, desde aplicações consideradas mínimas até sistemas classificados como “de alto risco”.

A lei impõe regras mais exigentes em áreas como saúde, educação, emprego, crédito bancário e infraestruturas críticas, onde decisões automatizadas podem afetar diretamente os direitos e segurança dos cidadãos. As empresas que desenvolvem este tipo de sistemas terão de cumprir exigências rigorosas relacionadas com avaliação de riscos, qualidade dos dados, supervisão humana e documentação técnica.

O AI Act também proíbe algumas práticas consideradas inaceitáveis, como certos sistemas de manipulação comportamental, formas específicas de vigilância biométrica e, com o novo acordo, conteúdos sexuais gerados por IA sem consentimento.

A legislação europeia é vista internacionalmente como uma tentativa da UE de estabelecer um modelo global de regulação da inteligência artificial, semelhante ao que aconteceu com as regras europeias de proteção de dados através do Regulamento Geral sobre a Proteção de Dados (RGPD).

O acordo alcançado na quinta-feira entre o Parlamento Europeu e o Conselho da UE altera vários pontos concretos do AI Act, sobretudo nas áreas da implementação, supervisão e aplicação das regras para sistemas de inteligência artificial de alto risco. Em novembro, a Comissão Europeia já tinha anunciado que estava a trabalhar para suavizar a lei para a IA na Europa com regras de simplificação.

Uma das mudanças mais significativas anunciadas por Bruxelas, em relação ao novo acordo, são as novas datas para a entrada em vigor das regras aplicáveis à IA de alto risco. Os sistemas autónomos classificados como de alto risco passam a estar sujeitos às obrigações do AI Act a partir de 2 de dezembro de 2027, enquanto sistemas integrados em produtos terão até 2 de agosto de 2028 para cumprir plenamente as regras. Anteriormente, a data fixada pela Comissão Europeia para impor as regras em vigor estava estipulada para agosto de 2026.

Outra alteração explícita no novo acordo é a introdução de uma nova proibição explícita contra sistemas de IA usados para gerar conteúdos sexuais ou íntimos sem consentimento, incluindo material de abuso sexual infantil. A alteração surge num contexto de crescente preocupação com o uso de inteligência artificial, e sobretudo do chatbot Grok, para criar ‘deepfakes’ pornográficos altamente realistas com menores. As novas regras vão entrar em vigor a 2 de dezembro, nesse momento os sistemas de IA deverão estar equipados com medidas de segurança que os impeçam os sistemas de gerar este tipo de conteúdo.

Na nova proposta está também o regresso da obrigação de registar determinados sistemas de IA na base de dados europeia para sistemas de alto risco, mesmo quando as empresas considerem que esses sistemas podem beneficiar de exceções à classificação de “alto risco”.

A proposta da Comissão Europeia decidiu ainda manter regras apertadas sobre o tratamento de dados pessoais sensíveis. O acordo restabelece o critério de “necessidade estrita” para o uso dessas categorias de dados em processos destinados a detetar ou corrigir enviesamentos algorítmicos.

Há ainda mais mudanças no calendário regulatório, já que o prazo para os Estados-membros criarem “sandboxes” regulatórias de IA, que consistem em ambientes supervisionados para testar sistemas antes da entrada no mercado, foi adiado para 2 de agosto de 2027.

Por fim, no caso dos conteúdos gerados artificialmente, o período de adaptação para implementar mecanismos de transparência foi reduzido. As empresas terão apenas três meses, em vez dos seis inicialmente propostos, para aplicar soluções que permitam identificar conteúdos criados por inteligência artificial.

O principal argumento é a necessidade de tornar a implementação do AI Act mais realista do ponto de vista técnico e económico. Empresas e governos defendiam que muitas das regras previstas exigiam normas técnicas, orientações e mecanismos de supervisão que ainda não estão totalmente preparados.

Além disso, existe também o sentimento de que regras demasiado rígidas podem colocar as empresas europeias ainda mais em desvantagem face aos Estados Unidos e à China, onde o setor da inteligência artificial evolui mais rapidamente e com menos restrições regulatórias.

A Comissão Europeia acabou por aceitar parte dessas críticas e propôs um adiamento da aplicação das regras mais exigentes. O acordo agora alcançado mantém a arquitetura geral do AI Act, mas suaviza a transição para as empresas e para as autoridades nacionais responsáveis pela fiscalização.

“Este acordo sobre o AI Act apoia significativamente as nossas empresas ao reduzir custos administrativos recorrentes. Garante segurança jurídica e uma implementação mais simples e harmonizada das regras em toda a União, reforçando a soberania digital e a competitividade global da UE. Ao mesmo tempo, estamos a reforçar a proteção das crianças face aos riscos associados aos sistemas de IA. Este acordo é uma prova clara da capacidade das nossas instituições para agir rapidamente e cumprir os nossos compromissos”, disse Marilena Raouna, vice-ministra dos Assuntos Europeus do Chipre, país que preside atualmente o Conselho da União Europeia.

A Alemanha foi um dos países que mais pressionou a Comissão Europeia para aliviar parte das exigências do AI Act, sobretudo na área industrial. O governo alemão argumentava que empresas europeias poderiam enfrentar uma dupla carga regulatória caso fossem obrigadas a cumprir simultaneamente o AI Act e outras regras setoriais já existentes.

A preocupação era especialmente forte em setores industriais onde a Alemanha tem grandes grupos tecnológicos, como a engenharia e a maquinaria industrial. Empresas como a Siemens e a Bosch foram frequentemente apontadas, pelo Governo de Friedrich Merz, como exemplos de organizações que poderiam perder competitividade caso enfrentassem exigências regulatórias demasiado pesadas.

Uma empresa pode estar abrangida pelo AI Act sempre que desenvolve, vende ou utiliza sistemas de inteligência artificial nas suas atividades. Isto inclui tanto empresas que criam tecnologia de IA como organizações que usam ferramentas já existentes, como chatbots, sistemas de recrutamento automatizado, software de análise de dados ou plataformas de IA generativa. O impacto da lei depende sobretudo da forma como a IA é utilizada e do nível de risco associado à aplicação.

Para ajudar empresas a perceber se estão ou não abrangidas pelo regulamento, a UE disponibiliza uma ferramenta de autoavaliação conhecida como “EU AI Act Compliance Checker”. Esta plataforma funciona como um simulador interativo onde a empresa responde a perguntas sobre o tipo de sistema de IA que utiliza, a finalidade da tecnologia, se existem decisões automatizadas, se há impacto sobre direitos das pessoas e qual o papel da organização, por exemplo, se é developer, fornecedor ou apenas utilizador da ferramenta. No final, o sistema indica se a IA pode estar abrangida pelo AI Act, qual o nível de risco associado e quais poderão ser as principais obrigações legais aplicáveis.

A fiscalização do AI Act é feita através de uma combinação entre autoridades nacionais e entidades europeias. Cada Estado-Membro da União Europeia nomeou uma autoridade responsável por supervisionar o cumprimento das regras, investigar possíveis violações e aplicar sanções quando necessário.

Em Portugal, a principal entidade responsável pela supervisão e fiscalização do AI Act é a ANACOM, designada pelo Governo português como autoridade nacional competente para coordenar a aplicação do regulamento. Estas entidades funcionam de forma semelhante aos reguladores já existentes noutras áreas, como a proteção de dados ou a concorrência.

Ao nível europeu, o chamado AI Office, ligado à Comissão Europeia, assume um papel central na coordenação da aplicação do regulamento, sobretudo nos modelos de IA mais avançados e considerados de risco sistémico, como os grandes modelos de IA generativa. O objetivo passa por garantir uma aplicação consistente das regras em toda a União Europeia e acompanhar a rápida evolução da tecnologia.

Para os defensores da flexibilização, o acordo torna a lei mais aplicável na prática e reduz riscos de excesso de burocracia. O argumento é que regras demasiado rígidas poderiam travar a inovação, investimento e desenvolvimento tecnológico dentro da Europa.

Já os mais críticos consideram que o adiamento das regras reduz a pressão sobre empresas que desenvolvem sistemas potencialmente perigosos e atrasa mecanismos importantes de proteção dos cidadãos.

Apesar disso, o núcleo do AI Act mantém-se praticamente intacto. A UE continua a ter uma das legislações mais ambiciosas e rígidas do mundo em matéria de inteligência artificial, especialmente na regulação de sistemas considerados de alto risco.

O acordo ainda precisa de aprovação formal pelas instituições europeias, nomeadamente do Conselho e do Parlamento Europeu, mas trata-se sobretudo de uma etapa final do processo legislativo. Depois disso, as novas datas e alterações passam oficialmente a fazer parte do AI Act.

Nos próximos meses, a atenção deverá concentrar-se na preparação técnica da implementação da lei, incluindo mecanismos de fiscalização e orientações para empresas.

O debate político sobre o tema não deverá abrandar, isto porque a inteligência artificial tornou-se uma área estratégica para a economia e para a segurança digital europeia e mundial, e a pressão para equilibrar inovação e regulação, sobretudo no velho continente, deverá intensificar-se à medida que novas tecnologias chegam ao mercado.