Acordo europeu rumo à regulação da Inteligência Artificial

No passado dia 14 de junho de 2023, o Parlamento Europeu (PE) aprovou alterações à proposta de regulamento de inteligência artificial (RIA), dando início ao processo de negociações entre as instituições (“trilogues”).

Entre as alterações à proposta do RIA apresentadas pelo PE, destaca-se o alargamento do âmbito a sistemas de IA com base em machine-learning e processamento de linguagem natural. Foram, também, incluídos os conceitos de modelo de base e de sistema de IA de uso geral, bem como um conjunto de obrigações associadas.

Esta proposta constitui, assim, um “desvio” à abordagem inicial à regulação aplicável aos sistemas IA assente, não no tipo de tecnologia, mas, antes, no uso que é feito da mesma, através, entre outros aspetos, da classificação dos sistemas de IA de acordo com os níveis de risco para a saúde e segurança ou direitos fundamentais.

Nesse sentido, o elenco das práticas consideradas proibidas foi também revisto.

Em termos gerais: Clarifica-se a permissão dos sistemas de IA concebidos para fins terapêuticos devidamente aprovados com base no consentimento informado e foram adicionadas práticas proibidas relativas a sistemas de IA. Enquadram-se neste âmbito, entre outros, sistemas de categorização biométrica e de avaliações de risco de pessoas, assente na definição do perfil ou na avaliação de traços e características de personalidade.

Para além disso, e sem prejuízo da categorização dos sistemas por níveis de risco (a saber, risco inaceitável, risco elevado, risco médio e risco baixo), a proposta do PE optou pela concretização de princípios gerais aplicáveis a todos os sistemas de IA:

(i) controlo e supervisão humanos;

(ii) robustez técnica e segurança;

(iii) privacidade e governação de dados;

(iv) transparência;

(v) diversidade, não discriminação e equidade;

(vi) bem-estar social e ambiental. Foi também reforçada a responsabilidade dos agentes e dos utilizadores através da necessidade de realização auditorias de conformidade dos sistemas de IA.

Em sede de sanções e coimas são registadas alterações significativas. Neste novo texto, é reforçada a técnica das coimas em razão do nível de risco. Exemplificando, é aumentado para 40.000.000,00€ o valor da coima em caso de não observância da proibição das práticas de IA. Tratando-se de empresas, os limites estabelecidos poderão ser substituídos, em função dos casos, por 7%, 4%, 2% ou 1%, do volume de negócios anual a nível mundial, caso seja mais elevado.

Deste modo, enquanto se aguarda pela aprovação do RAI (e que se espera para breve), é indubitável a necessidade de as organizações começarem a preparar-se para o cumprimento destas novas regras, incluindo na avaliação e impacto nas suas estratégias e modelos de negócio.

Por outro lado, atenta a técnica legislativa escolhida, e perante as diferentes obrigações que podem incidir sobre os fornecedores e utilizadores de sistema de IA, é essencial uma avaliação interdisciplinar com vista a uma efetiva conformidade com o RAI, desde logo na identificação dos riscos.

Neste âmbito, o profissional da área jurídica desempenha um papel fundamental na concretização dos conceitos e dos princípios jurídicos utilizados ao longo do RAI, auxiliando tanto na identificação, do ponto de vista operacional, das corretas medidas a adotar no desenvolvimento, implantação ou utilização dos sistemas IA, como na conformidade com o quadro legal e, sobretudo, no impacto e revisões aos contratos de produtos e serviços que envolvam sistemas AI