Há que erguer as fundações da Inteligência Artificial

A série para televisão “Foundation”, de Josh Friedman e David S. Goyer, cuja primeira temporada estreou em setembro, conta a história de uma galáxia e das suas diferentes populações, dominadas pelo Império Galático. Para qualquer fã de Star Wars (como eu) ou de ficção científica em geral, digo-vos já que é imperdível.

A minha personagem favorita chama-se Demerzel. Demerzel é uma robô. Sendo a única representante da sua espécie, nota-se ao longo dos episódios o esforço que faz para não demonstrar a sua diferença. Alcança-o precisamente por ser a mais fiel e dedicada dos ajudantes do imperador, nunca desafiando a sua autoridade.

Nem de propósito, “Foundation” é baseada na obra homónima de Isaac Asimov. As suas “Três Leis da Robótica”, publicadas pela primeira vez em 1942, representaram um esforço pioneiro para tentar estabelecer regras de convivência pacífica entre formas de inteligência humana e não humana. Em síntese, um robô nunca deveria magoar-nos ou prejudicar-nos, antes proteger-nos e apoiar-nos.

Quase 80 anos depois, continuamos a tentar definir as mesmas normas. Neste momento, a urgência é ainda maior, uma vez que a evolução tecnológica já nos colocou no “futuro”, com sistemas de Inteligência Artificial (IA) cada vez mais avançados e os seus desafios emergentes. Em abril de 2021, a Comissão Europeia lançou uma proposta de regulamento abrangente nesta matéria, a qual se encontra presentemente sob discussão, com o objetivo de aprovar uma versão final já em 2022.

O âmbito de aplicação do regulamento é alargado, visando não apenas fornecedores estabelecidos na União Europeia, mas também aqueles que coloquem no mercado europeu sistemas de Inteligência Artificial ou cujo resultado produzido aí fique disponível. Todos os utilizadores sitos na União Europeia, consumidores destes sistemas, beneficiarão da proteção conferida pelo diploma.

Os sistemas de IA, ou seja, os programas informáticos capazes de criarem resultados, tais como recomendações ou decisões, que influenciem os ambientes com os quais interagem, serão classificados como “proibidos” ou “aceitáveis” e, dentro destes últimos, consoante níveis de risco. É fundamental saber quais serão os sistemas de risco “elevado”, uma vez que, nestas situações, os fornecedores poderão comercializá-los mas terão muitas obrigações a cumprir antes de os colocarem no mercado.

Por exemplo, os treinos de modelos com dados estarão sujeitos a critérios de qualidade, a documentação técnica deverá ser detalhada e sujeita a atualização constante, o registo automático de eventos durante o funcionamento será obrigatório, deverão conter instruções de utilização transparentes e acessíveis para os utilizadores e, muito importante, serão sujeitos a supervisão humana e a medidas corretivas sempre que necessário. Cada sistema de risco elevado precisará de realizar uma avaliação de conformidade e de ser registado numa base de dados europeia.

Neste momento, a proposta de regulamento sob discussão prescreve que sistemas de Inteligência Artificial que determinem o acesso a instituições de ensino ou que realizem operações de recrutamento, entre outros, serão sistemas de risco elevado. Sempre que estes sistemas não cumpram com os requisitos aplicáveis, as coimas poderão chegar aos 30 milhões de euros ou 6% do volume de negócios anual de cada fornecedor, consoante o que for mais elevado.

Quanto aos outros sistemas de IA aceitáveis, a proposta de regulamento também estabelece obrigações de transparência, isto é, cada pessoa deve ser informada de que está a interagir com Inteligência Artificial, a menos que tal resulte óbvio. Ter uma Demerzel, que se confunde perfeitamente com os humanos, não será por isso admissível.

Importa relembrar que, em Portugal, já existe uma carta de princípios aplicável. A Carta Portuguesa de Direitos Humanos na Era Digital, aprovada em maio passado pela Lei n.º 27/2021, vem dizer que as decisões tomadas com recurso a Inteligência Artificial devem ser comunicadas aos interessados, sendo suscetíveis de recurso e auditáveis. Em linha com a proposta de regulamento, portanto.

Igualmente, numa altura em que todos os olhos estão postos no Plano de Recuperação e Resiliência e nas verbas aí previstas, a IA é enunciada como um objetivo a alcançar. Concretamente, em matéria da transição digital das empresas, a transformação dos modelos de negócio das PMEs portuguesas poderá passar pela aceleração e automação das tomadas de decisão e de execução através de IA.

Acredito que os melhores investimentos são sempre aqueles que obedecem a regras claras. A estabilidade regulatória é fundamental para evitar surpresas. Pelo que desejo a fixação breve de um quadro normativo completo a nível europeu, de modo a favorecer mais inovação nesta área, tanto em Portugal como noutros países.

Até lá, restará acompanhar os trabalhos de discussão da proposta de regulamento, buscando sempre que as soluções encontradas sejam ajustadas aos desafios a resolver e que, de uma forma geral, favoreçam uma convivência pacífica entre humanos e não humanos. Que a inteligência artificial nos proteja e apoie sempre, tal como Asimov defendeu.