Juízes obrigados a revelar o uso de Inteligência Artificial nas decisões judiciais

Um juiz que passe a usar Inteligência Artificial (IA) na elaboração de sentenças ou acórdãos tem de o revelar de forma expressa, fica totalmente responsável por essa mesma decisão e só pode recorrer a algoritmos para tarefas de apoio como pesquisa jurídica, organização de informação processual e elaboração de rascunhos ou minutas. Estas são algumas das recomendações do Conselho Superior da Magistratura (CMS) que aprovou um conjunto de regras para a utilização de IA por parte dos juízes. Bem como a criação de uma estrutura comum de supervisão do uso de IA pelos magistrados judiciais.

As recomendações, propostas pelo Grupo de Acompanhamento da Inteligência Artificial (GAIA) do CSM, estabelecem que a utilização destas ferramentas deve assumir “um caráter exclusivamente auxiliar, não podendo, em caso algum, substituir os juízes na tomada de decisões, na avaliação de prova ou na interpretação da lei”. O documento sublinha a necessidade de assegurar um controlo humano efetivo, assim como “a responsabilidade plena dos juízes pelas decisões proferidas, mesmo quando utilizem sistemas de inteligência artificial como apoio”. As recomendações admitem a utilização destas ferramentas para tarefas como pesquisa jurídica, organização de informação ou elaboração de rascunhos, desde que sujeitas a revisão crítica e validação pelo juiz.

O documento enquadra-se num conjunto de orientações internacionais e europeias — incluindo normas da União Europeia, da OCDE, da UNESCO e do Conselho da Europa — que classificam o uso de IA na atividade jurisdicional como de “alto risco”, sobretudo devido ao impacto potencial nos direitos fundamentais e na proteção de dados pessoais.

Lista das orientações definidas pelo CSM

• Controlo humano efetivo e permanente;
• Responsabilidade exclusiva do juiz pelas decisões;
• Salvaguarda da independência judicial;
• Respeito pelos direitos fundamentais;
• Prevenção de enviesamentos algorítmicos;
• Garantia de segurança e confidencialidade dos dados.
• Os magistrados devem declarar explicitamente quando recorrem a sistemas de IA nas suas decisões.
• A utilização da IA é recomendada sobretudo para tarefas de apoio, como: pesquisa jurídica, organização e análise de informação processual, elaboração de rascunhos ou minutas não vinculativas. E mesmo nestes casos, qualquer conteúdo gerado deve ser integralmente revisto pelo juiz.
• Por outro lado, são proibidas utilizações como: decisões automatizadas, uso de dados pessoais sensíveis fora dos processos, criação de perfis ou previsões comportamentais, inserção de dados judiciais em plataformas externas não autorizadas.

O documento alerta ainda para os riscos associados a sistemas de IA abertos, nomeadamente a possibilidade de exposição de dados confidenciais e a geração de informação incorreta (como jurisprudência inexistente).

O GAIA propõe ainda a abertura de contactos entre as várias entidades do sistema judicial para avaliar a criação de uma estrutura comum de supervisão. Em alternativa, o CSM poderá implementar um organismo interno com funções de controlo e acompanhamento do uso de IA.

O objetivo é assegurar que “a adoção destas tecnologias ocorre de forma responsável, transparente e compatível com os princípios fundamentais do Estado de direito”.

Caso polémico que nasce de queixa de advogados

Em outubro do ano passado, o mesmo CSM abriu um processo disciplinar ao juiz desembargador do Tribunal da Relação de Lisboa acusado de elaborar um acórdão com recurso a inteligência artificial (IA), na sequência de averiguação preliminar aberta em fevereiro.

A averiguação preventiva foi aberta pelo CSM na sequência de uma queixa recebida sobre o acórdão do Tribunal da Relação de Lisboa em causa, apresentada pelos 12 advogados de defesa dos arguidos no processo, que exigiram uma investigação ao alegado uso de IA na decisão relativa ao caso que envolve a antiga deputada do PSD Helena Lopes da Costa e a Santa Casa da Misericórdia de Lisboa.

Em fevereiro, o CSM esclareceu que o processo de averiguações visava “não só a identificação de uma possível infração disciplinar, como é objeto da queixa, mas também o estabelecimento de recomendações sobre o uso de ferramentas de inteligência artificial nos tribunais e pelos juízes”.

O TRL, que inicialmente considerou “completamente descabidas” as alegações de uso de IA no acórdão dos desembargadores Alfredo Costa, Hermengarda do Valle-Frias e Margarida Ramos de Almeida que citava legislação e jurisprudência inexistentes, acabou por corrigir o acórdão, mas sem alterar a decisão, após reclamações apresentadas pelas defesas junto deste tribunal.