Adolfo Mesquita Nunes alerta para riscos da IA na tomada de decisão das empresas

O advogado e sócio da Pérez-Llorca, Adolfo Mesquita Nunes, afirmou esta terça-feira que as empresas têm de saber utilizar a inteligência artificial (IA) de forma responsável e que, sobretudo na área de recursos humanos, é necessária “supervisão humana”.

O ex-deputado do CDS-PP falava na conferência do ECO, “Reprogramar o trabalho”, explicando que “as empresas têm obrigação de ter supervisão humana. Isto é, de garantir que há sempre alguém a supervisionar as decisões e que os sistemas devem ser suficientemente transparentes para que o governo possa responsabilizar [alguém].”

O advogado deu exemplos de situações que podem surgir no mercado de trabalho e que, na ausência de uma decisão final humana, passa a existir uma falta de credibilidade perante a empresa.

“Imaginem ter sistemas de IA de homogeneização social que faz promoções, despedimentos e não há capacidade de explicar ao trabalhador a razão pela qual isto aconteceu. A resposta que o sistema dá não é aceitável [para os trabalhadores], pelo menos à forma de como nós hoje nos organizamos como sociedade.”

No entanto, Mesquita Nunes realça que é fundamental ter profissionais com capacidade para monitorizar os sistemas de IA. “Não serve de nada ter alguém a supervisionar uma máquina ou um sistema com garantia de que ele não vai engasgar se essa pessoa não tiver capacidade de supervisão humana”, explicou o advogado.

O advogado reforçou que é ainda mais importante não deixar tudo na mão da IA, porque a tecnologia pode discriminar e enviesar decisões importantes. “Temos de garantir que os sistemas continuam com o seu caminho com regras, e que não sejam opacos e discriminatórios. E portanto as empresas vão ter que capacitar líderes para poderem ter esta capacidade de supervisionar”, defendeu Mesquita Nunes.

“Os CEO sentem-se confortáveis com decisões tomadas por sistemas de IA [sem passar pelo seu escrutínio]? Eu acho que não”, atirou Mesquita Nunes, sublinhando a necessidade de uma reflexão aprofundada sobre o tema.

O advogado alertou também para as desigualdades que podem surgir entre trabalhadores da mesma empresa quando são utilizados diferentes sistemas de IA em diversas áreas da organização, defendendo que estas devem ser mitigadas, já que “não é o colaborador que escolhe o sistema de IA que quer utilizar”, existindo uns mais eficazes que outros.

Mesquita Nunes reforçou que “tem de existir dentro das empresas programas de capacitação que não sejam discriminatórios, para que a desigualdade não seja uma consequência das políticas da empresa, enquanto não seja uma opção privada do trabalhador a escolha do sistema de IA.”

Acrescentou ainda que, à medida que diferentes áreas utilizam sistemas de IA distintos, “vão existir desigualdades de performance entre trabalhadores” e que “é preciso perceber até onde pode ir a avaliação de performance de trabalhadores” em componentes sobre as quais não têm responsabilidade de escolha.