IA é “revolucionária” para as empresas, mas mau uso pode gerar “prejuízos”

A inteligência artificial (IA) constitui uma oportunidade para as empresas, mas os conselhos de administração devem estar atentos aos riscos associados, que podem materializar-se em “prejuízos”, alerta Adolfo Mesquita Nunes, sócio da Pérez-Llorca, especializado nas questões legais e regulatórias relacionadas com IA.

“Poucas coisas são tão revolucionárias como a IA para a vida de uma empresa, num setor aberto à concorrência. A maior parte das empresas está a ser confrontada com a possibilidade de os seus modelos de negócio serem completamente disrompidos por uma tecnologia. É um enorme desafio e oportunidade”, considera o advogado, assumindo que o desafio se coloca por se verificar uma evolução na tecnologia a “uma enorme velocidade”.

Adolfo Mesquita Nunes vai debruçar-se sobre o tema “O que devem os CEO e boards ter em conta na hora de adotar a IA”, num painel integrado no Congresso de Supply Chain da GS1 Portugal esta quarta-feira, e que tem como mote as “Cadeias de valor 5.0 – novo paradigma da competitividade: transições climática, energética e tecnológica em perspetiva”.

“Se não forem tidas em conta as boas práticas, [o uso de IA] pode levar a más decisões e prejuízos“, afirma Adolfo Mesquita Nunes em declarações ao ECO/Capital Verde. A título de exemplo, se for usada IA para avaliar o desempenho dos trabalhadores e se perceber, anos depois, que o sistema está a discriminar mulheres, “já criou prejuízo”. Ou se é usada em processos de decisão, mas acaba por se tomar uma decisão errada porque a qualidade dos dados era fraca, “geram-se prejuízos”. Se infraestruturas críticas colapsarem na sequência do uso de tecnologia, “criam-se prejuízos”.

“Boa parte dos riscos não são intuitivos”, alerta o especialista em regulamentação da IA. Vai depender da área e atividade da empresa. No entanto, um risco comum a ter em conta é que “as ferramentas de inteligência artificial podem levar a decisões enviesadas ou erradas“, defende, olhando por exemplo a problemas relacionados com o histórico ou qualidade dos dados usados.

Em segundo lugar, existem desafios no que diz respeito à transparência a explicabilidade dos dados. “As empresas não podem correr o risco de desconhecerem porque é que certas decisões são tomadas”, no sentido de não estarem por dentro de como funcionam os processos com recurso a inteligência artificial que as suportam. Dando um exemplo prático, Mesquita Nunes questiona se é admissível que um banco recuse acesso a crédito com explicando que assim o é porque o sistema o determinou, “ou queremos uma explicação?”. Por fim, há que ter em conta o risco de a IA poder ameaçar infraestruturas críticas, impondo-se um desafio de resiliência e cibersegurança, enumera.

“Isto não significa que as empresas não devam aderir em força à IA. Essa adoção deve ser feita mapeando e mitigando os riscos. O que não pode acontecer é acharem que IA é um assunto de IT [da equipa tecnológica] sobre o qual não têm muito a dizer“, ressalva. É da responsabilidade dos conselhos de administração trazer conhecimento e capacidades para a empresa, de forma a garantir que as decisões tomadas nesta área são informadas, e que a estratégia delineada tem as exigências legais como base. “É aconselhável que o conselho de administração e a comissão executiva tenham a inteligência artificial (IA) como um dos pontos recorrentes da sua agenda”, remata.

O incumprimento do regulamento europeu que está em vigor pode levar a multas de até 7% do volume de negócios global anual da empresa, sublinha o sócio da Pérez Llorca.

Em suma, aconselha Mesquita Nunes, os conselhos de administração devem participar no processo e procurar saber quais os usos atuais e planeados para a inteligência artificial na organização, as funções que a IA pode assumir no setor em questão e nos respetivos clientes e, finalmente, conhecer todos os riscos e oportunidades associados.