Presidente da Critical Software alerta para falta de transparência na IA

O presidente do conselho de administração da tecnológica Critical Software, Gonçalo Quadros, alertou esta quarta-feira, em Coimbra, para a falta de transparência na inteligência artificial, assim como para o risco de esta vir a agravar as desigualdades no mundo.

“Há um problema de transparência ou de falta dela”, notou o fundador da tecnológica sediada em Coimbra, que participava num debate sobre o impacto da inteligência artificial (IA) no jornalismo e na democracia, promovido pelo Sindicato dos Jornalistas e pela Secção de Jornalismo e Comunicação da Faculdade de Letras da Universidade de Coimbra (FLUC).

Para o empresário, são necessários algoritmos, que ajudam os humanos “a fazer coisas interessantes”, mas é necessário garantir que “os algoritmos são equitativos e justos”. “Porque é que o algoritmo devolve um determinado resultado? O que deu a origem, qual a lógica desse resultado? Muitas vezes não é possível dar essa resposta. Não percebemos porque é que a IA cria aquele resultado”, constatou.

Gonçalo Quadros aclarou que a inteligência artificial não evolui apenas pelo aumento da capacidade computacional, mas pela quantidade de dados que lhe é fornecido, podendo esses dados serem enviesados ou até ter algum tipo de preconceito, recordando casos onde a inteligência artificial apresentava padrões de discriminação na sua decisão.

Abordando a questão da possibilidade de a IA ser utilizada para manipular informação ou criar informação falsa, o empresário realçou que será possível criar tecnologia que identifique essas manipulações ou que as combata, no entanto, isso não elimina o impacto negativo da informação que entretanto foi veiculada, como acontece atualmente, com notícias falsas que não são geradas por máquinas a chegarem a muito mais pessoas do que a informação que posteriormente a desmente.

Com as máquinas, haverá uma capacidade de produzir e criar informação manipulada de “forma vertiginosa”, observou, acreditando que será difícil combater essa escala. O presidente da Critical Software destacou ainda o “problema sério” que existe no potencial de destruição e desqualificação de emprego que a IA poderá trazer.

“Não é a primeira vez que acontece na nossa História, mas desta vez o impacto é mais transversal. Não estará focado num setor, como a indústria ou a agricultura. Um trabalho que obrigava a uma grande qualificação poderá ser feito por alguém sem qualificações, com a ajuda de máquinas”, vincou.

Nesse sentido, acredita que essa mistura, entre desqualificação e destruição de emprego, poderá gerar “uma receita brutal para a desigualdade”, com a riqueza gerada pela IA a ser capturada, não pelo fator do trabalho, mas por “algumas pessoas que já estão no topo”, num momento em que deixa de haver uma relação entre a evolução das condições materiais dos trabalhadores e os níveis de produtividade.

O professor de jornalismo da FLUC Carlos Camponez sublinhou as possíveis consequências de mais despedimentos no setor, possibilidade de mais fusões e aquisições num meio onde a concentração de órgãos de comunicação social tem-se vindo a acentuar nas últimas décadas. “Não sei como se vai cortar mais. Com as reduções que se preveem nas redações, até que ponto será possível garantir uma edição humana, quando passa a haver muito pouca gente”, disse.

O jornalista da RTP especializado em novas tecnologias e docente universitário Daniel Catalão apontou para a possibilidade de oportunidades com o uso da IA no jornalismo, nomeadamente um aumento da eficiência e a melhoria na análise de dados, mas também alertou para as possíveis consequências no que toca à manipulação de informação e produção de conteúdos falsos.