Quem manda na inteligência artificial?

As máquinas não têm ética. Esta evidência implica o reconhecimento da necessidade de ter humanos a tomar decisões decisões sobre os algoritmos que vão mexer com as nossas vidas.

Nas últimas duas semanas Silicon Valley percebeu finalmente a importância de incluir a ética na inteligência artificial. Os erros publicamente cometidos na Califórnia demonstram que as grandes empresas de tecnologia preferem, à semelhança dos cowboys do velho oeste, disparar primeiro e perguntar depois.

Na semana passada, a universidade de Stanford decidiu anunciar, com pompa e circunstância, um conjunto de 20 especialistas em inteligência artificial, dignos “representantes da humanidade” – não havia um único negro e apenas seis eram mulheres. Já esta semana a Google decidiu criar um conselho de consultores externos para ajudar a tomar decisões sobre a inteligência artificial: No grupo incluiu o CEO de uma empresa de drones que trabalha para o exército norte-americano e a presidente de centro de estudos que se pronuncia regularmente contra os direitos de minorias sexuais. Graças ao impacto público destas escolhas, ambas as situações foram revistas: Stanford alargou muito o seu painel e a Google decidiu enterrar o ainda por nascer conselho externo.

A situação é preocupante e tem de ser resolvida antes de se soltarem algoritmos que tomam decisões com grande impacto social. Esta discussão já nasce tarde, porque o problema vai muito para lá da escolha desta ou daquela pessoa para tomar parte nos conselhos consultivos. O problema está na responsabilização de quem toma decisões por estes algoritmos que vão automatizar grande parte das decisões tomadas em nome do nosso coletivo. A União Europeia está bastante mais avançada nesta temática e tem trabalho feito, falta fazê-lo chegar às empresas que trabalham na área.

As tecnologias de inteligência artificial baseadas em mecanismos de aprendizagem automática terão um papel fundamental nas nossas sociedades. A questão é que essas aprendizagens baseiam-se em dados que são fruto da desigualdade – e que por isso mesmo se tornam mecanismos que perpetuam essa mesma desigualdade.

As máquinas não têm em consideração análises que passem para lá da estrita replicação de informação numérica e quaisquer parâmetros estruturados de decisão têm de ser tomados por humanos. Concretizemos com um exemplo corriqueiro: uma grande empresa desenvolve um programa para encontrar o melhor CEO e usa como base os resultados em bolsa das grandes empresas e percursos dos seus responsáveis nos últimos cinquenta anos.

A indicação do software será quase de certeza um homem branco na casa dos 50 com educação tradicional e percurso convencional – não porque estes sejam os melhores mas porque estes compõem a grande maioria da amostra disponível. Os dados não são neutros e, por isso, as conclusões automatizadas sobre eles também não o são.

Quando as decisões que as máquinas tomam são sobre questões de saúde ou desenvolvimento social, a importância aumenta. É por isso que todas as escolhas relacionadas com o que a inteligência artificial pode e não pode fazer têm de ser avaliadas eticamente – e a ética é algo que as máquinas desconhecem devido à sua própria natureza. Mas, quando nos relacionamos com humanos, convém ter em conta essas mesmas considerações éticas. Ou queremos todos ser transformados em máquinas?

Ler mais: Meredith Broussard é professora na Universidade de Nova Iorque e jornalista de dados, sendo autora do Artificial Unintelligence, um guia muito útil para discutir os limites do que podemos e devemos fazer com a tecnologia, abordando práticas tão diversas como os carros autónomos, a avaliação dos testes escolares e as doações monetárias para campanhas políticas. A autora usa todos esses casos para demonstrar que a tecnologia não é sempre a solução e que é fundamental abandonar rapidamente o tecnochauvinismo. É uma bela introdução à discussão sobre o papel que a tecnologia e a automatização devem desempenhar nos nossos dias.

Contribua. A sua contribuição faz a diferença

Precisamos de si, caro leitor, e nunca precisamos tanto como hoje para cumprir a nossa missão. Que nos visite. Que leia as nossas notícias, que partilhe e comente, que sugira, que critique quando for caso disso. A contribuição dos leitores é essencial para preservar o maior dos valores, a independência, sem a qual não existe jornalismo livre, que escrutine, que informe, que seja útil.

A queda abrupta das receitas de publicidade por causa da pandemia do novo coronavírus e das suas consequências económicas torna a nossa capacidade de investimento em jornalismo de qualidade ainda mais exigente.

É por isso que vamos precisar também de si, caro leitor, para garantir que o ECO é económica e financeiramente sustentável e independente, condições para continuar a fazer jornalismo rigoroso, credível, útil à sua decisão.

De que forma? Contribua, e integre a Comunidade ECO. A sua contribuição faz a diferença,

Ao contribuir, está a apoiar o ECO e o jornalismo económico.

António Costa
Publisher do ECO

5€
10€
20€
50€

Comentários ({{ total }})

Quem manda na inteligência artificial?

Respostas a {{ screenParentAuthor }} ({{ totalReplies }})

{{ noCommentsLabel }}

Ainda ninguém comentou este artigo.

Promova a discussão dando a sua opinião