Quem manda na inteligência artificial?

Nas últimas duas semanas Silicon Valley percebeu finalmente a importância de incluir a ética na inteligência artificial. Os erros publicamente cometidos na Califórnia demonstram que as grandes empresas de tecnologia preferem, à semelhança dos cowboys do velho oeste, disparar primeiro e perguntar depois.

Na semana passada, a universidade de Stanford decidiu anunciar, com pompa e circunstância, um conjunto de 20 especialistas em inteligência artificial, dignos “representantes da humanidade” – não havia um único negro e apenas seis eram mulheres. Já esta semana a Google decidiu criar um conselho de consultores externos para ajudar a tomar decisões sobre a inteligência artificial: No grupo incluiu o CEO de uma empresa de drones que trabalha para o exército norte-americano e a presidente de centro de estudos que se pronuncia regularmente contra os direitos de minorias sexuais. Graças ao impacto público destas escolhas, ambas as situações foram revistas: Stanford alargou muito o seu painel e a Google decidiu enterrar o ainda por nascer conselho externo.

A situação é preocupante e tem de ser resolvida antes de se soltarem algoritmos que tomam decisões com grande impacto social. Esta discussão já nasce tarde, porque o problema vai muito para lá da escolha desta ou daquela pessoa para tomar parte nos conselhos consultivos. O problema está na responsabilização de quem toma decisões por estes algoritmos que vão automatizar grande parte das decisões tomadas em nome do nosso coletivo. A União Europeia está bastante mais avançada nesta temática e tem trabalho feito, falta fazê-lo chegar às empresas que trabalham na área.

As tecnologias de inteligência artificial baseadas em mecanismos de aprendizagem automática terão um papel fundamental nas nossas sociedades. A questão é que essas aprendizagens baseiam-se em dados que são fruto da desigualdade – e que por isso mesmo se tornam mecanismos que perpetuam essa mesma desigualdade.

As máquinas não têm em consideração análises que passem para lá da estrita replicação de informação numérica e quaisquer parâmetros estruturados de decisão têm de ser tomados por humanos. Concretizemos com um exemplo corriqueiro: uma grande empresa desenvolve um programa para encontrar o melhor CEO e usa como base os resultados em bolsa das grandes empresas e percursos dos seus responsáveis nos últimos cinquenta anos.

A indicação do software será quase de certeza um homem branco na casa dos 50 com educação tradicional e percurso convencional – não porque estes sejam os melhores mas porque estes compõem a grande maioria da amostra disponível. Os dados não são neutros e, por isso, as conclusões automatizadas sobre eles também não o são.

Quando as decisões que as máquinas tomam são sobre questões de saúde ou desenvolvimento social, a importância aumenta. É por isso que todas as escolhas relacionadas com o que a inteligência artificial pode e não pode fazer têm de ser avaliadas eticamente – e a ética é algo que as máquinas desconhecem devido à sua própria natureza. Mas, quando nos relacionamos com humanos, convém ter em conta essas mesmas considerações éticas. Ou queremos todos ser transformados em máquinas?

Ler mais: Meredith Broussard é professora na Universidade de Nova Iorque e jornalista de dados, sendo autora do Artificial Unintelligence, um guia muito útil para discutir os limites do que podemos e devemos fazer com a tecnologia, abordando práticas tão diversas como os carros autónomos, a avaliação dos testes escolares e as doações monetárias para campanhas políticas. A autora usa todos esses casos para demonstrar que a tecnologia não é sempre a solução e que é fundamental abandonar rapidamente o tecnochauvinismo. É uma bela introdução à discussão sobre o papel que a tecnologia e a automatização devem desempenhar nos nossos dias.