A urgência de regular os algoritmos

Há algoritmos à solta, com responsabilidades diretas na esfera pública e privada dos cidadãos. Continuamos ignorantes sobre os seus riscos e incapazes de avaliar o seu valor.

São tempos estranhos, estes. Ao mesmo tempo que diabolizamos torres de 5G e tememos vacinas por carregarem ADN extraterrestre, valorizamos algoritmos como se fossem naturalmente bons e creditamo-los com propriedades reservadas aos salvadores da humanidade. De inteligente, a “inteligência artificial” que tanto valorizamos não tem nada. As suas capacidades estão limitadas às linhas que os humanos programaram e a “inteligência” que demonstram é apenas uma forma de aferir resultados a partir dos dados com que foram alimentadas. É, se assim quisermos, uma fotocopiadora glorificada com alguns poderes de edição. Mal estaremos se for esta a inteligência de que dependemos para evoluir enquanto espécie. E a verdade é que as palavras contam: o vocabulário que usamos é útil para definir a forma como integramos elementos no quotidiano.

Se esta não é ainda a inteligência que esperamos, então é bom clarificar o que temos. E o que temos é um sub-produto que está a ser usado como um oráculo que define o futuro e controla cada vez mais as decisões quotidianas que são tomadas. É urgente criar uma entidade que valide a integridade destes algoritmos antes que eles sejam deixados à solta. Mesmo quem – justificadamente – teme o excesso de regulação e de funcionalismo público, sabe que nenhuma indústria tóxica se reconverte por obra e graça do espírito crítico próprio. A história das indústrias poluentes, das farmacêuticas, das tabaqueiras e da banca está aí para o demonstrar. E terá de ser uma regulação ao nível do continente, liderada pela União Europeia, de forma a ter um impacto amplo e de permitir a sua reconversão.

O caso peregrino ocorrido no Reino Unido este verão é sintomático das limitações dos algoritmos, que se limitam a reproduzir os padrões que auferem dos dados submetidos. Logicamente, se os dados forem limitados, os resultados também o são. E o que aconteceu foi precisamente isso: para resolver a ausência do exame de admissão à universidade, o executivo britânico pediu aos professores para atribuírem uma nota equivalente a esse exame. E, como não gostou do resultado, criou um algoritmo que chegou a novas conclusões: prejudicou sistematicamente os alunos dos meios menos favorecidos e valorou desmesuradamente os alunos das escolas ricas. Foram precisas várias semanas de reclamações e ameaças para que o governo revertesse a decisão e “despedisse” o algoritmo. Nos Estados Unidos, algoritmos destes já são usados rotineiramente para definir os valores de fianças, seguros de saúde e até para avaliar riscos de reincidência criminosa, prejudicando normalmente as minorias. Numa sociedade racista, estes números serão sempre o seu reflexo – e se queremos terminar o racismo não podemos tomar estes dados como bons. São decisões demasiado perigosas para deixar ao cuidado das máquinas – que, recordemos, são alimentadas por humanos que erram. Um algoritmo é simplesmente tão bom quanto os dados que são inseridos, e muitas vezes os dados disponíveis não são os melhores. Logo, para podermos usar de forma útil os algoritmos, é preciso certificá-los da mesma forma que se certifica comida para consumo humano. Qualquer decisão contrária a isso vai eternizar desigualdades, erros, injustiças e falhas – subvertendo a lógica da utilização do algoritmo. Se é para ter falhas mais valem as humanas, porque ao menos essas não contam com a promoção do marketing digital.

Ler mais: Cathy o’Neil escreveu um livo que sumarizava os problemas da utilização de algoritmos em 2016. Desde aí a situação piorou muito. A obra chama-se Weapons of Math Destruction e explora os problemas da utilização de grandes pacotes de dados e de algoritmos para decisões com impacto político-social.

Quanto vale uma notícia? Contribua para o jornalismo económico independente

Quanto vale uma notícia para si? E várias? O ECO foi citado em meios internacionais como o New York Times e a Reuters por causa da notícia da suspensão de António Mexia e João Manso Neto na EDP, mas também foi o ECO a revelar a demissão de Mário Centeno e o acordo entre o Governo e os privados na TAP. E foi no ECO que leu, em primeira mão, a proposta de plano de recuperação económica de António Costa Silva.

O jornalismo faz-se, em primeiro lugar, de notícias. Isso exige investimento de capital dos acionistas, investimento comercial dos anunciantes, mas também de si, caro leitor. A sua contribuição individual é relevante.

De que forma pode contribuir para a sustentabilidade do ECO? Na homepage do ECO, em desktop, tem um botão de acesso à página de contribuições no canto superior direito. Se aceder ao site em mobile, abra a 'bolacha' e tem acesso imediato ao botão 'Contribua'. Ou no fim de cada notícia tem uma caixa com os passos a seguir. Contribuições de 5€, 10€, 20€ ou 50€ ou um valor à sua escolha a partir de 100 euros. É seguro, é simples e é rápido. A sua contribuição é bem-vinda.

António Costa
Publisher do ECO

5€
10€
20€
50€

Comentários ({{ total }})

A urgência de regular os algoritmos

Respostas a {{ screenParentAuthor }} ({{ totalReplies }})

{{ noCommentsLabel }}

Ainda ninguém comentou este artigo.

Promova a discussão dando a sua opinião