Um algoritmo foi a julgamento… e perdeu

É um sinal dos tempos: um algoritmo foi condenado em tribunal pela discriminação que provocou.

Este ano começa com um sinal de alerta face ao poder dos algoritmos: é a primeira vez que a utilização de um algoritmo é explicitamente condenada num país da União Europeia. Um tribunal de Bolonha condenou uma empresa de distribuição de refeições pela discriminação de trabalhadores que o seu algoritmo provocou.

A Deliveroo é uma empresa de entrega de refeições semelhante a várias outras que vivem da “Gig Economy” – o mecanismo empresarial que utiliza extensas forças de trabalho sem contratação e sem pagamento de prestações sociais. E, como muitas outras também, a Deliveroo usa uma aplicação para distribuir trabalho aos estafetas que é ativada por um algoritmo – e foi esse algoritmo que foi condenado, por discriminação ativa entre a força de trabalho.

Naturalmente, o que está em causa não é o algoritmo, é a política da empresa que o implementou – um algoritmo não nasce de geração espontânea, é deliberadamente criado para produzir um resultado desejado. Os responsáveis legais pelas suas consequências são os autores do mesmo, mesmo que se escudem atrás de uma decisão automatizada. Este processo italiano reflete outros dos últimos meses. Em fevereiro, um tribunal francês tinha condenado a mesma Deliveroo, obrigando-a a contratar um empregado que estava precário há quatro anos. E em outubro a espanhola Glovo foi forçada a aceitar uma decisão do Supremo Tribunal de Madrid que definiu os seus entregadores como funcionários e não como autónomos. Os processos são o primeiro sinal do que se poderá esperar com a crescente automatização da sociedade. Mas uma tendência que certamente irá crescer em 2021 é a da responsabilização dos algoritmos pelas suas consequências sociais.

Já no verão se viu um primeiro exemplo de disrupção social provocada por um algoritmo, quando o governo britânico decidiu definir as entradas na universidade através de uma fórmula computorizada que pura e simplesmente aumentou os mecanismos de desigualdade – e foi preciso os alunos saírem à rua para obrigar o Governo a reverter a política e a enterrar o algoritmo.

Nos Estados Unidos, uma empresa que fornece exames virtuais foi manobrada por um conjunto de alunos que percebeu que bastava colocar uma série de palavras-chave no final de cada resposta para garantir 100% de resultados certos – porque o algoritmo não é capaz de interpretar a subtileza de uma avaliação, foi facilmente manobrado.

Voltando ao mercado de trabalho, foi recentemente denunciado um comportamento abusivo por parte da Whole Foods (uma empresa de distribuição detida pela Amazon que tem vindo a expandir-se para a Europa). A empresa de Jeff Bezos utilizou um algoritmo para analisar dados como o número de queixas de empregados para perceber em que lojas se poderiam dar tentativas de recorrer a sindicatos para garantir maiores proteções sociais e agir preventivamente, despedindo empregados descontentes. Ao mesmo tempo, vários departamentos de recursos humanos já recorrem a inteligência artificial para avaliar candidatos, excluindo aqueles que não parecem servir os interesses das empresas.

Todas estas ferramentas poderiam ser úteis se os dados em que se baseiam os algoritmos fossem equilibrados. Na maioria dos casos, não são. E como gestores e funcionários públicos não os entendem, tomam as promessas de resultados como bons e acabam com os efeitos contrários aos esperados.

Em termos de impacto para o mercado de trabalho, esta é mesmo uma tempestade com os ingredientes perfeitos: os sindicatos continuam no processo de auto-destruição desenvolvido nos últimos vinte anos, incapazes de se modernizar e perceber os desafios da sociedade digital; os governos continuam a assobiar para o lado, ineptos face à rapidez da mudança; a desigualdade continua a empurrar trabalhadores para mecanismos paralelos de rendimento, provocando concorrência desleal no mercado e sobrecarregando o Estado devido às prestações sociais de que estas empresas se livram. O que está em causa é tão simplesmente o modelo social europeu, pressionado por todos os lados. E, dado que as políticas de trabalho não fazem parte do portfólio europeu (porque os estados assim não o querem), compete a cada governo legislar nesta matéria. Está-se mesmo a ver o que vai acontecer aqui, não é?

Ler mais: Richard Baldwin publicou este livro um ano antes de a pandemia ter acelerado os efeitos que anunciou. A automatização e digitalização foram aceleradas graças ao Covid-19 e trouxeram grandes mudanças ao mundo do trabalho, que agora começam a afetar diretamente os trabalhadores e os empresários. The Globotics Upheaval é um belo guia prático para entender o que já está a acontecer.

 

O jornalismo continua por aqui. Contribua

Sem informação não há economia. É o acesso às notícias que permite a decisão informada dos agentes económicos, das empresas, das famílias, dos particulares. E isso só pode ser garantido com uma comunicação social independente e que escrutina as decisões dos poderes. De todos os poderes, o político, o económico, o social, o Governo, a administração pública, os reguladores, as empresas, e os poderes que se escondem e têm também muita influência no que se decide.

O país vai entrar outra vez num confinamento geral que pode significar menos informação, mais opacidade, menos transparência, tudo debaixo do argumento do estado de emergência e da pandemia. Mas ao mesmo tempo é o momento em que os decisores precisam de fazer escolhas num quadro de incerteza.

Aqui, no ECO, vamos continuar 'desconfinados'. Com todos os cuidados, claro, mas a cumprir a nossa função, e missão. A informar os empresários e gestores, os micro-empresários, os gerentes e trabalhadores independentes, os trabalhadores do setor privado e os funcionários públicos, os estudantes e empreendedores. A informar todos os que são nossos leitores e os que ainda não são. Mas vão ser.

Em breve, o ECO vai avançar com uma campanha de subscrições Premium, para aceder a todas as notícias, opinião, entrevistas, reportagens, especiais e as newsletters disponíveis apenas para assinantes. Queremos contar consigo como assinante, é também um apoio ao jornalismo económico independente.

Queremos viver do investimento dos nossos leitores, não de subsídios do Estado. Enquanto não tem a possibilidade de assinar o ECO, faça a sua contribuição.

De que forma pode contribuir? Na homepage do ECO, em desktop, tem um botão de acesso à página de contribuições no canto superior direito. Se aceder ao site em mobile, abra a 'bolacha' e tem acesso imediato ao botão 'Contribua'. Ou no fim de cada notícia tem uma caixa com os passos a seguir. Contribuições de 5€, 10€, 20€ ou 50€ ou um valor à sua escolha a partir de 100 euros. É seguro, é simples e é rápido. A sua contribuição é bem-vinda.

Obrigado,

António Costa
Publisher do ECO

5€
10€
20€
50€

Comentários ({{ total }})

Um algoritmo foi a julgamento… e perdeu

Respostas a {{ screenParentAuthor }} ({{ totalReplies }})

{{ noCommentsLabel }}

Ainda ninguém comentou este artigo.

Promova a discussão dando a sua opinião