Um algoritmo foi a julgamento… e perdeu

É um sinal dos tempos: um algoritmo foi condenado em tribunal pela discriminação que provocou.

Este ano começa com um sinal de alerta face ao poder dos algoritmos: é a primeira vez que a utilização de um algoritmo é explicitamente condenada num país da União Europeia. Um tribunal de Bolonha condenou uma empresa de distribuição de refeições pela discriminação de trabalhadores que o seu algoritmo provocou.

A Deliveroo é uma empresa de entrega de refeições semelhante a várias outras que vivem da “Gig Economy” – o mecanismo empresarial que utiliza extensas forças de trabalho sem contratação e sem pagamento de prestações sociais. E, como muitas outras também, a Deliveroo usa uma aplicação para distribuir trabalho aos estafetas que é ativada por um algoritmo – e foi esse algoritmo que foi condenado, por discriminação ativa entre a força de trabalho.

Naturalmente, o que está em causa não é o algoritmo, é a política da empresa que o implementou – um algoritmo não nasce de geração espontânea, é deliberadamente criado para produzir um resultado desejado. Os responsáveis legais pelas suas consequências são os autores do mesmo, mesmo que se escudem atrás de uma decisão automatizada. Este processo italiano reflete outros dos últimos meses. Em fevereiro, um tribunal francês tinha condenado a mesma Deliveroo, obrigando-a a contratar um empregado que estava precário há quatro anos. E em outubro a espanhola Glovo foi forçada a aceitar uma decisão do Supremo Tribunal de Madrid que definiu os seus entregadores como funcionários e não como autónomos. Os processos são o primeiro sinal do que se poderá esperar com a crescente automatização da sociedade. Mas uma tendência que certamente irá crescer em 2021 é a da responsabilização dos algoritmos pelas suas consequências sociais.

Já no verão se viu um primeiro exemplo de disrupção social provocada por um algoritmo, quando o governo britânico decidiu definir as entradas na universidade através de uma fórmula computorizada que pura e simplesmente aumentou os mecanismos de desigualdade – e foi preciso os alunos saírem à rua para obrigar o Governo a reverter a política e a enterrar o algoritmo.

Nos Estados Unidos, uma empresa que fornece exames virtuais foi manobrada por um conjunto de alunos que percebeu que bastava colocar uma série de palavras-chave no final de cada resposta para garantir 100% de resultados certos – porque o algoritmo não é capaz de interpretar a subtileza de uma avaliação, foi facilmente manobrado.

Voltando ao mercado de trabalho, foi recentemente denunciado um comportamento abusivo por parte da Whole Foods (uma empresa de distribuição detida pela Amazon que tem vindo a expandir-se para a Europa). A empresa de Jeff Bezos utilizou um algoritmo para analisar dados como o número de queixas de empregados para perceber em que lojas se poderiam dar tentativas de recorrer a sindicatos para garantir maiores proteções sociais e agir preventivamente, despedindo empregados descontentes. Ao mesmo tempo, vários departamentos de recursos humanos já recorrem a inteligência artificial para avaliar candidatos, excluindo aqueles que não parecem servir os interesses das empresas.

Todas estas ferramentas poderiam ser úteis se os dados em que se baseiam os algoritmos fossem equilibrados. Na maioria dos casos, não são. E como gestores e funcionários públicos não os entendem, tomam as promessas de resultados como bons e acabam com os efeitos contrários aos esperados.

Em termos de impacto para o mercado de trabalho, esta é mesmo uma tempestade com os ingredientes perfeitos: os sindicatos continuam no processo de auto-destruição desenvolvido nos últimos vinte anos, incapazes de se modernizar e perceber os desafios da sociedade digital; os governos continuam a assobiar para o lado, ineptos face à rapidez da mudança; a desigualdade continua a empurrar trabalhadores para mecanismos paralelos de rendimento, provocando concorrência desleal no mercado e sobrecarregando o Estado devido às prestações sociais de que estas empresas se livram. O que está em causa é tão simplesmente o modelo social europeu, pressionado por todos os lados. E, dado que as políticas de trabalho não fazem parte do portfólio europeu (porque os estados assim não o querem), compete a cada governo legislar nesta matéria. Está-se mesmo a ver o que vai acontecer aqui, não é?

Ler mais: Richard Baldwin publicou este livro um ano antes de a pandemia ter acelerado os efeitos que anunciou. A automatização e digitalização foram aceleradas graças ao Covid-19 e trouxeram grandes mudanças ao mundo do trabalho, que agora começam a afetar diretamente os trabalhadores e os empresários. The Globotics Upheaval é um belo guia prático para entender o que já está a acontecer.

 

Assine o ECO Premium

No momento em que a informação é mais importante do que nunca, apoie o jornalismo independente e rigoroso.

De que forma? Assine o ECO Premium e tenha acesso a notícias exclusivas, à opinião que conta, às reportagens e especiais que mostram o outro lado da história e às newsletters ECO Insider e Novo Normal.

Esta assinatura é uma forma de apoiar o ECO e os seus jornalistas. A nossa contrapartida é o jornalismo independente, rigoroso e credível.

Comentários ({{ total }})

Um algoritmo foi a julgamento… e perdeu

Respostas a {{ screenParentAuthor }} ({{ totalReplies }})

{{ noCommentsLabel }}

Ainda ninguém comentou este artigo.

Promova a discussão dando a sua opinião