A urgência de regular os algoritmos

São tempos estranhos, estes. Ao mesmo tempo que diabolizamos torres de 5G e tememos vacinas por carregarem ADN extraterrestre, valorizamos algoritmos como se fossem naturalmente bons e creditamo-los com propriedades reservadas aos salvadores da humanidade. De inteligente, a “inteligência artificial” que tanto valorizamos não tem nada. As suas capacidades estão limitadas às linhas que os humanos programaram e a “inteligência” que demonstram é apenas uma forma de aferir resultados a partir dos dados com que foram alimentadas. É, se assim quisermos, uma fotocopiadora glorificada com alguns poderes de edição. Mal estaremos se for esta a inteligência de que dependemos para evoluir enquanto espécie. E a verdade é que as palavras contam: o vocabulário que usamos é útil para definir a forma como integramos elementos no quotidiano.

Se esta não é ainda a inteligência que esperamos, então é bom clarificar o que temos. E o que temos é um sub-produto que está a ser usado como um oráculo que define o futuro e controla cada vez mais as decisões quotidianas que são tomadas. É urgente criar uma entidade que valide a integridade destes algoritmos antes que eles sejam deixados à solta. Mesmo quem – justificadamente – teme o excesso de regulação e de funcionalismo público, sabe que nenhuma indústria tóxica se reconverte por obra e graça do espírito crítico próprio. A história das indústrias poluentes, das farmacêuticas, das tabaqueiras e da banca está aí para o demonstrar. E terá de ser uma regulação ao nível do continente, liderada pela União Europeia, de forma a ter um impacto amplo e de permitir a sua reconversão.

O caso peregrino ocorrido no Reino Unido este verão é sintomático das limitações dos algoritmos, que se limitam a reproduzir os padrões que auferem dos dados submetidos. Logicamente, se os dados forem limitados, os resultados também o são. E o que aconteceu foi precisamente isso: para resolver a ausência do exame de admissão à universidade, o executivo britânico pediu aos professores para atribuírem uma nota equivalente a esse exame. E, como não gostou do resultado, criou um algoritmo que chegou a novas conclusões: prejudicou sistematicamente os alunos dos meios menos favorecidos e valorou desmesuradamente os alunos das escolas ricas. Foram precisas várias semanas de reclamações e ameaças para que o governo revertesse a decisão e “despedisse” o algoritmo. Nos Estados Unidos, algoritmos destes já são usados rotineiramente para definir os valores de fianças, seguros de saúde e até para avaliar riscos de reincidência criminosa, prejudicando normalmente as minorias. Numa sociedade racista, estes números serão sempre o seu reflexo – e se queremos terminar o racismo não podemos tomar estes dados como bons. São decisões demasiado perigosas para deixar ao cuidado das máquinas – que, recordemos, são alimentadas por humanos que erram. Um algoritmo é simplesmente tão bom quanto os dados que são inseridos, e muitas vezes os dados disponíveis não são os melhores. Logo, para podermos usar de forma útil os algoritmos, é preciso certificá-los da mesma forma que se certifica comida para consumo humano. Qualquer decisão contrária a isso vai eternizar desigualdades, erros, injustiças e falhas – subvertendo a lógica da utilização do algoritmo. Se é para ter falhas mais valem as humanas, porque ao menos essas não contam com a promoção do marketing digital.

Ler mais: Cathy o’Neil escreveu um livo que sumarizava os problemas da utilização de algoritmos em 2016. Desde aí a situação piorou muito. A obra chama-se Weapons of Math Destruction e explora os problemas da utilização de grandes pacotes de dados e de algoritmos para decisões com impacto político-social.