Um algoritmo para a ignorância

A secretária de Estado da Administração Interna decidiu libertar o governo de responsabilidade sobre os incêndios deste ano com a justificação de que um algoritmo previa que até podia ter sido pior. É óbvio que a secretária de Estado não faz a mínima ideia do que é um algoritmo; saberá, no máximo, que é uma daquelas coisas que os computadores fazem. Portanto, no espírito do serviço público e para tentar evitar que no futuro mais decisores caiam no disparate, convém clarificar algumas ideias sobre os algoritmos. Desde logo, o que são. Na sua expressão mais simples, um algoritmo é uma sequência finita de instruções rigorosas que permite chegar a um resultado. Uma receita culinária é um algoritmo e serve para chegar a um resultado. Mas o seu sucesso depende dos dados introduzidos: tal como a qualidade de um prato depende do bom estado dos alimentos introduzidos, também um algoritmo depende dos dados que se introduzem no sistema.

Quero acreditar que ninguém no ministério se deu ao trabalho de tentar criar um algoritmo para prever a área que irá arder no futuro. Mas, se o fez, terá tido de utilizar os dados da área ardida dos últimos anos, o que quer dizer que legitimou os anos em que tem ardido mais e mais território nacional. Se usarmos isso como média, talvez este ano até nem tenha sido assim tão mau. Mas isso não é sério. O maior problema dos algoritmos é a qualidade dos dados e a sua relevância para o objetivo final, o que muitas vezes não só invalida o resultado como o desvirtua.
O problema tem-se repetido ao longo dos anos na utilização de machine learning para automatizar processos na administração pública, às vezes com consequências sociais dramáticas. O velho adágio que repete que as pessoas não são números aplica-se aqui muito bem: não é possível prever comportamentos futuros com base nos dados do passado, até porque esses dados estão contaminados pelos nossos erros e preconceitos. Para além disso, a definição de uma média invalida a experiência individual.

O ato de ignorância é também revelador da incongruência dos tempos que vivemos. A ignorância da classe governante sobre as tecnologias que comandam as nossas vidas é um dos maiores problemas que temos. E essa confrangedora limitação serve para facilitar esta ideia de que a tecnologia legitima tudo e que, se o algoritmo disse, é porque é informação boa. Não é assim que funciona. Imagino que, desde a informação infeliz, a secretária de estado já tenha ido ao Google para perceber o que são algoritmos. E ao fazê-lo utilizou um dos mais famosos (e valiosos) algoritmos, o modelo da Alphabet que determina os resultados das pesquisas na internet. É, como todos os outros, serve um propósito: não mostrar os melhores resultados possíveis, mas sim encontrar a melhor forma de veicular publicidade aos consumidores e com isso enriquecer a empresa-mãe. E isso expõe outro dos problemas dos algoritmos, que é o preconceito e a motivação de quem os faz. Isso condiciona o resultado final, pelo que nunca poderemos confiar num algoritmo de forma cega, sem saber se é ou não transparente e sujeito à apropriada avaliação científica.

No fim de tudo, há uma forma fácil de provar que não há nem nunca houve qualquer algoritmo envolvido na questão dos incêndios. É que os algoritmos servem para resolver problemas, e o problema dos incêndios está longe de estar resolvido. E infelizmente basta ir até à Serra da Estrela para perceber isso.