A ameaça tecnológica aos direitos humanos

A digitalização dos sistemas de apoios sociais retira o humano da equação e dá à tecnologia poder sobre os cidadãos, poder esse que seria melhor aproveitado na proteção dos mais fragilizados. Isto ocorre em parte por causa da imagem benigna que a tecnologia ainda tem, apesar da associação à modernidade e à novidade – e à suposta garantia científica de que goza. Mas isso não existe e os novos algoritmos acabam por tipificar indivíduos através de padrões e conotá-los com o seu comportamento futuro, baseando-se em grupos minoritários.

O triunfo das máquinas também determina que um número crescente de contactos com os cidadãos esteja a ser feito online, fazendo desaparecer o correio tradicional e o modelo presencial. Isto força que se cave de forma crescente uma nova desigualdade social entre os infoexcluídos e os infoletrados. E os infoexcluídos, já por si uma minoria frágil sob grande pressão social. tendem a ficar ainda mais isolados e sem rede de apoio.

Da mesma forma, nestes casos o intermediário entre tecnologia e setor público tende a ser uma empresa privada que acede a dados essenciais para a tomada de decisão pública. Por fim, o outro aspeto que importa evitar é o que conduz a uma sociedade em que a vigilância dos cidadãos se faz 24 sob 24 horas, sem supervisão adequada e num regime cada vez mais autoritário.

Por tudo isto, é essencial garantir que o primado tecnológico se faz de forma a preservar os direitos de todos. Um recente relatório publicado pelo responsável das Nações Unidas para a inteligência artificial tipifica as ações que são necessárias para evitar que a Declaração Universal dos Direitos do ser Humano: estamos a condenar a Decoração Universal ao lixo.

Assim sendo, é essencial: ter a certeza que regulamentos da privacidade são mantidos nos 20 e poucos países que a estão a explorar; assegurar a legalidade e transparência destas novas leis; promover a igualdade digital, incluindo a literacia funcional online; promover a transparência dos algoritmos; continuar a garantir o acesso aos direitos económicos e sociais a todos os cidadãos, assegurando sempre a existência de alternativas offline; por fim garantir a contínua representação dos cidadãos, algo que tem sido ameaçado em vários episódios relacionados com a introdução de algoritmos.

É fundamental deixar de acreditar que a tecnologia é boa ou má em si mesma. Ela é como uma ferramenta, que pode ser usada para bem ou para o mal. Da mesma forma também os softwares de inteligência artificial são produto de seres humanos que, mesmo cheios de boas intenções, repetem estereótipos e reforçam discriminações. A atenção a estas ações só poderá ocorrer quando a sociedade civil se mentalizar da importância destas discussões, e será graças a ela que se fará algo melhor e mais integrado.

Ler mais: o melhor é mesmo ler o relatório das Nações Unidas, que pode ser encontrado aqui. São vinte páginas muito esclarecedoras.