O triunfo da sociedade de vigilância

Quando é suposto que se aprendam as lições da pandemia e se valorizem ideias como resiliência, autonomia estratégica e respeito pela privacidade, os governos fazem exatamente o oposto disso e entregam os dados privados dos seus cidadãos na mão de empresas não-europeias.

Não se trata sequer dos tristes casos que a Comissão de Proteção de Dados tem em mãos; trata-se do panorama geral de governos europeus que contratam empresas americanas e chinesas para gerir bases de dados e, em alguns casos, para aceder diretamente a repositórios de informação. Uma investigação do Politico Europe confirma que empresas como a Palantir venderam serviços a diversos governos na União (França, Grécia, Holanda) e até à própria Europol para monitorizar esquemas de segurança e de dados relacionados com a pandemia; a Clearview, outra empresa americana que se especializou em tecnologias de reconhecimento facial, também já contratou diretamente com forças policiais europeias (Suécia, Finlândia). Ao memso tempo, empresas israelitas que desenvolvem tecnologia que é usada para abusos de direitos humanos são contratadas pela Frontex e por quase todas as forças policiais europeias. Pior ainda, empresas chinesas que colaboram com Pequim no genocídio dos Uighur também negociaram com diversos governos e, até, com a própria Comissão Europeia.

Tudo isto é grave a diversos níveis: desde logo porque é difícil perceber como é que o respeito pelo tratamento dos dados pessoais dos cidadãos pode ser garantido quando eles são entregues a empresas estrangeiras; também porque estas contratações são difíceis de relacionar com a necessidade de autonomia estratégica europeia, ajudando a matar esforços por parte de empresas do continente; por fim, todos estes atos vão contra os valores que gostamos de tomar por europeus, como o respeito pela privacidade e a defesa da cidadania.

A atual versão dominante da inteligência artificial, composta por algoritmos que vivem de aprendizagem automatizada, é completamente dependente de uma forma ou outra de vigilância. Estes algoritmos são alimentados com dados, sejam eles de rostos colocados em redes sociais, de padrões de comportamento online ou de informação clínica. Alguns destes casos podem justificar a utilização de dados, desde que sejam devidamente anonimizados e validados contra preconceitos. Mas muitos outros não justificam o abuso e é importante que isso seja afirmado pelas autoridades: Não se pode permitir a empresas privadas o uso de “ferramentas para trabalho remoto” que mais não são do que mecanismos de vigilância de funcionários, tal como não se pode deixar que governos usem tecnologias de reconhecimento visual para controlar o espaço público.

O alerta já veio das vozes esclarecidas da União: o reconhecimento facial e outras tecnologias de inteligência artificial são abusivas e atentam contra as liberdades civis. O European Data Protection Supervisor (que supervisiona a proteção de dados nas instituições da União) e o European Data Protection Board (rede de reguladores de cada país) emitiram um comunicado conjunto para pedir à Comissão que proíba explicitamente todas estas práticas no espaço da União Europeia.

A identificação facial em direto e em público é o principal alvo, mas há outras tecnologias que comportam imensos riscos. Na prática, todos os registos biométricos devem ser usados apenas em caso autorizado pelos tribunais e no restrito enquadramento necessário, o que proíbe captação de dados ao vivo e registos permanentes em bases de dados. Não é o que se passa em quase todos os países da União, incluindo Portugal, onde locais como aeroportos já são monitorados com sistemas de reconhecimento facial. Igualmente importante, os reguladores da EU querem também banir software que pretende reconhecer emoções, algo que as máquinas são manifestamente incompetentes a fazer (apesar do marketing dominante). Todas estas discussões levarão, algures em 2023, a uma versão final do Artificial Intelligence Act. Essa versão vai dizer muito sobre os valores que a União quer promover no seu espaço para as próximas décadas. E essa é uma discussão que não pode continuar a passar ao lado de quem decide – nem de quem vota em quem decide.

Ler mais: Quem se interessar pela discussão sobre inteligência artificial, ética e cidadania fará bem em ler o último livro de Virginia Dignum, Responsible Artificial Intelligence. Esta cientista portuguesa é uma das líderes mundiais na questão da Ética na tecnologia e faz parte do grupo de peritos de alto nível da União para as questões da inteligência artificial.