O combate aos algoritmos de recomendaçãopremium

Para controlar o Facebook as outras redes sociais, pode ser necessário regular os algoritmos que elas usam. E isso mudará a face da internet como a conhecemos.

Na Lei das Telecomunicações americana, a secção 230 é considerada a pedra basilar de todo o negócio das plataformas sociais. É um princípio simples que afirma que as plataformas não são responsáveis pelo conteúdo que os utilizadores nelas colocam – o entendimento é que, tal como uma companhia telefónica não pode ser responsabilizada por aquilo que um utilizador diz ao telefone, também uma plataforma social não pode ser culpada pelo discurso dos seus utilizadores. E este argumento sempre se fez valer da liberdade de expressão, que é uma pedra basilar da Constituição dos Estados Unidos. Os executivos das plataformas sociais passaram uma década a afirmar que mexer nesta provisão implicaria mexer nas liberdades constitucionais americanas e que isso iria equivaler a censura, e foi sempre essa a razão dada para continuarem a promover incessantemente discursos que eram de ódio, falsos e demagógicos.

Para amplificar os ganhos, o Facebook, o Instagram, o Youtube, o Twitter, o Tiktok e todos os outros criaram modelos de recomendação algorítmica que prendem o utilizador graças à emotividade dos conteúdos que recomendam. E o que se discute hoje é obrigar estas plataformas a serem responsabilizadas pelo conteúdo que esses algoritmos promovem.

Ora, a recomendação algorítmica é precisamente o que valida o modelo de negócio destas plataformas. É graças a ela que os utilizadores ficam presos ao feed, seguindo uma e outra recomendação; é (também) com ela que recolhem os dados sobre as preferências dos utilizadores para depois vender aos anunciantes; a recomendação permite que os anunciantes dirijam a informação para manipular os utilizadores; e é com ela que os fenómenos de desinformação tomam proporções desadequadas da realidade, facilitando os populismos.

Enquanto o estímulo estiver apenas do lado da acumulação de capital, o resultado será sempre perigoso para a sociedade liberal. Na verdade, como já é óbvio, muito pouco do que o Facebook faz tem qualquer relação com a liberdade de expressão – o que está em causa é a amplificação do discurso emotivo, que é aquele que provoca maior engajamento. E é esse engajamento que tem levado aos crimes praticados em nome do que se passa nas plataformas: do genocídio Rohingya ao discurso de ódio contra minorias, da idealização de um tipo de corpo ideal ao ataque à ciência e às vacinas. Tudo isto ocorre porque a monetização dos utilizadores implica garantir que estes passam um máximo de tempo na plataforma, e isso consegue-se através do conteúdo mais emotivo e não pelo conteúdo mais racional. Mas o direito à expressão não equivale ao direito à amplificação, especialmente quando o que se amplifica é pensado para semear o ódio e a razão para o amplificar é apenas financeira.

O que o Facebook, o Instagram e as outras plataformas têm feito é lucrar a partir da exploração do sofrimento alheio. Enquanto sociedade, decidimos há muito que é imoral lucrar com o sofrimento alheio. Por isso colocamos restrições a negócios que o fazem e pura e simplesmente impedimos que outros ocorram. A comparação não é bonita e vai inevitavelmente parar a negócios ilegais (traficantes de droga) ou a indústrias altamente reguladas (como a das armas, a farmacêutica ou as tabaqueiras). Ao mesmo tempo, restringimos o acesso a produtos que sabemos ser nocivos: proibimos jogadores compulsivos de entrar em casinos, limitamos a venda de produtos a faixas etárias ou localizações geográficas, e regulamos o espaço público para impedir e limitar a difusão de determinados tipos de conteúdos. No digital estamos há duas décadas a fazer de conta que nada disto se aplica. Criamos ambientes socialmente instáveis para crianças e adolescentes, promovemos mentiras, desafiamos a ciência convencional, minamos a sociedade liberal e aceitamos a prática genocida sem olhar às consequências – até porque havia sempre alguém a ganhar muito dinheiro com isso. Foi preciso uma invasão do Capitólio e uma fragmentação absoluta da vida política americana para que se percebesse o que já estava a acontecer em grande parte do mundo – e que até já valeu um Nobel a quem o denunciou.

Naturalmente, esta solução da limitação algorítmica poderá também vir a ser adotada na Europa. Em Bruxelas a regulação algorítmica está a ser discutida ao nível da regulação da Inteligência Artificial e pode ter também consequências na forma como as redes sociais se estruturam, quer ao nível da exigência de transparência quer em termos dos efeitos que provocam.

Ora, um cenário em que a regulação dos dois lados do atlântico responsabiliza as plataformas pela recomendação algorítmica será o equivalente a um cataclismo. Irá pôr em causa todo o modelo de negócio e sujeitar as plataformas a um escrutínio insustentável. Sobrará ao Facebook (e ao Google e ao Twtter e ao Tiktok) uma de duas alternativas:

  • A primeira será pura e simplesmente abandonar a recomendação algorítmica, passando a respeitar as teias de proximidade construídas pelos cidadãos; isto terá terá efeitos catastróficos no retorno financeiro destes negócios, pois a recomendação algorítmica está otimizada para se alimentar continuamente com novos dados fornecidos pelos utilizadores.
  • A segunda solução seria investir massivamente em revisores um pouco por todo o mundo, de forma a validar o conteúdo antes de este ser publicado; isto retiraria algum do imediatismo das redes e mudaria de vez a forma compulsiva como nos relacionamos com estas plataformas.

Mas o produto final de qualquer uma destas soluções seria ótimo para os utilizadores: teriam acesso a plataformas onde o histerismo e o ódio seriam reduzidos ao mínimo, onde os buracos negros da desinformação estariam bem escondidos e onde as relações sociais seriam realmente primordiais. Seria, no fundo, um regresso às origens que permitiria que estas plataformas cumprissem o seu destino original de criar e manter redes sociais. A outra alternativa, a de não fazer nada, seria impensável. Os processos por abuso contra estas plataformas seriam aos milhares, porque é precisamente este o cerne do problema: a disseminação de conteúdos de desinformação e discurso de ódio acontece milhares de vezes por dia e hoje é aceite como mais um facto da vida. Mas não deve ser, não pode ser, porque os custos sociais e individuais são demasiado elevados.

Ler mais: The Twenty-Six Words That Created the Internet defende a tese que foi a formulação da secção 230 que permitiu a criação e o crescimento da internet. Inadvertidamente, criou também a economia do clique e uma cascata de consequências sociais – e toda essa história está devidamente contada no livro escrito por Jeff Kosseff.

Assine para ler este artigo

Aceda às notícias premium do ECO. Torne-se assinante.
A partir de
5€
Veja todos os planos