IA: um novo combustível que alimenta o fogo da desinformação nas redes sociais

Quando a ARPA, agência do Departamento de Defesa dos Estados Unidos da América, começou a desenvolver a ARPANET no final dos anos 60, dificilmente poderia prever que aquela rede experimental evoluiria para a infraestrutura global que hoje conhecemos como Internet. Portanto, à medida que a Internet cresceu e passou a integrar novas funcionalidades, surgiu também a necessidade de criar protocolos que garantissem a segurança dos dados transmitidos. Não fazia sentido, por exemplo, implementar transações bancárias online sem garantir o mínimo de segurança nas comunicações entre o cliente e o banco.

O problema ocorre quando as tecnologias são desenvolvidas e lançadas sem prevermos a exploração maliciosa das mesmas. Um dos casos mais emblemáticos é o das redes sociais, como o Facebook, que, embora tenham sido desenvolvidas com o intuito de aproximar pessoas e facilitar a partilha de conteúdos, tornaram-se uma arma perigosa de persuasão, manipulação de narrativas e propagação de informação falsa, como documentado extensivamente em vários momentos eleitorais (por exemplo, as eleições presidenciais norte-americanas de 2016 e o Brexit) e eventos epidémicos (pandemia de Covid-19). A estratégia é simples e reaproveita táticas da antiga KGB, como na operação Infektion/Denver, na qual a narrativa de que o vírus da SIDA foi desenvolvido num laboratório nos Estados Unidos da América chegou a ser reportada por meios de comunicação de grande relevância. Para isso, a desinformação foi cuidadosamente e gradualmente disseminada em fontes noticiosas aliadas da União Soviética até que a mesma ganhasse visibilidade suficiente para ser reproduzida por fontes de comunicação de maior relevância.

Com as redes sociais, essa persuasão e manipulação tornam-se mais simples. Com um investimento não muito elevado, um utilizador malicioso consegue escrever um conjunto de notícias falsas e comprar centenas de contas automatizadas (vulgo bots) que vão interagir com essas publicações, tornando-as apetecíveis para o algoritmo as apresentar a novos utilizadores. Aos poucos, este tipo de conteúdo leva vários utilizadores a ficarem suscetíveis às narrativas disseminadas por estas publicações, seja porque reforçam o seu viés pré-estabelecido, ou pela mudança de opinião decorrente da exposição constante às mesmas.

Ainda o problema estava longe de ser resolvido, e a chegada da IA generativa, por meio de ferramentas como o ChatGPT, apenas complicou a solução. É irrefutável o impacto que a IA generativa teve no mundo tecnológico. No entanto, são também inegáveis os problemas que ela trouxe. O facto de o ChatGPT, o Gemini e outros terem a capacidade de escrever e agir como humanos e de gerar imagens e vídeos ultrarrealistas foi suficiente para levar a desinformação nas redes sociais ao nível seguinte. Onde antes era necessário esforço humano para escrever notícias falsas e editar imagens recorrendo a ferramentas como o Photoshop, agora todo este processo pode ser automatizado por agentes de IA. Além disso, onde antes a interação feita por bots se resumia a partilhas, gostos e comentários simples que podiam levantar alguma desconfiança nos utilizadores mais atentos, atualmente estes agentes são capazes de estar ativos 24 horas por dia, responder a comentários de utilizadores com uma linguagem humanizada e contextualizada, procurando sempre moldar a perceção de quem lê à narrativa que pretendem promover.

Desengane-se, no entanto, quem acha que a desinformação é uma mera questão de jogo político. É também uma forma de manipular a perceção pública sobre empresas e marcas, cuja presença nas redes sociais se tornou um fator essencial para o sucesso. Atores maliciosos podem criar contas falsas, operadas por agentes de IA que imitam a identidade de uma marca, com o objetivo de se tornarem populares para que o algoritmo as recomende a novos utilizadores, direcionando-os para esquemas de phishing. Outra estratégia é o ataque coordenado contra uma marca, conduzido por agentes de IA maliciosos, para, por exemplo, lançar críticas negativas sobre os seus produtos ou serviços ou disseminar notícias falsas sobre os mesmos, afetando a perceção pública, a confiança dos compradores e prejudicando significativamente a reputação e as vendas da marca.

Encontramo-nos, portanto, numa altura crítica. O crescimento da exposição às redes sociais, aliado ao uso malicioso da IA generativa, torna urgente o reforço do investimento na educação em literacia digital e mediática e no desenvolvimento das ferramentas necessárias para mitigar o que pode ser um dos maiores desafios sociais dos próximos anos.