“Temos de ter a noção de qual é a génese do TikTok”, diz diretor do Gabinete Nacional de Segurança

O diretor-geral do Gabinete Nacional de Segurança (GNS) está preocupado com o impacto que a inteligência artificial (IA) está a ter na sociedade e na democracia, e particularmente alarmado com o uso que lhe é dado pelo TikTok, que “tem um propósito estratégico para quem o lançou”. António Gameiro Marques considerou também que “dentro de muito pouco tempo vai-nos ser extremamente difícil distinguirmos entre a verdade e a mentira”.

As declarações foram ditas este sábado à tarde na conferência Bridge AI, que decorreu no auditório da Fundação Champalimaud, e na qual foram debatidas as implicações do novo regulamento europeu para a IA, pioneiro a nível mundial. Durante um momento para perguntas e respostas da plateia, António Gameiro Marques foi instado pelo ECO a opinar sobre os efeitos da plataforma de origem chinesa TikTok na sociedade: “Acho perigoso”, respondeu o responsável da autoridade nacional de segurança.

“Sobretudo, acho perigoso que as pessoas que o usam não saibam o que é que está por trás. E isso faz parte da literacia. As pessoas, quando usam uma determinada ferramenta, como o martelo, sabem que, se não pregarem bem, aleijam-se. O TikTok é a mesma coisa, tal como é o Facebook, tal como é o LinkedIn, tal como são essas todas. Agora, temos de ter a noção de qual é a génese do TikTok. E o TikTok tem um propósito estratégico para quem o lançou”, respondeu António Gameiro Marques.

O contra-almirante afirmou ainda que “isso já foi documentado” e defendeu que os órgãos de comunicação social “têm uma responsabilidade muito grande em democracia em transmitir isso aos cidadãos”.

O TikTok é uma plataforma de vídeos de curta duração mantida pela ByteDance, que é originária da China. A aplicação recorre a um poderoso algoritmo de IA para manter os utilizadores colados ao ecrã do telemóvel, em alguns casos por horas a fio. Por esse motivo, a popularidade desta rede social cresceu significativamente nos últimos anos, deixando a empresa sob escrutínio em várias vertentes: seja pelo impacto negativo que pode estar a ter na saúde mental das crianças e jovens, seja por eventuais ligações ao regime comunista chinês.

Apesar de a ByteDance negar estar aos comandos de Pequim, as autoridades ocidentais temem que a China possa usar o TikTok como “arma” num cenário de conflito — como, por exemplo, durante uma possível invasão a Taiwan, que provavelmente levaria à escalada e intervenção dos EUA e da NATO, aliança militar da qual Portugal faz parte.

Esse é um dos motivos pelos quais, nos EUA, a empresa está a ser forçada a vender o TikTok a um investidor que não tenha ligações à China. Por lei, a ByteDance terá de o fazer até 19 de janeiro de 2025, caso contrário será expulsa do país. Está, no entanto, a impugnar a decisão em tribunal.

Deste lado do Atlântico, em fevereiro de 2023, a Comissão Europeia decidiu suspender o uso da aplicação TikTok nos telemóveis e computadores de trabalho, uma medida que teve por base “proteger a Comissão contra ameaças de cibersegurança”. Já em abril deste ano, Bruxelas instaurou um processo contra o TikTok ao abrigo da nova Lei dos Serviços Digitais, incluindo por falta de implementação de mecanismos adequados de controlo de idade, algo que a empresa, entretanto, disse já ter corrigido.

A resposta à pergunta lançada pelo ECO torna-se ainda mais relevante porque António Gameiro Marques foi também quem assinou a controversa decisão, tomada no ano passado, que abriu caminho à exclusão da Huawei, uma empresa chinesa, de participar no desenvolvimento das redes 5G em Portugal. Essa decisão também foi justificada por motivos de segurança está a ser contestada pela tecnológica em tribunal.

Temos de ter a noção de qual é a génese do TikTok. E o TikTok tem um propósito estratégico para quem o lançou.

“Gostava que todos vós pensassem no impacto que isto terá nas democracias”

Na conferência Bridge AI, na qual interveio como orador num painel, António Gameiro Marques lembrou que a IA pode ser usada para finalidades nobres, como na área da saúde, mas também para amplificar discurso demagógico e populista e semear a discórdia entre a população. “Dentro de muito pouco tempo, [para] nós, seres humanos, seres de hidrogénio e de carbono, vai-nos ser extremamente difícil distinguirmos entre a verdade e a mentira, se consumimos informação só de uma fonte”, alertou.

Os rápidos avanços nesta área fizeram com que, atualmente, a IA já seja capaz de gerar vídeos falsos de qualquer pessoa com declarações que a própria nunca proferiu. Nas redes sociais, incluindo no Instagram, o ECO já constatou a existência de páginas com vídeos falsos do Presidente da República com declarações que nunca existiram — para já, apenas com um propósito humorístico. O produto desta técnica é conhecido vulgarmente por deep fake e está no radar das autoridades em todo o mundo, devido ao seu potencial de causar instabilidade.

“Gostava que todos vós pensassem no recato das vossas casas, ou quando quiserem, no impacto que isto terá nas democracias. Nunca como hoje foi importante nós humanizarmos a tecnologia, socializarmos, aumentarmos a nossa capacidade de socialização, por oposição a recolhermo-nos nas nossas redes sociais e interagirmos com o mundo real através de algo que nos virtualiza esse mundo real”, considerou António Gameiro Marques na conferência.

A propósito, ainda esta segunda-feira, o primeiro-ministro, Luís Montenegro, revelou publicamente já ter sido alvo de deep fakes: “Da última vez, eu aparecia a promover um produto financeiro. De repente, começaram a aparecer intervenções minhas com a minha cara e a minha voz”, disse Luís Montenegro, na cerimónia do 79.º aniversário da Polícia Judiciária, que incluiu a inauguração do laboratório digital forense desta autoridade. “É de uma gravidade brutal. Só se percebe facilmente que não se trata de algo verdadeiro pela utilização do Português do Brasil”, defendeu o chefe do Governo, em declarações citadas pelo Público.

De volta à intervenção do líder do GNS, as chamadas fake news foram outro dos problemas sinalizados pelo responsável na sua intervenção na conferência Bridge AI: “O que sabemos, e isso sabemos, [é que] as tecnologias amplificam esse discurso demagógico, ou populista. E o amplifica, quer em âmbito, quer em alcance. E depois não há contraditório. E quando uma notícia que é falsa, premeditadamente falsa, entra em redes sociais, o motor é IA, e essa informação chega-nos em função do nosso próprio perfil. Isso é nocivo”, rematou.

Para António Gameiro Marques, a forma de mitigar isso é “confrontando ideias, respeitando as ideias dos outros, mas cultivando a dialética da discussão”, numa perspetiva “pessoal”. “Não é discutir em redes sociais, onde, não se conhecendo o outro, não se sabendo quem é o outro, por vezes escrevemos coisas que diretamente não teríamos coragem de o fazer”. Sobre este ponto, o líder do GNS rejeitou a ideia de ser necessário mais competências estritamente “digitais”. “Isto não é digital, é sociológico, é antropológico, é de outras áreas do conhecimento”, defendeu.

Assim, António Gameiro Marques explicou que a solução da literacia deve passar por tornar estas competências em algo automático no comportamento dos cidadãos: “Nós temos que tornar tão natural estas competências em toda a nossa sociedade como hoje em dia é natural para todos nós, quando entramos num veículo, colocar um cinto de segurança. É automático, é instintivo. Eu sei que vai levar um tempo, mas tem de ser assim.”