Grupos da Rússia, China, Israel e Irão utilizaram ferramentas de IA da OpenAI para campanhas de desinformação, diz a empresa

A OpenAI, criadora e proprietária do ChatGPT, interrompeu campanhas de desinformação de grupos originários da Rússia, China, Israel e Irão, que faziam uso das suas ferramentas de inteligência artificial (IA) para a criação e divulgação de informação falsa ou não fidedigna.

“Nos últimos três meses, desmantelámos cinco operações secretas de influência que visavam utilizar os nossos modelos para apoiar atividades enganosas na internet” refere a OpenAI em comunicado. É o seu primeiro relatório do género.

Segundo a OpenAI, estes grupos utilizaram os seus modelos de IA para uma tarefas como gerar comentários curtos ou artigos longos, inventar nomes e biografias para contas em redes sociais e traduzir conteúdos de propaganda em diferentes idiomas e publicá-los em diferentes redes sociais.

A OpenAI identificou dois grupos russos, um chinês, um iraniano e um israelita que utilizavam as suas ferramentas de forma “maliciosa”, sendo que os conteúdos abrangiam temas como a invasão russa da Ucrânia, o conflito em Gaza, as eleições na Índia, questões políticas europeias e norte-americanas ou críticas ao governo chinês.

A investigação da empresa tecnológica apurou também que estes grupos utilizaram os seus serviços para gerar texto e, “ocasionalmente”, imagens, sendo que nenhum deles utilizou a IA de forma exclusiva, mas antes integrando os conteúdos gerados por IA no meio de outros formatos “mais tradicionais, como textos escritos manualmente ou memes copiados da internet”.

Algumas destas redes, entretanto interrompidas pela OpenAI, também usaram ferramentas de IA para tentar simular envolvimento nas redes sociais, o que “é diferente de atrair um envolvimento autêntico”, sendo que nenhuma das redes o conseguiu fazer de “forma significativa”, refere-se no relatório.

A empresa tecnológica diz contar com alguns processos defensivos, pelo que foi observável, por diversas vezes, o facto de os seus modelos se terem recusado a gerar o texto ou as imagens solicitadas por estes grupos.