Google alerta para ciberataques com IA cada vez mais autónomos e rápidos

A Google alertou esta terça-feira para uma mudança significativa no uso malicioso da Inteligência Artificial (IA), com cibercriminosos e grupos de espionagem a recorrerem a sistemas cada vez mais autónomos, capazes de planear, automatizar e executar ataques em pouco tempo.

Num relatório divulgado esta terça-feira, a tecnológica norte-americana revelou que os atacantes estão a utilizar a IA em larga escala para otimizar operações, roubar credenciais e propriedade intelectual relacionada com a própria tecnologia, bem como desenvolver código malicioso e realizar espionagem industrial.

O relatório “AI Threat Tracker”, elaborado por especialistas da Google, concluiu que a utilização de agentes avançados de IA deixou de ser experimental e já não se limita à deteção de vulnerabilidades, tendo sido identificados vários incidentes contra modelos e sistemas baseados em IA nos setores tecnológico, da saúde, dos meios de comunicação social e do entretenimento na Europa e na América do Norte.

Segundo os analistas, grupos criminosos, sobretudo da Rússia, China, Irão e Coreia do Norte, estão a utilizar estas tecnologias para automatizar o roubo de credenciais, criar código malicioso e realizar operações de espionagem industrial.

O relatório alertou também para uma tendência “preocupante” de ataques à cadeia de abastecimento de ‘software’, através da manipulação de assistentes de programação e de repositórios de código aberto.

A investigação considerou que a IA se tornou um “multiplicador de força”, permitindo realizar operações complexas em questão de poucas horas.

Entre os casos identificados está o grupo de ciberespionagem ‘Basin Castle’, ligado à China, que utiliza modelos de linguagem em várias fases das operações, desde a investigação de alvos à resolução de erros durante uma intrusão.

Os especialistas detetaram também uma tentativa de um grupo chinês para utilizar o Gemini, modelo de IA desenvolvido pela Google, na construção de uma estrutura automatizada de testes destinada a executar as primeiras fases de uma intrusão.

Noutra campanha, a IA foi implementada em infraestruturas roubadas e utilizada para orquestrar um ataque massivo de roubo de credenciais, que conseguiu expandir-se e comprometer autonomamente milhares de credenciais em apenas seis horas.

Os especialistas identificaram ainda atividades de um grupo ligado à Coreia do Norte, designado DPRK, que roubava contas de utilizadores legítimos para ligar os seus sistemas, de forma massiva e automatizada, a serviços de IA, multiplicando a velocidade e o alcance dos ataques.

A Google salientou que as vulnerabilidades associadas à utilização maliciosa da IA não constituem um problema exclusivo do setor tecnológico, uma vez que estas ferramentas estão a ser aplicadas numa crescente variedade de áreas.