IA e cibersegurança ou a interseção de dois gigantes

Os profissionais de cibersegurança sabem que uma das maiores dificuldades é a abrangência do tema. A cibersegurança tem que ser pensada para computadores pessoais, redes de dados, bases de dados, Cloud, dispositivos móveis, automóveis e appliances que temos em casa, como televisores ou frigoríficos, entre muitos outros. Esta diversidade de ambientes e necessidades dificulta o trabalho dos profissionais da área. Acresce que muitos dos sistemas são compostos por vários destes ambientes e a segurança do conjunto é a do elo mais fraco.

No caso da inteligência artificial (IA), a ubiquidade é total. Saímos do mundo cibernético e passamos para o mundo físico. A ubiquidade da IA assemelha-se à da eletricidade. Podemos ver exemplos em áreas tão distintas como a química quântica, a engenharia civil ou a agricultura de precisão, mas também em áreas tão diversas da indústria digital, como a gestão de routers, a gestão de microserviços, os sistemas de deteção de intrusões, entre muitas outras.

Não é, pois, surpreendente que estas duas áreas tenham uma interseção tão profunda em tantos domínios. A identificação exaustiva dessa interação seria, no entanto, inútil, pois é um alvo em movimento acelerado. Ainda assim, é possível identificar três grandes áreas de interação que elucidam o tipo de interação existente.

Uma das primeiras grandes áreas de interseção entre os dois domínios é o cibercrime. Os criminosos começaram a usar a IA para gerar campanhas de phishing em maior quantidade, mais direcionadas e, por isso, mais eficazes. Posteriormente, com a espetacular evolução da IA na interpretação e no desenvolvimento de código, os criminosos começaram a usar a IA para identificar vulnerabilidades em código existente e explorá-las, e também, a gerar código com vulnerabilidades para adicioná-las dissimuladamente a soluções de código aberto, contaminando, deste modo, a cadeia de distribuição de variadíssimas aplicações.

Se as campanhas de phishing parecem ter chegado ao limite da sofisticação, já a identificação e exploração de vulnerabilidades em código existente parecem estar longe de um patamar de estabilização; prova disso são os relatos das extraordinárias capacidades, nessa matéria, do novo modelo de IA da Anthropic, o Claude Mythos, que foi inicialmente disponibilizado apenas a um conjunto de empresas desenvolvedoras, de modo a dar alguma vantagem a quem defende estes sistemas. Porque, se é certo que as ferramentas estão disponíveis para criminosos e desenvolvedores, o equilíbrio é claramente favorável aos criminosos que podem escolher os seus alvos, enquanto os desenvolvedores têm que proteger todos. É, portanto, de louvar esta tentativa de equilibrar um pouco a contenda.

Uma das outras grandes áreas de intervenção da utilização da IA no domínio da cibersegurança é a deteção de ataques ou comportamentos abusivos, quer seja para impedir os ataques enquanto estão a acontecer, aprender com os atacantes ou usar essa informação para fins forenses. Nos primeiros casos estão as novíssimas variantes dos sistemas de deteção e prevenção de intrusos que conseguem identificar ataques nunca antes identificados. No último caso estão as ferramentas que permitem colmatar a lacuna entre a crescente quantidade de informação digital a analisar em ações forenses e os recursos humanos especializados existentes nas agências judiciárias. Tal como em muitas outras situações, estas ferramentas não substituem os especialistas, mas sem elas é muito difícil acompanhar a crescente quantidade de informação forense a analisar.

Finalmente, um terceiro grupo, talvez o mais óbvio, é o ciberataque e a ciberdefesa dos próprios modelos de IA. Sendo os modelos de IA ubíquos, a superfície de ataque é enorme, pelo que se afigura amplamente compensador o desenvolvimento de ataques para estes sistemas pelos cibercriminosos.

Os ataques a aplicações de identificação e classificação baseadas em redes neuronais são conhecidos há muito tempo. Os “exemplos adversariais” permitem alterar o resultado da identificação de um sinal de trânsito por um classificador neuronal instalado num veículo, apenas adicionando pequenos, quase invisíveis artefactos ao sinal de trânsito. Este problema não é menor porque redes neuronais de classificação estão disseminadas por locais improváveis, mas ainda assim os ataques mais preocupantes são os ataques aos modelos de linguagem de larga escala.

Surpreendentemente – ou talvez não -, muitos dos atuais ataques aos modelos de linguagem de larga escala exploram variantes da vulnerabilidade de “confused deputy” identificada pela primeira vez nos idos tempos de 1988. Ataques como o “Prompt Injection”, “Agent hijacking”, “Public-feedback poisoning” exploram vulnerabilidades na forma como é construído o contexto das perguntas ao modelo de IA para injetarem instruções que alteram o comportamento da resposta. Esta é, sem dúvida, uma das áreas onde veremos mais desenvolvimentos, quer no bom, quer no mau sentido, nos próximos tempos. Estejamos atentos.