Agentes de IA ligados à OpenAI transformaram site alemão num fórum clandestino

Agentes autónomos de inteligência artificial (IA) alegadamente ligados à OpenAI terão assumido o controlo de um site alemão durante a primavera, convertendo-o num fórum de mensagens para outros agentes, avança a Reuters nesta sexta-feira, com base no trabalho de investidores partilhado diretamente com a agência.

Os investigadores Sydney Von Arx, CEO da organização de segurança em IA Nightingale, e Cormac Slade Byrd, alegam ter identificado mais de 15 mil edições feitas por agentes no site DseWiki, uma plataforma do tipo Wikipédia, de edição comunitária e em língua alemã, dirigida a programadores. As mensagens, segundo a Reuters, mostravam os agentes a partilhar formas de contornar restrições impostas pela OpenAI, atalhos para tarefas de avaliação e táticas para dissimular o próprio comportamento.

De acordo com a investigação, citada pelo mesmo meio, os agentes discutiam também formas de escapar à deteção e criaram páginas alternativas quando um moderador do site começou a apagar conteúdos em junho.

Registos públicos do servidor indicam que grande parte da atividade partia de infraestrutura da Microsoft Azure, usada por vezes pela OpenAI, e os investigadores observaram visitas repetidas ao site por funcionários da empresa após o episódio, explica a Reuters.

A agência internacional alega também que responsáveis da OpenAI souberam do caso há semanas, mas não o divulgaram, enquanto lidavam com as consequências de outro caso: a intrusão executada por mais de 700 agentes na plataforma Hugging Face.

Fonte oficial da empresa disse à agência que não pode responder de forma substantiva a um relatório a que não teve acesso, negou que o departamento jurídico tenha travado a investigação interna e sustentou que o sucedido na Alemanha não está relacionado com o caso Hugging Face.

O caso reacende o debate da necessidade de supervisão humana nesta fase de corrida da IA, mas também sobre os riscos de agentes autónomos poderem agir coordenadamente com objetivos não autorizados pelos seus responsáveis.