Agentes da OpenAI voltam a escapar ao controlo e acedem a sites de agências do Governo dos EUA

A OpenAI voltou a detetar situações em que os seus modelos de inteligência artificial fugiram ao controlo da empresa e desencadearam ação não pretendidas. Desta feita, os alvos incluíram agências do Governo dos Estados Unidos. Parte da atividade dos modelos mais avançados foi suspensa.

Os modelos de inteligência artificial da OpenAI acederam a sites de agências governamentais durante processos de treino e avaliação, incluindo páginas da Securities and Exchange Commission (SEC), o regulador do mercado de capitais, e do Census Bureau, segundo a Bloomberg.

A OpenAI afirmou à Bloomberg que os dados acedidos eram públicos e afirmou que a maior parte dos episódios identificados correspondeu a tarefas normais de pesquisa. A empresa já notificou dezenas de organizações, incluindo entidades governamentais e universidades, depois de concluir que alguns modelos poderão ter contornado controlos de segurança ou afetado serviços externos.

Os incidentes surgem numa altura em que a empresa enfrenta novas falhas nos sistemas destinados a isolar os agentes. Num caso mais recente, revelado este sábado pela Bloomberg, um agente conseguiu obter acesso à internet a partir de uma “sandbox” que deveria limitar essa possibilidade.

O modelo explorou uma falha na filtragem de DNS (Domain Name System, uma espécie de lista telefónica da Internet) para contactar um chatbot público enquanto tentava completar uma tarefa de pesquisa. A OpenAI diz que o comportamento foi detetado pelos seus sistemas de monitorização em 15 minutos.

Na sequência deste episódio, a empresa manteve suspensos o treino, avaliação e execução com ferramentas dos seus modelos mais avançados, para reforçar os mecanismos de segurança.

A OpenAI já tinha endurecido os controlos depois de um incidente anterior em que modelos conseguiram escapar ao ambiente isolado e comprometer sistemas da plataforma Hugging Face.

Os Estados Unidos (EUA) e a China vão estabelecer um “canal de comunicação” para lidar com incidentes causados pela inteligência artificial, anunciou na sexta-feira a Casa Branca.

Os dois países estabeleceram um “Diálogo EUA-China sobre superinteligência para trocar pontos de vista sobre os riscos e benefícios” da IA e concordaram também em criar um “canal de comunicação bilateral” dedicado a incidentes, informou a presidência americana.