OpenAI admite que agente de IA invadiu sistema de saúde australiano

Um agente de inteligência artificial (IA) da OpenAI acedeu, em junho, a ficheiros públicos e não públicos de um portal do sistema de saúde australiano, num incidente que está a levantar novos alertas sobre os riscos de sistemas de IA capazes de executar tarefas de forma autónoma.

Segundo o Financial Times, o agente acedeu ao Medicare Statistics Reporting Service, um portal que disponibiliza dados sobre o sistema público de saúde australiano, incluindo informação sobre faturação e utilização de medicamentos.

O primeiro-ministro australiano, Anthony Albanese, classificou o caso como “obviamente inaceitável” este incidente, criticando o facto de a OpenAI só ter identificado a intrusão em agosto, cerca de dois meses depois da ocorrência. A empresa norte-americana explica que o incidente ocorreu durante uma avaliação interna, na qual os modelos tentavam responder a questões sobre a Austrália. Segundo a OpenAI, o agente “realizou ações que não pretendíamos”.

O caso já está a ser investigado pela Australian Signals Directorate, incluindo para determinar a que outros sistemas governamentais poderão ter sido acedidos. O ministro da Defesa e vice-primeiro-ministro, Richard Marles, afirmou que foram consultados vários sistemas a nível federal e estadual, incluindo estatísticas de saúde e criminalidade, embora tenha considerado o impacto “relativamente reduzido”. As autoridades dizem não ter, até ao momento, indícios de acesso a informação pessoal ou de um comprometimento mais abrangente da rede dos serviços públicos australianos.

O caso surge semanas depois de a OpenAI ter revelado outro incidente envolvendo agentes de IA, que acederam à plataforma Hugging Face durante um teste de cibersegurança. Nesse episódio, centenas de agentes terão conseguido aceder à internet sem autorização e coordenando ações de forma autónoma e não autorizada.