OpenAI cancela lançamento de novo modelo de IA por riscos de segurança

A OpenAI cancelou o lançamento do seu novo modelo de inteligência artificial (IA), o GPT-6.1 Astra, por ter percebido que não cumpria normas de segurança. A tecnológica norte-americana tinha previsto lançar o sistema de última geração em outubro, mas as preocupações levaram a que os planos se mantivessem na gaveta, após uma série de testes internos.

A notícia foi avançada esta terça-feira pelo Wall Street Journal e, mais tarde, confirmada pela dona do ChatGPT. Segundo o jornal, depois das análises levadas a cabo pela OpenAI, o GPT-6.1 Astra apresentou níveis mais elevados de erro do que o antecessor, como por exemplo situações em que nem sempre divulgou com precisão o que tinha feito.

“Embora [o GPT-6.1] Astra tenha melhorado em aspetos como a preguiça do modelo, não atingiu o nível necessário em termos de permanecer dentro do âmbito e da autorização, e na forma como comunica ao utilizador o tipo de trabalho que fez”, disse Saachi Jain, responsável pelos sistemas de segurança da OpenAI, citado pela Reuters.

“Queremos garantir que o desenvolvimento dos nossos modelos é seguro, seja dentro da empresa ou quando os enviamos aos utilizadores. Mas, quando os enviamos aos utilizadores, temos um padrão extremamente elevado em termos de segurança e alinhamento”, garantiu o porta-voz da OpenAI.

O modelo de IA em causa deveria ser integrado no ChatGPT e no Codex e foi criado para endereçar tarefas consideradas mais complexas sem assistência humana. Porém, o Astra consegue, em determinadas circunstâncias escapar, precisamente à supervisão humana.

É esse caminho que várias personalidades da indústria têm tentado evitar, entrando numa discussão internacional sobre a desaceleração no desenvolvimento de modelos. Depois das advertências de um antigo funcionário, o CEO da OpenAI, Sam Altman, e o concorrente Dario Amodei, presidente executivo da Anthropic, associaram-se a este debate sobre os riscos e o reforço da segurança. Certo é que, depois destes apelos, quer a OpenAI quer a Anthropic lançaram novos modelos de IA generativa: o Opus 5.5, no Claude, e os GPT-6 Sol e GPT-6 Luna, no ChatGPT.