O plano de Sam Altman para “tornar a IA segura para todos”

“É assim que podemos tornar a IA segura para todos”. Foi com este título que Sam Altman, CEO da OpenAI, publicou um artigo de opinião no Financial Times, onde apresenta a sua estratégia para o futuro da inteligência artificial (IA). Mais do que uma reflexão sobre os riscos da tecnologia, o texto constitui uma proposta de governação internacional para os modelos de IA mais avançados, defendendo que o seu desenvolvimento deve assentar em normas globais de segurança, supervisão independente e cooperação entre Estados.

O artigo surge numa altura em que cresce o debate sobre quem controla a inteligência artificial de fronteira. Nos últimos meses, os Estados Unidos têm reforçado as restrições ao acesso internacional, incluindo na Europa, aos modelos mais avançados desenvolvidos por empresas norte-americanas.

Um dos casos mais mediáticos envolveu a Anthropic, que limitou,no início de junho, a disponibilização dos modelos Mythos 5 e Fable 5 fora dos EUA. Entretanto, esta semana, a Anthropic anunciou ter chegado a acordo com o Governo dos EUA e já reativou o Fable 5.

A proposta de Sam Altman introduz, no entanto, uma aparente tensão. Ao mesmo tempo que defende a democratização dos benefícios da inteligência artificial, Altman atribui aos Estados Unidos um papel central na governação da tecnologia. A solução passa pela criação de um fórum internacional liderado por Washington.

“Gostaria de propor um modelo simples: um fórum internacional, liderado pelos Estados Unidos, que estabeleça normas reconhecidas internacionalmente, forneça análises especializadas e imparciais sobre as capacidades e os riscos da IA e disponibilize esta tecnologia aos países e empresas que participem e cumpram essas regras”, começa por explicar o executivo.

Para o CEO da OpenAI, esta arquitetura de governação é condição essencial para que a tecnologia possa ser amplamente distribuída. “O mundo não poderá usufruir dos benefícios da inteligência artificial se não tomarmos medidas para enfrentar as ameaças reais à segurança que temos pela frente”, escreve. Por isso, considera que “definir normas de segurança é um requisito essencial para que esta tecnologia possa ser amplamente distribuída“.

Segundo o líder da dona do ChatGPT, esse organismo poderia reunir representantes governamentais, especialistas técnicos independentes e outros intervenientes relevantes, funcionando simultaneamente como entidade reguladora e supervisora dos laboratórios que desenvolvem inteligência artificial.

“Esse fórum poderia (…) funcionar como um mecanismo de supervisão dos laboratórios, protegendo contra as pressões comerciais que podem levar a uma corrida perigosa e pouco segura pelo desenvolvimento da tecnologia”, defende.

Uma das ideias centrais do artigo é que a definição de padrões internacionais de segurança deve anteceder a disseminação dos sistemas mais avançados. Altman argumenta que todos os países, bem como as empresas e os cidadãos, devem beneficiar da inteligência artificial, mas apenas num quadro em que existam regras comuns e mecanismos de certificação que garantam uma utilização segura. Na sua visão, os países adeririam às normas definidas pelo fórum internacional e, em troca, teriam acesso estável aos modelos mais avançados.

A proposta procura responder simultaneamente a duas preocupações que têm marcado o debate internacional: evitar uma concentração excessiva do poder tecnológico e reduzir os riscos associados a sistemas cada vez mais capazes. “Uma cooperação internacional deste tipo parece ser uma forma sensata de evitar que o poder fique demasiado concentrado e de assegurar que os benefícios da inteligência artificial sejam democratizados”, afirma o executivo.

Esta abordagem representa uma mudança de foco relativamente ao debate que tem marcado os últimos anos. Em vez de defender exclusivamente regulamentações nacionais ou confiar na autorregulação das empresas tecnológicas, Altman propõe um modelo de governação internacional inspirado noutras áreas consideradas estratégicas. O responsável da OpenAI aponta como exemplos a segurança da aviação, os padrões financeiros internacionais e a Agência Internacional da Energia Atómica (AIEA), defendendo que a inteligência artificial deverá evoluir sob mecanismos de cooperação semelhantes.

Ao mesmo tempo, procura afastar a ideia de que as grandes empresas tecnológicas devam assumir o papel de reguladoras. “Os laboratórios desenvolvem a tecnologia, mas os cidadãos e os seus representantes eleitos devem estabelecer as regras“, escreve. E reforça: “As decisões mais importantes sobre como esta tecnologia é utilizada devem ser tomadas através de processos democráticos, e não por um pequeno número de empresas em São Francisco”, sublinha Altman.

O artigo evidencia também o otimismo de Altman quanto ao impacto futuro da inteligência artificial. O CEO e co-fundador da OpenAI afirma que, dentro de um ou dois anos, poderão existir sistemas com capacidades muito superiores às atuais, capazes de acelerar a descoberta científica, impulsionar o crescimento económico e transformar profundamente a sociedade.

“A inteligência artificial transformará as condições materiais da vida humana numa escala que nenhuma tecnologia conseguiu desde o aproveitamento da eletricidade — e talvez até numa escala superior”, prevê.

Ainda assim, esse cenário depende, segundo o próprio, da criação de um quadro internacional de confiança. Caso isso não aconteça, Altman considera que os países tenderão a responder através de restrições nacionais ao desenvolvimento e à distribuição da inteligência artificial, conduzindo a um ecossistema mais fragmentado. O artigo termina precisamente com esse apelo à cooperação internacional. “Precisamos de encontrar uma forma de criar confiança global nesta tecnologia para que todos possamos partilhar estes benefícios”, conclui Sam Altman.