Em março 2023, uma carta aberta do think thank Future of Life Institute, assinada por personalidades como Elon Musk e Steve Wozniak – incluindo o professor português Luís Moniz Pereira -, exigiu uma “pausa de pelo menos seis meses” no treino de sistemas de inteligência artificial (IA) generativa. Entre as preocupações dos signatários estava o risco de “perda de controlo” destes sistemas.

Mais de três anos depois, a discussão sobre o ritmo de desenvolvimento tecnológico regressou com toda a força, e agora ao mais alto nível. Dario Amodei, cofundador e CEO da Anthropic, empresa que desenvolveu alguns dos modelos de IA mais capazes do mundo, publicou um texto em que declara: “Precisamos de abrandar o ritmo com que melhoramos as capacidades dos modelos de IA.”

Mas o que parece um sobressalto é, na verdade, um debate público que foi conhecendo vários capítulos ao longo de todo este verão.

Por exemplo, em julho, 1.386 trabalhadores das grandes empresas do setor, como OpenAI, Anthropic, Meta e Google, publicaram um manifesto que pede ao Governo dos EUA que apoie “um esforço internacional para desenvolver as ferramentas técnicas e de governação necessárias para regular deliberadamente o ritmo de avanço na fronteira do desenvolvimento de IA automatizada”.

Também nesse mês, Demis Hassabis, cofundador da Google DeepMind e vencedor do Nobel da Química em 2024, propôs publicamente um sistema, liderado pelos EUA, em que as empresas de IA avançada submeteriam voluntariamente os seus modelos a um processo de testagem. Esta avaliação ficaria a cargo de um organismo de auto-regulação ou de uma entidade constituída em regime de parceria público-privada sob supervisão federal.

No final de agosto, Bill Gates publicou um extenso artigo em que assume sérias preocupações com os impactos da IA, incluindo no emprego. “Se alguém tivesse um plano viável para abrandar o avanço da IA ​​globalmente, eu provavelmente apoiá-lo-ia. No entanto, não acredito que isso vá acontecer. Os incentivos geopolíticos e económicos são muito fortes para que se avance a toda a velocidade”, escreveu o fundador da Microsoft.

No artigo que publicou no fim de semana, Dario Amodei reconhece que a ideia de abrandar a IA não é nova, mas “fazia pouco sentido” em 2023: “Os modelos de IA de então não eram suficientemente poderosos para atuarem como agentes no mundo de forma coerente e não eram capazes de enganar, manipular, fazer batota ou executar ciberataques significativos.”

Desde então, os avanços tecnológicos alcançados pelas empresas de IA, incluindo pela própria Anthropic, tornaram a questão muito mais urgente, argumenta, assim, o gestor.

Para essa nova urgência contribuiu, de forma decisiva, a notícia de que dois modelos da OpenAI, criadora do ChatGPT, e outra das empresas de IA mais avançadas do mundo, executaram um ciberataque não programado a uma plataforma externa enquanto estavam em testes.

Detalhes divulgados mais recentemente, incluindo uma auditoria independente, mostraram que o ciberataque à Hugging Face foi perpretado por um “enxame” composto por mais de 700 agentes de IA, que trabalharam de forma coordenada, tentando enganar deliberadamente os seus supervisores.

Depois de revelado este incidente – o primeiro ciberataque agêntico e autónomo realizado por IA, sem intervenção humana -, a Anthropic admitiu ter desvendado três casos em que a sua tecnologia foi capaz de ‘escapar’ do laboratório e aceder à internet sem autorização, contribuindo para alimentar ainda mais os receios de que a IA esteja a escapar ao controlo humano.

O texto de Dario Amodei foi muito bem recebido entre os pares, incluindo pelos seus maiores rivais.

“Concordo com o Dario”, escreveu Sam Altman, líder da OpenAI, na rede social X. “O Dario tem razão”, reagiu Elon Musk, que controla a SpaceXAI, a ‘casa’ do chatbot Grok.

Satya Nadella, CEO da Microsoft, não mencionou Dario Amodei diretamente, mas fez eco das suas propostas, referindo que são “bem-vindas”. Demis Hassabis também escreveu que “o ensaio do Dario aponta o caminho certo a seguir”.

Bill Gates, que semanas antes admitia vir a apoiar “um plano viável para abrandar o avanço da IA ​​globalmente”, concedeu, no domingo, que a proposta de Dario Amodei tem pernas para andar: “Concordo com o Dario e fico satisfeito por ver o apoio dos líderes dos outros laboratórios de fronteira”, declarou no LinkedIn.

Resumidamente, o plano do CEO da Anthropic, cujas linhas gerais mereceram o apoio dos outros players do setor, assenta em três pilares:

• “Avaliadores integrados”: Dario Amodei quer que cada empresa de IA de topo se comprometa a “fornecer um acesso contínuo, semelhante ao de um colaborador, a uma equipa de avaliadores externos integrados”, com a missão de “verificar a adesão às práticas e compromissos de segurança, reportar incidentes e ajudar a avaliar o alinhamento não só dos modelos de IA concluídos, mas também dos fluxos e processos de formação”. “A Anthropic está a comprometer-se unilateralmente com esta etapa agora”, explicou o CEO.
• “Coordenação democrática”: O plano prevê que as empresas de IA de topo “em países democráticos” tenham de coordenar esforços para “estabelecer padrões de segurança comuns, bem como limites ao ritmo do avanço descontrolado da IA”. O CEO da Anthropic admite, contudo, que “algumas formas de coordenação que teriam impacto no controlo do desenvolvimento são juridicamente complexas e exigirão apoio governamental”. Pede, por isso, uma isenção das regras da concorrência para permitir “certos tipos de conversações de segurança”.
• “Coordenação global”: Consciente de que outras regiões do globo também estão a avançar rapidamente na IA generativa, principalmente a China, o plano de Dario Amodei determina que “os Estados Unidos e outros governos democráticos tentam coordenar-se com os governos autoritários, na medida do possível, levando a sério os desafios de verificar o cumprimento das normas”.

No seu novo ensaio, Dario Amodei promete que, independentemente dos concorrentes, a Anthropic irá assumir desde já o compromisso de integrar na empresa avaliadores externos com “acesso continuado a permissões e ferramentas semelhantes às dos funcionários internos que fazem avaliações de risco comparáveis”.

Na prática, esta equipa irá operar de forma independente, fora do “controlo editorial” da empresa, mas com os seus próprios espaços de trabalho no escritório, credenciais de acesso e computadores portáteis. Tal como os funcionários da Anthropic.

Estes “avaliadores externos devem ter o direito de publicar as principais descobertas sobre níveis de risco, incidentes, práticas e o acesso que receberam ou não receberam”, reservando a Anthropic o único direito de truncar “informações sensíveis à segurança, legalmente protegidas, comercialmente sensíveis ou confidenciais de terceiros”, explica Dario Amodei. “Mas não podemos ocultar conclusões apenas porque são desfavoráveis”, promete o CEO.

Sam Altman, CEO da OpenAI, declarou na plataforma X que “o compromisso de ter avaliadores independentes com acesso semelhante ao dos funcionários é uma grande ideia”. “Iremos fazer o mesmo”, prometeu, afirmando que dará mais detalhes sobre esse plano “em breve”.

O CEO da Microsoft não assumiu um compromisso concreto, mas assumiu acolher “favoravelmente a investigação, o foco e o ritmo deliberado necessários para alcançar o alinhamento correto” na IA. “Acolhemos também ideias como ‘avaliadores integrados’ e os esforços mais amplos para desenvolver mecanismos que tornem isto mais do que apenas conversa”, sublinhou.

A ideia de testar preventivamente os modelos de IA não é nova na União Europeia. O Regulamento da Inteligência Artificial, mais conhecido por AI Act, já fixa um conjunto de obrigações para as empresas de IA como a OpenAI e a Anthropic.

Nomeadamente, obriga estas empresas a “realizar a avaliação do modelo de acordo com protocolos e ferramentas normalizados que reflitam o estado da arte, incluindo a condução e documentação de testes adversários do modelo com o objetivo de identificar e mitigar os riscos sistémicos”.

Obriga também as empresas a “avaliar e mitigar os possíveis riscos sistémicos a nível da União, incluindo as suas origens, que possam resultar do desenvolvimento, da colocação no mercado ou da utilização de modelos de IA de uso geral com risco sistémico”.

Os laboratórios de IA de fronteira estão ainda obrigados, ao abrigo desta lei europeia, a comunicar às autoridades “informação relevante sobre incidentes sérios e possíveis medidas para os mitigar” – nomeadamente ao AI Office, o organismo criado pela União Europeia para supervisionar a aplicação do AI Act.

Em 2015, a Comissão Europeia publicou também um código voluntário de boas práticas que versa sobre a transparência dos modelos, a segurança e os direitos de autor. Este código foi subscrito na totalidade pela Anthropic, pela OpenAI e pela Google. Outras empresas, como a Meta e a empresa de IA de Elon Musk, subscreveram apenas partes do código europeu.

Este ano, a Comissão Europeia anunciou que irá lançar um concurso para o estabelecimento de uma estrutura na UE responsável por avaliar modelos de IA antes de serem lançados, principalmente em matéria de cibersegurança.

A testagem de modelos é crítica para a soberania do bloco, cuja agência de cibersegurança – a ENISA – só teve acesso ao Claude Mythos 5, um modelo altamente avançado nas capacidades de cibersegurança, meses depois de uma versão inicial ter sido disponibilizada nos EUA e no Reino Unido.

Entretanto, surgiram sinais negativos: a Anthropic decidiu lançar o Claude Mythos 5.1, uma evolução do modelo, sem o disponibilizar à agência britânica que tinha testado a versão anterior.

O Presidente dos EUA não gostou de ver as principais empresas norte-americanas de IA alinharem publicamente um abrandamento no desenvolvimento desta tecnologia, um sinal de que qualquer plano para baixar o ritmo merecerá forte resistência da Casa Branca.

“O único controlo ou ‘mecanismo de proteção’ de que a IA precisa é de um PRESIDENTE FORTE E INTELIGENTE (com QI elevado!), e os EUA têm isso de sobra!”, reagiu o Chefe de Estado na rede social Truth.

Na publicação, Donald Trump alegou que o Governo norte-americano impediu certas pessoas, incluindo Dario Amodei, de fazerem “coisas potencialmente más ou prejudiciais”, criticando o CEO da Anthropic por agora “pretender ser um ‘anjinho'”.

“Há uma conspiração DOENTIA em curso contra a IA e os data centers, e a única que beneficia disso é a China”, declarou Trump, pedindo “cuidado” aos “teóricos da conspiração, conspiradores, traidores e responsáveis por fugas de informação”.

“QUEM VENCER NA IA, VENCE! Estamos à frente da China e de todos os outros, e continuaremos assim”, rematou.

Mais tarde, noutra publicação, Donald Trump voltou à carga, afirmando: “Quanto à IA, em que momento da história empresarial se viu líderes de um setor a pedir uma regulamentação que, se fosse rigorosamente implementada, os levaria ao esquecimento e à falência? A ideia de que a IA vai dominar o mundo, destruir a humanidade e causar todo o tipo de desgraças não passa de uma farsa.”

Os apelos dos principais líderes do setor da IA para o abrandamento no desenvolvimento da tecnologia também não caiu bem nos mercados, onde as altas avaliações de muitas empresas estão condicionadas pelo ciclo de investimento em infraestrutura de IA em curso e dependem diretamente da expectativa de retornos elevados sobre esse capital. O Goldman Sachs estima que o investimento em IA este ano exceda um bilião de dólares.

Não é por isso surpresa que as ações das empresas ligadas à IA tenham estado sob pressão esta segunda-feira: à hora de fecho deste Descodificador, os títulos da Nvidia caíam 2,66%, a AMD perdia 4% e a Micron caía 4,9%. Na Europa, antes das declarações de Trump, a ASML desvalorizou 6,13%.

Adicionalmente, os alertas dos CEO dos principais laboratórios de IA podem ter impactos nas duas grandes Ofertas Públicas Iniciais (IPO) que estão a ser preparadas pela Anthropic e OpenAI.

O líder desta última, aliás, já confirmou numa entrevista à Fortune que a sua empresa não planeia ir para a bolsa este ano: “Na verdade, penso que, face a tudo o que está a acontecer em relação à segurança, este não seria um bom momento para abrir o capital, e não sentimos pressão quanto a isso”, afirmou Sam Altman.

(Atualizada às 13h12 para referir o potencial impacto dos alertas nos IPO da Anthropic e da OpenAI)