Anthropic trava utilização de modelos de IA que poderiam ajudar a criar armas biológicas

A Anthropic interveio, durante este ano, para travar cinco potenciais operações em que cientistas recorreram aos principais modelos de inteligência artificial (IA) da empresa norte-americana em investigações que poderiam contribuir para o desenvolvimento de armas biológicas.

Os casos são descritos no relatório, “Detecting and countering misuse of AI”, divulgado esta quinta-feira pela empresa, que alerta para o aumento das capacidades dos modelos de IA na área da investigação científica e para o risco de estas poderem ser utilizadas para fins maliciosos.

Segundo a Anthropic, os modelos mais antigos, como o Claude Opus 4 e o Claude Sonnet 4.5, lançados em 2025, estavam “muito abaixo” do nível de capacidade a partir do qual poderiam prestar uma ajuda significativa a um utilizador sofisticado na realização de investigação biológica perigosa. Por esse motivo, as salvaguardas aplicadas eram sobretudo destinadas a impedir que utilizadores inexperientes obtivessem informação que lhes permitisse reproduzir armas biológicas conhecidas.

A situação, porém, mudou com os modelos mais recentes. “No caso dos modelos atuais, capazes de apoiar uma série de tarefas complexas de investigação científica, as evidências já não são tão claras e não podemos dar a mesma garantia”, refere a empresa.

Por precaução, a Anthropic diz ter lançado os modelos mais recentes, incluindo o Claude Fable 5, com salvaguardas mais fortes, restringindo o acesso a uma gama mais alargada de pedidos relacionados com investigação biológica de utilização dupla, ou seja, investigação que pode ter aplicações legítimas, mas também ser utilizada para fins nocivos.

Os casos de utilização potencialmente perigosa

A empresa identificou cinco casos concretos que, segundo a sua avaliação, poderiam apoiar o desenvolvimento de armas biológicas. Num deles, uma plataforma de revenda contornou os bloqueios regionais da Anthropic para disponibilizar os modelos a virologistas envolvidos num projeto financiado por um Estado relacionado com investigação sobre o vírus chikungunya (infeção viral transmitida por mosquitos). Os pedidos posteriormente recusados foram encaminhados para modelos com salvaguardas menos restritivas.

Noutro caso, um investigador localizado numa região onde o serviço não estava disponível utilizou o Claude durante várias semanas para planear experiências relacionadas com a adaptação da gripe aviária a mamíferos. Segundo a Anthropic, os sistemas de classificação acabaram por limitar o trabalho aos modelos menos avançados.

Um terceiro caso envolveu um serviço de intermediação utilizado por cerca de uma dúzia de clientes, através do qual o Opus 5 terá elaborado, em cerca de uma hora, uma candidatura completa a uma bolsa de investigação relacionada com a evasão imunitária de ortopoxvírus (vírus de ADN que infetam humanos e animais).

Nos restantes dois casos, a Anthropic identificou um investigador apoiado pelo Estado que utilizou os modelos para criar um atlas de péptidos de veneno e um sistema de otimização generativa de moléculas, bem como outro investigador que recorreu ao Claude para redesenhar computacionalmente toxinas no âmbito de um programa nacional.

A empresa sublinha, contudo, que os casos não permitem concluir que os investigadores tivessem necessariamente a intenção de causar danos. A própria natureza da investigação biológica dificulta essa distinção, uma vez que as mesmas ferramentas podem contribuir para avanços científicos legítimos ou ser utilizadas para desenvolver agentes patogénicos mais perigosos.

“Embora as avaliações sejam úteis por fornecerem evidências sobre as capacidades dos modelos, não conseguem demonstrar concretamente que essas capacidades alguma vez seriam utilizadas para desenvolver armas biológicas no mundo real”, afirma a Anthropic.

De acordo com a empresa, os cinco casos envolveram ainda tentativas de contornar os mecanismos de segurança. Os intervenientes terão utilizado métodos para ultrapassar as restrições geográficas de acesso aos modelos e procurado “ocultar o objetivo da sua investigação” para escapar às salvaguardas.

Depois de detetar e investigar os casos, a Anthropic diz ter banido as contas associadas e incorporado as conclusões nas suas ferramentas de proteção dos modelos, nos processos de aplicação das regras e nos mecanismos de recolha de informação sobre ameaças.

A empresa não revela os nomes das instituições de investigação, os países onde decorreram as atividades ou os agentes biológicos e técnicas específicas envolvidos. Justifica a decisão com o facto de os indivíduos identificados serem cientistas em atividade e de não existir uma conclusão sobre as intenções.

A Anthropic considera que a divulgação destes casos deve contribuir para um debate mais amplo entre empresas de IA e governos sobre os riscos associados ao uso da tecnologia na investigação biológica e sobre a forma de os mitigar.