A empresa norte-americana Anthropic afirma que este é o seu modelo mais avançado até à data.

O Claude Mythos é capaz de analisar grandes quantidades de código informático e encontrar vulnerabilidades complexas, incluindo os chamados “zero-day” — isto é, problemas ou vulnerabilidades num sistema que ainda não foram reportadas nem corrigidas, o que as torna especialmente importantes.

O grande objetivo é que estas descobertas permitam às empresas corrigir problemas de segurança mais rapidamente e reduzir riscos de ataques informáticos.

Só que tudo depende das intenções de quem o está a usar. Um modelo muito capaz a encontrar erros informáticos para que possam ser corrigidos é também um modelo que pode, em tese, ser usado para explorar as mesmas falhas por atores mal-intencionados.

O que distingue o Claude Mythos de outros modelos de IA é o seu nível de especialização e autonomia na deteção de vulnerabilidades em software. Segundo a Anthropic, o modelo já consegue superar quase todos os seres humanos nesta tarefa, exceto os especialistas mais experientes.

Além disso, segundo o The Guardian, a empresa liderada por Dario Amodei diz que o sistema já mostrou ter a capacidade para identificar falhas extremamente antigas, algumas com mais de 20 anos, em sistemas considerados muito seguros.

O Claude Mythos foi lançado de forma condicionada, estando apenas disponível para parceiros selecionados da Anthropic, como grandes empresas tecnológicas.

O acesso é controlado, precisamente, devido ao facto de as suas capacidades sensíveis.

Atualmente, existem cerca de 40 entidades parceiras com acesso ao Claude Mythos, entre as quais grupos como Apple, AWS, Google, Nvidia e Microsoft.

A Anthropic explicou que, “ao lançar o modelo a um grupo crítico de parceiros da indústria e de programadores de código aberto no Project Glasswing, estamos a permitir a quem defende começar a proteger os sistemas mais importantes antes que os modelos com capacidades semelhantes fiquem amplamente disponíveis”.

O objetivo é que os 40 parceiros partilhem mais tarde as conclusões do uso deste modelo.

O principal risco do Claude Mythos é o “uso duplo”.

Ou seja, embora tenha sido criado para proteger sistemas, também pode ser usado para explorar maliciosamente as vulnerabilidades.

Como consegue identificar falhas com grande precisão, essa mesma capacidade pode ser aproveitada por atacantes para desenvolver ciberataques mais sofisticados, que são uma tendência cada vez mais recorrente.

A própria Anthropic já admitiu também que o modelo é extremamente autónomo e que este tipo de capacidades pode tornar-se comum em poucos meses, o que aumenta a preocupação com o controlo desta tecnologia.

A empresa liderada por Dario Amodei, que já integrou os quadros da rival OpenAI e abandonou a organização por considerar que a criadora do ChatGPT estava a avançar “rápido demais”, acrescentou ainda que tem mantido contactos com o Governo dos EUA sobre as capacidades ofensivas e defensivas deste modelo.

Importa ainda recordar que a Anthropic processou recentemente o Pentágono por ter sido incluída numa lista negra de fornecedores. A decisão foi tomada pela Administração Trump para castigar a empresa por não autorizar o uso do Claude em sistemas de armas autónomos e vigilância em massa dos cidadãos.

O setor financeiro é dos mais preocupados com o aparecimento do Claude Mythos, isto porque os bancos são alvos frequentes de ciberataques e dependem fortemente de sistemas digitais seguros. A existência de um modelo de IA capaz de identificar vulnerabilidades críticas levanta preocupações sobre a proteção de dados financeiros e infraestruturas bancárias.

Segundo a CNBC, o presidente da Reserva Federal norte-americana, Jerome Powell, e o secretário do Tesouro, Scott Bessent, reuniram-se esta semana, num encontro especial para debater este tema, com líderes de grandes bancos norte-americanos, como Bank of America, Citigroup e Goldman Sachs, para discutir estes riscos. O objetivo é perceber como estas novas tecnologias podem afetar a estabilidade e segurança do sistema financeiro.