Inteligência artificial. Anthropic admite “riscos existenciais para a humanidade” no prospeto do IPO

A empresa norte-americana de inteligência artificial (IA) Anthropic deixou um alerta aos investidores para os “riscos existenciais para a humanidade” que podem representar os seus sistemas de IA, ao mesmo tempo que revelou planos para assumir compromissos de cerca de 518 mil milhões de dólares em computação, serviços de cloud e infraestruturas ao longo dos próximos anos.

Os avisos constam do prospeto preparado pela empresa para a entrada em bolsa, prevista para este outono. De acordo com o Financial Times, quase um terço do documento é dedicado aos riscos associados à atividade da Anthropic, incluindo a possibilidade de modelos mais avançados conseguirem manipular pessoas, fazer chantagem ou apresentar comportamentos difíceis de prever.

A empresa liderada por Dario Amodei enfrenta um desafio financeiro significativo para acompanhar o crescimento da inteligência artificial. No ano passado, a Anthropic registou receitas de quase 4,6 mil milhões de dólares, mas teve um prejuízo operacional superior a 8 mil milhões, enquanto as despesas operacionais chegaram a quase 13 mil milhões de dólares, devido sobretudo ao custo da capacidade computacional necessária para desenvolver e operar os modelos.

A situação tem vindo a mudar rapidamente este ano. As receitas da Anthropic atingiram 11,5 mil milhões de dólares no segundo trimestre e a empresa deverá registar o segundo trimestre consecutivo de lucro operacional numa base ajustada. A Anthropic poderá chegar à bolsa com uma avaliação superior a dois biliões de dólares, o que poderá tornar a operação na maior entrada em bolsa de sempre.

Os riscos associados à evolução dos modelos de IA ganharam maior destaque nas últimas semanas, após vários incidentes envolvendo sistemas capazes de atuar de forma autónoma na internet. O próprio Dario Amodei afirmou recentemente que a inteligência artificial pode representar uma ameaça para a humanidade e defendeu maior controlo sobre o ritmo de desenvolvimento dos modelos mais avançados.

O tema ganhou ainda mais relevância depois de a OpenAI ter revelado que ferramentas da empresa conseguiram entrar em dezenas de sites externos, incluindo sistemas governamentais. A empresa também adiou o lançamento de um novo modelo, citando preocupações de segurança.