CEO da Nvidia defende que “não são precisas novas leis” para regular segurança da IA

Numa altura em que a segurança da inteligência artificial (IA) é o tema mais discutido pelos líderes das empresas do setor, o CEO da Nvidia sublinhou esta terça-feira que não são necessárias novas leis ou regulamentação para garantir a segurança dos sistemas de IA, defendendo que cabe às próprias empresas decidir quando estão em condições de colocar os seus produtos no mercado.

“A segurança é uma prioridade máxima. Em muitos aspetos, é a prioridade número um”, afirmou Jensen Huang, numa conversa com Marc Benioff, CEO da Salesforce, durante o evento Dreamforce, que decorre até quinta-feira em São Francisco, na Califórnia. Mas, para o líder da Nvidia, a segurança da IA deve ser encarada sobretudo como um problema de engenharia.

Jenson Huang explicou que as empresas devem criar ambientes adequados para testar sistemas de IA cada vez mais complexos e só lançar os produtos quando considerarem que os mesmos estão preparados. “Se não estamos confiantes na funcionalidade, capacidade ou segurança de um produto ou serviço, então não o devemos lançar”, afirmou.

“As forças do mercado já estão presentes. Não precisamos de novas leis. Não precisamos de novas regulações”, acrescentou o CEO da Nvidia.

Para Jenson Huang, não existe uma escolha entre acelerar o desenvolvimento da IA e garantir a segurança dos sistemas. “Inovação, velocidade e produtos seguros não são uma falsa escolha”, defendeu o cofundador da empresa de placas gráficas, argumentando que as organizações podem avançar rapidamente e, ao mesmo tempo, interromper o desenvolvimento ou o lançamento de um produto quando considerarem que este não é seguro.

As declarações surgem num momento em que a segurança da IA voltou a estar no centro do debate entre os líderes da indústria. Pouco antes de Huang subir ao palco, o CEO da Anthropic, Dario Amodei, tinha defendido uma abordagem mais coordenada para responder aos riscos associados ao desenvolvimento de sistemas de IA cada vez mais avançados.

Durante o fim de semana, Amodei publicou também um artigo no qual defende uma desaceleração no desenvolvimento da IA e a definição de padrões comuns de segurança.

Líder da Nvidia diz que IA não vai destruir empregos e pede que empresas “se envolvam”

Para Huang, a discussão sobre a regulação acontece em paralelo com uma transformação que já está a chegar às empresas. O CEO da Nvidia considera que a inteligência artificial está a sair dos laboratórios e a tornar-se uma tecnologia transversal às organizações.

“[As empresas] não querem ficar para trás. Esta é uma revolução tecnológica demasiado importante”, afirmou, apelando às empresas presentes na Dreamforce para que experimentem a tecnologia e não desistam caso os primeiros resultados fiquem aquém das expectativas.

Huang deu como exemplo uma empresa que teste hoje uma aplicação de IA e obtenha apenas 80% do resultado esperado. Nesse caso, diz, deve voltar a testá-la algumas semanas depois, uma vez que os modelos estarão entretanto mais capazes.

A visão do CEO da Nvidia passa também por uma mudança na forma como o software é utilizado. Huang rejeitou a ideia de que a inteligência artificial possa representar o “fim do software”, defendendo antes que a IA será uma nova camada sobre o software existente, tornando-o mais útil e permitindo uma utilização mais “agêntica”, ou seja, baseada em agentes capazes de executar tarefas de forma autónoma.

Huang rejeitou também a ideia de que o avanço da inteligência artificial conduza necessariamente à destruição de empregos, considerando essa ideia “completamente absurda”.

O CEO da Nvidia prevê, pelo contrário, uma transformação profunda das empresas à medida que a adoção da tecnologia aumenta. Na sua visão, “cada empresa de software é uma empresa de IA” e todas as empresas vão tornar-se organizações baseadas em IA e agentes.

A própria Nvidia tem procurado posicionar-se nesta transformação para além do fornecimento de chips, apresentando-se como uma empresa de infraestrutura completa para inteligência artificial.

Jenson Huang defendeu ainda na Califórnia que a próxima etapa passa por colocar agentes de IA dentro das empresas e permitir que estas desenvolvam modelos adaptados às suas próprias necessidades.

Para o líder da Nvidia, a consequência será um aumento da produtividade e da ambição das empresas, indústrias e países. “O céu é o limite para as empresas e para a economia à medida que a produtividade proporcionada pela IA aumenta”, afirmou. “Envolvam-se com a IA. Não fiquem para trás”, apelou Jenson Huang.

A Salesforce e a Nvidia anunciaram também esta terça-feira o Koa, o primeiro modelo de raciocínio de CRM (sigla em inglês de Customer Relationship Management) da Salesforce para o Agentforce — a plataforma de agentes da empresa –, desenvolvido com base na plataforma de modelos abertos Nvidia Nemotron. O modelo foi concebido para ajudar agentes de IA a lidar com fluxos de trabalho complexos e executar tarefas em várias etapas, recorrendo às ferramentas adequadas.

Segundo as empresas, o Koa foi treinado com dados sintéticos baseados em quase três décadas de implementações de CRM e, nos testes da Salesforce, igualou ou superou o desempenho de outros modelos líderes em tarefas de CRM, registando três vezes menos erros. A Salesforce sublinha ainda que mantém o controlo dos pesos do modelo e realiza o pós-treino e a inferência dentro da sua própria infraestrutura.

O jornalista viajou até São Francisco a convite da Salesforce.