CFO da OpenAI alerta para riscos de cibersegurança dos modelos de IA com pesos abertos

Sarah Friar defende que os modelos de IA sejam submetidos a testes de segurança, alertando para os riscos dos modelos abertos e para a necessidade de avaliar os sistemas sem travar a inovação.

A administradora financeira da OpenAI, Sarah Friar, alertou esta quarta-feira para os riscos de cibersegurança associados à disponibilização de modelos avançados de inteligência artificial (IA) em código aberto ou com os respetivos pesos acessíveis.

Escolha o ECO como fonte preferida no Google

Escolher

A CFO da empresa que controla o ChatGPT abordou, na International AI Summit, em Dublin, os perigos de estas ferramentas chegarem às mãos de pessoas com intenções maliciosas. Defendeu uma resposta mais rápida às vulnerabilidades e aos incidentes de segurança, bem como a avaliação dos modelos, num contexto em que as ferramentas de IA se tornam mais acessíveis.

Sarah Friar, Chief Financial Officer (CFO) da OpenAI EPA/BRYAN MEADEEPA

A CFO da OpenAI explicou que a empresa tem um modelo funcional que está a ser testado internamente para garantir a sua segurança. Segundo Sarah Friar, esse modelo “obteve 100% no benchmark de cibersegurança”. No entanto, a responsável alertou que “existem outros modelos, incluindo modelos chineses, que também têm tido um desempenho muito bom nesta área e muitas pessoas conseguem aceder-lhes, uma vez que são frequentemente disponibilizados em código aberto. Isto significa que as pessoas com intenções maliciosas também dispõem destas ferramentas”, começou por sublinhar Sarah Friar.

Para responder a estes riscos, a responsável defendeu que as empresas têm de acelerar a identificação de vulnerabilidades e a resposta a incidentes. “Quando alguma coisa acontece, temos de ser mais rápidos. Não podemos esperar para receber um e-mail a dizer que há um problema. Temos de nos antecipar”, afirmou, acrescentando que é necessário contactar os responsáveis e agir sobre as aplicações para construir confiança.

A responsável explicou na Irlanda que, antes de disponibilizar estas ferramentas a governos e operadores de infraestruturas críticas, é necessário garantir que os riscos são identificados. A OpenAI está também a testar os seus próprios sistemas, através de simulações de ataques à infraestrutura durante várias semanas, com o objetivo de detetar vulnerabilidades e reforçar as defesas.

Os resultados destes testes são depois incorporados nas ferramentas disponibilizadas aos clientes. “Não podemos deixar que o medo seja a forma como abordamos o mundo. Temos de encontrar soluções que permitam responder aos riscos”, defendeu Sarah Friar.

OpenAI defende avaliação independente, mas sem travar inovação

Sarah Friar defendeu que os laboratórios responsáveis pelo desenvolvimento dos sistemas mais avançados devem trabalhar em conjunto e considerou importante a existência de mecanismos de avaliação independente.

“Se queremos avançar depressa, vamos sozinhos; se queremos ir longe, vamos juntos”, afirmou, recorrendo a uma expressão que, explicou, é dita internamente na OpenAI para orientar a abordagem a temas como a cibersegurança e a regulação.

A responsável defendeu o envolvimento de diferentes participantes do setor tecnológico na definição de respostas para estes riscos. As empresas que já têm relações de confiança com os seus clientes podem ajudar a garantir que a adoção destas ferramentas decorre de forma mais segura, argumentou, acrescentando que a própria OpenAI também tem de conquistar essa confiança.

A CFO referiu ainda a existência, nos Estados Unidos, de organizações que avaliam modelos antes da sua disponibilização. “Queremos ser abertos. Queremos garantir que as pessoas certas podem avaliar os modelos”, afirmou. Mas acrescentou que é necessário evitar que estes processos atrasem excessivamente o desenvolvimento da tecnologia.

“Temos de garantir que isso não nos atrasa ao ponto de acabarmos por ficar para trás”, defendeu, alertando para o risco de as empresas sujeitas a mecanismos de avaliação mais exigentes perderem terreno para concorrentes, sobretudo chineses, que não enfrentem as mesmas limitações.

O jornalista viajou a Dublin a convite da Microsoft Portugal.

Assine o ECO Premium

No momento em que a informação é mais importante do que nunca, apoie o jornalismo independente e rigoroso.

De que forma? Assine o ECO Premium e tenha acesso a notícias exclusivas, à opinião que conta, às reportagens e especiais que mostram o outro lado da história.

Esta assinatura é uma forma de apoiar o ECO e os seus jornalistas. A nossa contrapartida é o jornalismo independente, rigoroso e credível.

Comentários ({{ total }})

CFO da OpenAI alerta para riscos de cibersegurança dos modelos de IA com pesos abertos

Respostas a {{ screenParentAuthor }} ({{ totalReplies }})

{{ noCommentsLabel }}

Ainda ninguém comentou este artigo.

Promova a discussão dando a sua opinião