Altman diz que ciberataque à Hugging Face foi o pior incidente da OpenAI até agora

O líder da OpenAI classificou o incidente envolvendo dois modelos da empresa e a plataforma Hugging Face como o “pior visto até ao momento” registado pela tecnológica que criou o ChatGPT. Durante a realização de testes, 700 agentes da OpenAI conseguiram escapar do ambiente isolado em que estavam a ser testados para tentar obter a resposta a um problema de forma ilegal.

“Foi um incidente obviamente assustador”, afirmou esta terça-feira Sam Altman, numa conversa com Marc Benioff, CEO e chairman da Salesforce, durante a Dreamforce, em São Francisco. O responsável considerou que o episódio foi inicialmente visto como uma questão de segurança, mas acabou também por revelar um problema de alinhamento do modelo.

Na conversa com Marc Benioff, CEO e chairman da Salesforce, Altman explicou que a OpenAI estava a avaliar um dos seus modelos quando este conseguiu sair da sandbox, movimentar-se lateralmente pelo sistema e aceder à informação necessária para completar o teste.

“Foi um alerta para nós”, afirmou o responsável da empresa norte-americana, que considera que a evolução das capacidades dos modelos de inteligência artificial está a obrigar a OpenAI a aumentar o rigor colocado no alinhamento, na monitorização e na segurança.

Para Altman, o episódio é particularmente relevante devido à velocidade a que as capacidades dos modelos estão a aumentar. “Os modelos tornaram-se tão bons tão depressa…”, afirmou, defendendo que o desenvolvimento das capacidades tem de ser acompanhado por avanços equivalentes nas áreas de segurança, alinhamento e monitorização.

O responsável recordou a evolução dos modelos da OpenAI em matemática para ilustrar essa aceleração. Há três anos, os sistemas ainda tinham dificuldades com matemática ao nível escolar. No verão seguinte, já conseguiam apresentar um desempenho bastante bom numa competição de matemática do ensino secundário. Um ano depois, conseguiam atingir resultados equivalentes a uma medalha de ouro.

“As escolhas das empresas têm consequências”

O CEO da OpenAI rejeita a ideia de que a IA seja apenas uma tecnologia neutra: “As escolhas que as empresas que desenvolvem estes modelos fazem têm agora consequências reais”, defendeu.

A partir do incidente com a Hugging Face, Altman defendeu também uma cultura de maior transparência em torno dos acidentes. Na sua perspetiva, a indústria deve conseguir comunicar quando algo corre mal, perceber o que aconteceu e utilizar essa informação para melhorar os sistemas. “Quando acontece algo como o caso da Hugging Face, dizemos que isso foi mau. Isso não é uma tecnologia neutra”, afirmou.

Altman considera ainda que as empresas que desenvolvem esta tecnologia precisam de assumir responsabilidade, mas também de contar com o apoio do ecossistema, da sociedade e da economia. Na sua visão, um pequeno número de empresas que desenvolvem os modelos não pode ficar responsável por tomar decisões que deveriam ser discutidas pela sociedade.

A evolução dos modelos está também a mudar a forma como as pessoas interagem com a tecnologia. Para Altman, a próxima fase da inteligência artificial será marcada por sistemas que deixam de estar limitados a responder a pedidos e passam a funcionar continuamente e de forma mais autónoma.

Em vez de esperar por uma instrução, os agentes poderão compreender o trabalho que está a ser desenvolvido, acompanhar informação relevante e executar tarefas. Altman descreveu uma realidade em que a IA poderá acompanhar ferramentas como a plataforma colaborativa Slack (da Salesforce) ou o email, perceber o que o utilizador está a tentar fazer e agir em função desse contexto.

Outra mudança passa pelas próprias interfaces. A IA poderá compreender o que o utilizador pretende, decidir onde procurar a informação necessária dentro de uma empresa e apresentar uma interface adaptada à tarefa naquele momento.

Para o CEO da OpenAI, esta transformação poderá representar uma das maiores mudanças na forma como as pessoas utilizam a tecnologia. A ambição do responsável é que a IA funcione como uma espécie de assistente pessoal capaz de tornar o trabalho mais rápido, melhor e mais criativo.

Da máquina para as pessoas

A evolução tecnológica é, no entanto, apenas uma parte da visão de Altman para a OpenAI. O CEO recordou que a primeira década da empresa foi dedicada a tentar perceber como construir inteligência artificial geral (AGI) — tecnologia com mais capacidade que a dos humanos — e compreender a própria máquina. A próxima década deverá ter outro foco: perceber o que esta tecnologia pode significar para as pessoas.

A ambição passa por colocar estas capacidades à disposição de cada pessoa e de cada empresa, permitindo-lhes construir e criar mais com a ajuda da IA.

Por fim e em modo de projeção sobre o que gostaria que acontecesse até 2030, Altman espera que através da IA as pessoas possam olhar para trás e pensar que não conseguem acreditar em quanto a própria vida melhorou e naquilo que conseguiram criar, incluindo empresas que podem nascer praticamente de uma só pessoa.

“Quero que [a IA] seja sobre o que isto significa para as pessoas, não sobre o que isto significa para a máquina”, atirou.

O jornalista viajou até São Francisco a convite da Salesforce.