“IA gera aumentos significativos de produtividade. Não sei é se estamos a perder capacidades cognitivas”

De visita ao continente asiático, Arlindo Oliveira teve a sensação de estar a viajar no tempo. Depois de passar por China, Coreia do Sul e Japão, o presidente do INESC e professor distinto do Instituto Superior Técnico escreveu que voltar a Lisboa foi como “regressar do futuro”. Uma imagem que resume a distância que vê entre a velocidade de adoção tecnológica no continente asiático e o ritmo europeu.

Em entrevista ao Podcast .IA, que todos os meses analisa como a inteligência artificial está a transformar setores-chave da economia, o professor catedrático traça um diagnóstico crítico sobre a posição da Europa nesta corrida tecnológica. Reconhece que a preocupação europeia com direitos, regulação e riscos tem fundamento, mas alerta que a fragmentação do mercado, a falta de capital e o excesso de burocracia dificultam a criação de empresas capazes de competir com os EUA e a China.

A conversa passa também pelos impactos sociais da IA, da “atrofia cognitiva” no ensino ao avanço dos agentes autónomos; pelos riscos de cibersegurança associados aos novos modelos de acesso restrito, como o Claude Mythos; e pelo atraso na disponibilização pública do modelo Amália, do qual é presidente do Comité de Acompanhamento.

Para Arlindo Oliveira, a IA já é vista por algumas potências como uma infraestrutura estruturante da economia do futuro. A Europa terá de decidir se quer apenas regular essa transformação ou também disputá-la.

As pessoas estão todas a usar modelos – em particular coisas como o Claude ou o Codex – para auxiliar a sua atividade, e estão de facto a ter aumentos significativos de produtividade. Eu não sei é se estão a ter perdas significativas de capacidades cognitivas que podem vir a ser úteis no futuro.

Visitou China, Coreia do Sul e Japão este ano, e descreveu na sua coluna no Público que voltar a Lisboa foi como “regressar do futuro”. O que é que mais o impressionou nessa viagem?

Referia-me, essencialmente, à ambição destas economias asiáticas de desenvolverem tecnologia. Tanto na área dos transportes, onde o Japão e a própria China são muito importantes — o tipo de transporte público que está disponível no Japão ou na China não tem paralelo, nem mesmo nos melhores países europeus, e seguramente não nos EUA –, e depois há também investimentos muito grandes nas novas tecnologias. Aí referia-me mais explicitamente à China, e em particular a Shenzhen, que tem sido um demonstrador de novas tecnologias, e onde existem muitos veículos autónomos, muita utilização de drones, muitos robôs, grandes feiras de robótica, muitas demonstrações de novas tecnologias.

Obviamente toda a China está completamente dependente de aplicações. Os ecossistemas de aplicações que correm nos telemóveis são muito mais sofisticados e complexos do que os europeus e do que os americanos. Portanto, há de facto ali uma sensação de que a Ásia está a avançar muito rapidamente, quer em desenvolvimento de tecnologias — se calhar, aí, até a par com os Estados Unidos, por exemplo, na área da IA –, mas especialmente na adoção das tecnologias. E a estratégia chinesa, que aliás foi tornada clara em março num documento emitido pelo Partido Comunista, foi que o Governo chinês vê a IA como uma infraestrutura fundamental e estruturante para a sociedade e a economia do futuro.

Também argumenta nesse artigo que a visão de futuro que encontrou no continente asiático não tem paralelo nas estratégias definidas pela União Europeia. É um problema cultural? É falta de ambição? Qual é o seu diagnóstico?

Há questões culturais. Em primeiro lugar, há uma sensação já antiga, especialmente na China agora, de que o futuro vai ser bastante melhor que o passado. Há a sensação de que há progresso — há progresso económico, há progresso social. Isto pode ser real ou pode ser fabricado, mas existe de facto esta sensação. E é uma sensação generalizada.

Na Europa e nos EUA não existe essa sensação. Quando olhamos para as notícias, não se vê essa sensação de que o futuro vai ser muito melhor que o passado. Pelo contrário, as pessoas tendem até a ter uma visão mais escura do futuro da Europa, do futuro dos EUA.

E há algumas razões para isso. O crescimento económico, obviamente, tem sido muito maior na Ásia do que aqui, exceto no Japão. Mas também há questões culturais: no caso da Europa, há uma preocupação muito grande com os riscos; há uma grande preocupação regulatória, em particular com os riscos da tecnologia.

Acha que podemos chegar a esses níveis de desenvolvimento e com essa rapidez sem colocar em causa os direitos humanos e os valores europeus?

Esse artigo não é de forma alguma uma apologia do sistema político chinês, e muito menos do estatuto dos direitos humanos na China. Não é isso que está em causa e não deve ser visto dessa maneira. Agora, de facto, a Europa tem manifestado uma grande preocupação com os riscos das tecnologias. E a meu ver com razão em diversos aspetos.

Continuo a achar que a Europa continua a ter um melhor balanço entre qualidade de vida e crescimento, mas a verdade é que o crescimento económico da Europa tem sido muito menor do que o dos EUA ao longo das últimas décadas e também, obviamente, muito menor que o da China, que está a partir de um ponto muito mais baixo.

O interessante aqui seria conciliar a qualidade de vida e o respeito pelos direitos humanos que temos na Europa com um crescimento económico. Mas a verdade é que nós temos caído em termos de poder de compra, em termos de capacidade e de qualidade de vida, relativamente aos EUA. Agora, há coisas na Europa que são muito melhores que nos EUA: o apoio à saúde, à educação, tudo isso.

A Comissão Europeia propôs o pacote Omnibus Digital, com alguma simplificação da regulamentação. Os colegisladores, Parlamento Europeu e Conselho da União Europeia, até chegaram recentemente a acordo, que foi difícil, para alterar o AI Act.

Descobri há pouco tempo que há dez pacotes Omnibus. Eu só tinha ouvido falar do Omnibus Digital, mas descobri que há dez. Há a ideia de que é capaz de haver muita red tape, muita burocracia.

Mas na IA, acha que este ímpeto é o caminho certo, o de tentar simplificar?

Acho que simplificar é sempre uma boa ideia. Uma pergunta um bocadinho diferente é se é o Regulamento da Inteligência Artificial que está a impedir que exista inovação e crescimento económico na Europa, ou se é o Regulamento Geral da Proteção de Dados que impede. Essa é uma pergunta um bocadinho mais complexa. Acho que não é seguramente só o RGPD e o Regulamento de Inteligência Artificial que estão. Talvez sejam uma parte do desafio, do problema, mas não é só isso.

Há fragmentação do mercado, há falta de capital para investimento… Grande parte das poupanças dos europeus está a ser investida nas bolsas norte-americanas. Uma empresa em Silicon Valley facilmente arranja dez milhões de dólares para arrancar e aqui na Europa é muito mais difícil.

Depois há outras questões: há fragmentação legislativa, há fragmentação no enquadramento legal e estrutural dos países e, portanto, o mercado europeu não é, apesar de tudo, tão integrado como o dos Estados Unidos e não é, seguramente, tão integrado como o da China. E a China tem uma enorme vantagem pela dimensão do seu mercado.

Qual é a leitura que faz ao dia de hoje do impacto que a IA está a ter na nossa sociedade e na nossa economia? O que é que vai constar dos livros de História sobre este período em que vivemos?

De um ponto de vista muito técnico, acho que há três tendências muito interessantes. Uma é a engenharia do contexto. As empresas estão cada vez a perceber melhor que, ao darem mais contexto a estes modelos, que também são cada vez mais poderosos, os modelos comportam-se melhor e têm aplicações mais eficazes e com menos riscos. Depois, há a questão do raciocínio, de estes modelos conseguirem raciocinar de forma cada vez mais completa. E depois, a última coqueluche, que é a questão dos agentes.

A questão dos agentes, curiosamente, não é nova — há dezenas de anos que se endereça a questão dos agentes. Esta ideia de criar sistemas de IA que têm agência e que têm memória, capacidade de raciocínio e são capazes de agir sobre o mundo — têm a sua agência para executar ações, enviar emails, ir a websites e se calhar, no futuro, agirem sobre o mundo físico.

A questão dos agentes está ao rubro: todas as conferências técnicas e de business estão a falar na questão dos agentes. E realmente abrem, pelo menos em princípio, um potencial enorme de uma maior capacidade destes sistemas para criar valor económico, abrindo também alguns riscos do ponto de vista de segurança que têm sido muito endereçados e muito estudados.

A questão dos agentes está ao rubro: todas as conferências técnicas e de business estão a falar na questão dos agentes.

Mas eu gostava de conhecer a sua visão não técnica, de quando observa a nossa sociedade e a nossa economia. A sua avaliação social.

Eu estou preocupado, de facto, com o impacto no ensino e na maneira como aprendemos e como os estudantes aprendem. E estou em particular preocupado que se comecem a perder determinadas competências — a chamada atrofia cognitiva — à medida que delegamos nestes modelos cada vez mais coisas. Há uma expressão mais radical: cognitive surrender, portanto, a rendição cognitiva (não vale a pena saber nada, que os modelos sabem tudo).

Eu, como professor de Engenharia Informática, estou particularmente preocupado se continuamos a ensinar as coisas que os alunos precisam, se os alunos continuam a aprender a programar e desenvolver sistemas de informação e engenharia de software, ou se, pelo contrário, estão a delegar muito nestes modelos.

Por exemplo, a profissão de programador, a área do código, sofreu um impacto enorme nos últimos seis meses a um ano. As pessoas estão todas a usar modelos – em particular coisas como o Claude ou o Codex – para auxiliar a sua atividade, e estão de facto a ter aumentos significativos de produtividade. Eu não sei é se estão a ter perdas significativas de capacidades cognitivas que podem vir a ser úteis no futuro. E essa é uma pergunta para a qual eu não tenho resposta. O nosso departamento tem debatido isso um bocadinho e também acho que não temos resposta.

Empresas privadas como a Anthropic e a OpenAI decidem hoje que países é que acedem à tecnologia de ponta. Refiro-me aos modelos de acesso restrito. Isto é aceitável numa democracia?

Bom, eles têm interesse em vender os últimos modelos, não é? Acho que há uma coisa que joga a nosso favor: mesmo os modelos que não são os de ponta já são muito bons, só estão seis meses atrasados. Até os modelos abertos que a China liberta — os Deep Seek e os Qwen –, estão seis a nove meses atrasados, portanto, não é um atraso assim muito grande.

É verdade que as coisas estão a evoluir rapidamente. Podemos dizer que seis a nove meses é muito tempo. Mas, do ponto de vista de implementar processos e de alterar a economia, não é muito tempo. Aí, beneficiamos um bocadinho do facto de que a coisa está a mudar tão rapidamente que o nosso atraso em termos de modelos de segunda linha acaba por ser relativamente pequeno.

Agora, há casos como o Mythos. Temos de distinguir o marketing da realidade, mas o Mythos é muito bom na análise de falhas de segurança. Consta também um boato aí nos círculos [da IA] de que usa uma nova arquitetura, uma arquitetura ligeiramente diferente dos anteriores. E pode colocar problemas de segurança. Mas há aqui um bocadinho de marketing, com certeza, da Anthropic, em dizer que o Mythos também é muito melhor do que o anterior. Há evidência que o modelo é de facto eficaz de detetar falhas. Mas é a tal coisa: hoje é o Mythos, mas amanhã é o GPT-5.5 e depois a seguir vai ser outro.

Tendo em conta que estes modelos conseguem executar ciberataques complexos de forma autónoma, é sequer possível estarmos preparados para a realidade que aí vem?

Por enquanto, do que eu sei, o Mythos e os outros ainda não fazem ataques de forma autónoma. Podem ser instrumentados por seres humanos para isso. Claro que se um modelo destes for integrado num sistema agêntico que tenha esse fim, depois vai ser. Portanto, realmente, não há uma grande diferença entre usar um modelo ou integrar um modelo numa plataforma.

Eu acho que vai [ser possível estar preparado]. Por exemplo, podemos usar os modelos para encontrar problemas de segurança antes de eles serem conhecidos publicamente ou, pelo menos, aproveitados. E, em segundo lugar, os modelos também podem ser usados do lado da defesa. Talvez, no fim, isto não se desequilibre muito. Mas, de facto, vai haver aqui a possibilidade de identificar rapidamente algumas falhas de segurança.

Já há tantas maneiras, tantas vias e tantos vetores de ataque que não me parece que seja por haver um modelo particularmente bom nisto que vamos ver uma grande alteração. Todos nós recebemos phishing todos os dias, links e mensagens, e daqui a pouco vamos começar a receber telefonemas [com deep fakes]. Portanto, não é a minha maior preocupação. Mas reconheço que é um risco poder vir a haver um aumento significativo de ataques informáticos.

Referiu que de seis em seis meses sai um novo modelo, com novas capacidades. Este modelo foi anunciado pelo primeiro-ministro há ano e meio e continua sem ser disponibilizado ao público. Preside o Comité de Acompanhamento do Amália, um organismo independente que supervisiona o que está a ser feito. Quando o Amália for disponibilizado, poderá já estar obsoleto?

“Supervisiona” talvez seja um bocadinho injusto para o Comité, que não tem meios de atuar como tal, mas acompanha e aconselha o Governo nesse aspeto.

Enfim, qualquer modelo ao fim de ano e meio já está mais ou menos obsoleto, mas as razões que levaram ao Amália acho que se continuam a justificar: criámos know-how nessa área, retivemos recursos humanos nessa área, criámos um modelo sobre o qual temos total controlo relativamente aos dados em que foi testado e à maneira de testar…

Acho que podíamos e devíamos tê-lo usado de forma mais rápida, porque ele está pronto. Existem várias soluções prontas que poderiam ser usadas em diversas aplicações. Tem havido, a meu ver, alguma preocupação, algum conservadorismo do lado do Governo, em garantir que não há problemas éticos, legais. As análises que foram feitas mostram que há diversos potenciais problemas de determinado tipo, por exemplo, disponibilizar um modelo através de uma interface de chat ou coisa assim.

Nós temos recomendado, em particular, que se tente avançar da maneira mais rápida possível, dentro das restrições legais, na integração do modelo em determinadas aplicações, em particular na AMA e, eventualmente, aplicações de tutoria para alunos. Nós temos feito esta recomendação, mas aqui, quando é o Estado português, as coisas costumam andar mais devagarinho. Temos a sensação que o Estado aqui está a andar relativamente devagarinho.

Que questões legais?

Há todas as questões de proteção de dados, questões de riscos legais, questões de responsabilidades legais… Há dezenas e dezenas de preocupações que estão relacionadas com a libertação do modelo.

Alguma delas está relacionada com os dados que foram usados para o treino desse modelo?

Algumas têm a ver com os dados, exatamente. Agora, o papel dos juristas é levantar as preocupações. O papel dos decisores é analisar as preocupações e ver o que é que pode ser feito, o que é que não pode ser feito, o que é que pode ser suportado, os riscos que podem ser suportados, os riscos que não podem ser suportados.

Deste ponto de vista — e estou-me a atravessar aqui um bocadinho –, acho que talvez pudéssemos avançar um bocadinho mais rápido, porque, de facto, se passarem dois anos e meio ou três, o modelo original vai deixar… Claro que o modelo pode ser atualizado, mas são questões que estão a ser endereçadas.

A recomendação que nós fizemos foi que essas recomendações fossem endereçadas o mais depressa possível e fossem definidos os riscos que é razoável aceitar e que avançassem com as aplicações e os casos de uso em particular que se consideram os menos arriscados e mais relevantes. Não posso agora entrar em detalhes relativamente aos casos de uso e às recomendações, mas de facto temos estado em interação com o Governo sobre isso.