O ChatGPT não é o Google

Depois do entusiasmo acrítico em torno do “metaverso”, é com agrado que vejo a opinião pública abraçar a “inteligência artificial”, uma tecnologia verdadeiramente transformadora. É bom que se fale dos riscos e benefícios de ferramentas como o ChatGPT, um programa que ultrapassou os 100 milhões de utilizadores dois meses após o lançamento.

Se for bem utilizado, o ChatGPT pode já hoje ajudar profissionais e particulares em tarefas mais ou menos básicas. Mas preocupa-me que esteja a ser mais usado para um fim para o qual não foi concebido: servir como um motor de busca em esteroides.

Nesta fase, programas como o ChatGPT são úteis para nos darem ideias ou sugestões e há que os usar com relativa moderação. Mas em ocasião alguma devemos tomar o que diz como verdade absoluta. O programa inventa coisas e repete-as com convicção. Seja que o ECO, um jornal digital, publica desde 1990, ou que existe em Portugal uma Ordem dos Jornalistas.

Mesmo sabendo destas “alucinações”, a popularidade deste modelo de linguagem natural elevou o interesse nesta área a um nível sem precedentes. Esta semana, a Google decidiu lançar uma série de novidades para tentar convencer os mercados de que não vai perder o comboio, incluindo um programa do mesmo género do ChatGPT, ao qual decidiu chamar Bard.

Temo que possamos estar a cair no erro de disparar primeiro e perguntar depois. Basta lembrar o velho mote do Facebook (move fast, break things), ou mesmo o da Google (don’t be evil). É justo reconhecer que as grandes tecnológicas foram responsáveis por muita inovação nas últimas décadas, que mudaram o mundo e as nossas vidas. Mas não é possível esquecer todos os problemas que também nos têm causado.

Esta quarta-feira ocorreu um daqueles momentos em que a realidade supera a ficção. A Google tem estado a promover os benefícios de associar o Bard ao motor de busca mais usado em todo o planeta. Foi então que a Reuters reparou numa dessas campanhas promocionais que uma das respostas dadas pelo Bard durante a demonstração era uma plena falsidade. O passo em falso custou à Alphabet 100 mil milhões de dólares em valor de mercado na bolsa.

Ninguém na empresa parece ter questionado se a resposta que o algoritmo estava a dar era, no mínimo, verdadeira. E isso ilustra bem os riscos a que passámos a estar sujeitos, assim como quão importante é não levar estes programas totalmente a sério.