A artificialização da inteligência: progresso ou retrocesso?

Vivemos na era da tecnologia. Dentro das ditas “tecnologias” encontra-se a inteligência artificial. Esta última será um “bicho papão” ou um facilitador?

Começo o artigo com esta pergunta, que de inocente tem pouco, aproveitando para adiantar que hoje não quero centrar o texto no ponto de vista da sua regulação, área que me estou a especializar, mas sim do ponto de vista do seu uso prático.

Spoiler alert, também não vou ousar pronunciar-me sobre a vertente mais técnica. Deixo isso para os programadores e seus aliados: matemáticos, neurocientistas, engenheiros de robótica e software, data scientists entre outros. Sim, porque para quem não sabe, a dita IA “generativa” funciona através de modelos de linguagem ou language models, isto é, funciona com base em probabilidades e estatística (probabilidade de a junção da palavra x com a palavra y dar a frase z, de modo simples).

A dita IA é treinada pelo humano. Treino esse que consiste na apropriação de dados, dados esses que criam o algoritmo. De forma resumida é isto. Agora, os humanos às vezes alucinam, a IA também.

Por falar em alucinações, faço já a transição para a área da saúde mental. Atualmente, existem chatbots que tentam substituir o psicólogo clínico da dita “consulta tradicional”.

O beneficiário recorre a tais plataformas que, de forma treinada e com base na data a que tiveram acesso, interagem com o próprio. É o caso da plataforma EleutherAI e do famoso chatbot Eliza, uma “psicóloga” que ao fim de algumas sessões terá aconselhado/incitado o seu paciente a suicidar-se, o que sucedeu. Foi na Bélgica, não muito longe daqui.

Fala-se também que a IA pode promover a igualdade e combater a discriminação, seja ela em função da raça, etnia, orientação sexual, condição socioeconómica etc.

Algumas empresas já começam a recorrer a sistemas de IA para fazer uma pré-seleção de candidaturas. É o caso do robô Tengai, desenvolvido pela start-up sueca de tecnologia Furhat Robotics, que avalia o candidato e as suas características, dando um parecer inicial sobre a sua aptidão para o cargo. O objetivo seria uma avaliação objetiva do candidato, ausente de preconceitos, promovendo, assim, a dita igualdade e transparência no acesso ao mercado de trabalho.

Sucede que tal robô é treinado pelo ser humano…

A gigante Amazon, que dispensa apresentações, também testou um programa de recrutamento semelhante na análise de CV’s. Contudo, parece que o algoritmo não gostava muito de mulheres na sua seleção, o que resultou na sua abolição pela empresa. Estaremos perante um retrocesso tecnológico?

Por último, não podia deixar de falar no chatbot da companhia aérea Air Canada. O passageiro Jake Moffatt, de luto pela morte da avó, resolveu consultar o site da companhia para perceber como funcionavam as tarifas para clientes que viajavam de luto, tendo sido essa resposta dada pelo chatbot.

Acontece que o robô lhe terá prestado informações erradas, o que causou prejuízos patrimoniais ao cliente, que processou a companhia. Esta última foi obrigada a reembolsá-lo, tendo abolido posteriormente essa ferramenta de IA. Retrocesso tecnológico?

Estes são apenas alguns casos de alucinações, discriminações e erros das ferramentas de inteligência artificial, cada uma causadora de um maior ou menor dano. Ferramentas essas que são treinadas, desenvolvidas e implementadas por humanos.

Será esta inteligência assim tão artificial?