Três conceitos para alcançar uma Inteligência Artificial ética

“Do que a inteligência artificial (IA) precisa agora, mais do que qualquer outra coisa, é de uma injeção de humildade”. É assim que o informático Michael Wooldridge responde ao conjunto de gurus e futuristas que insistem em designar esta tecnologia como “A Grande Ameaça” ou “A Grande Esperança da Humanidade”. Efetivamente não sabemos se alguma vez conseguiremos ter uma inteligência artificial “forte” ou “geral”, autoconsciente e com formas complexas de pensar iguais ou superiores às humanas. O que temos hoje em dia é uma inteligência artificial ‘fraca’, que apresenta grandes desafios e um enorme potencial para ajudar a melhorar a nossa economia e a sociedade. Uma boa utilização desta tecnologia requer uma reflexão ética e um debate democrático sobre os seus propósitos, usos e contextos.

Esta reflexão sobre o papel da inteligência artificial para o bem comum leva-nos a questionar aquele que a tecnologia deve desempenhar no nosso futuro e, paralelamente, o futuro que queremos construir com ela. Esta discussão é o pilar do Humanismo Digital que estuda as relações complexas entre os indivíduos e a tecnologia na era digital. Existem três conceitos que nos podem ajudar a estruturar esta reflexão:

O primeiro é o conceito de Igualdade. Talvez devido à proeminência da investigação centrada nos EUA, as objeções aos sistemas de IA têm dado grande ênfase à não-discriminação, à correção de preconceitos com base na etnia, ao local de origem ou ao género. A discriminação nos sistemas de IA foi posta em causa após o caso do sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilizado pelo Departamento de Justiça dos EUA, para determinar o risco de reincidência dos prisioneiros. Devido a um enviesamento no algoritmo (que mais tarde seria reforçado pelos juízes que interpretavam as recomendações do sistema), o COMPAS sugeriu que os cidadãos negros apresentavam maior risco de reincidência do que os seus concidadãos brancos. Desde então, têm vindo a acumular-se casos de sistemas discriminatórios causados pela parcialidade dos programadores ou dados tendenciosos que ‘treinam’ os algoritmos.

Os esforços para combater o preconceito na IA são louváveis e necessários, mas a justiça algorítmica deve ir mais longe. Uma vez que a origem ou o género não são as únicas fontes de discriminação e exclusão, a justiça algorítmica pode e deve também combater a discriminação e exclusão causadas pela desigualdade e pobreza e tornar-se um instrumento de equidade e justiça social.

O segundo conceito deriva do anterior: Dignidade, que deve ser entendida como o oposto de desigualdade, exclusão, discriminação e violência e é um dos pilares do nosso modelo de convivência, que não pode ser desconsiderado numa IA ética. Só assim se respeita a integridade de cada pessoa. A dignidade da pessoa humana é o fundamento da existência da sociedade e tem que ser um valor prioritário quando se pena numa IA ética.

O terceiro conceito é o de Responsabilidade, que deriva da autonomia e sem a qual não existe “consciência” moral. Só se tivéssemos IA “forte”, com sistemas autoconscientes e autónomos, poderíamos falar da verdadeira responsabilidade dos sistemas de inteligência artificial. Hoje, estamos ainda muito longe deste cenário (se é que alguma vez se venha a verificar): as decisões tomadas pelos sistemas de IA podem ter consequências e implicações morais, mas são decisões orientadas ou programadas e não o resultado de um julgamento autónomo, ou seja, de uma “consciência” moral plena. Daí a importância de delimitar as responsabilidades dos atuais sistemas de IA, sendo este um dos principais pontos em discussão na futura legislação europeia sobre esta matéria.

Igualdade, Dignidade e Responsabilidade: três conceitos que podem ajudar a refletir sobre a inteligência artificial que queremos. Os sistemas de inteligência artificial (ou, melhor, alguns dos apologistas da inteligência artificial) podem precisar, como Wooldridge assinalou, de uma injeção de humildade, mas do que todos nós certamente precisamos é de uma injeção de ética.