“Algor-ethic”? Palavra do padre (geek) Benanti. A ética e da moral na era do algoritmo

Engenheiro. Professor de ética e bioética. Padre franciscano. A combinação improvável no currículo de Paolo Benanti trouxe-o a Lisboa, para participar no evento Building The Future – Ativar Portugal. O sacerdote é professor na Pontifícia Universidade Gregoriana, em Roma, e tem refletido sobre as questões éticas e morais na era tecnológica e do algoritmo, tendo ficado conhecido pela criação do conceito “algor-ethic”.

O percurso do sacerdote italiano começou na engenharia, mas cruzou-se com a fé, levando-o mais tarde a concluir, em 2014, o doutoramento em Ética e Tecnologia, na Universidade de Georgetown, nos EUA. Hoje, é no seu blog e na conta pessoal do Twitter que partilha os resultados das suas investigações nas áreas de tecnoética e inteligência artificial, neuroética e pós-humana.

Em entrevista à Pessoas, o padre Paolo Benanti explica em que ponto se cruzam a tecnologia e a moral, desde as questões éticas à tecnologia blockchain, e qual a sua importância num futuro tecnológico.

Como é que um padre se torna um especialista em tecnologia?

Tudo tem uma história, e a minha é simples. Venho da área da engenharia, por isso tenho um background técnico. No último semestre da minha licenciatura, percebi que não era o que eu procurava e mudei para outra forma de vida. Depois, durante a formação e depois de me tornar franciscano, fiz o meu doutoramento em Ética e Tecnologia, na Universidade de Georgetown. Nessa altura, em 2009 ou 2010, trabalhar em IA [inteligência artificial] era visto como algo muito estranho e, agora, é o tópico dominante.

Como é que a tecnologia pode ajudar-nos a tornar o mundo mais democrático?

A tecnologia sempre existiu com o ser humano, porque somos mais do que a nossa constituição biológica. O primeiro olhar sob a tecnologia é um olhar muito positivo. Esta época da tecnologia — a era digital e da inteligência artificial — não podem substituir as decisões humanas. Podem, por exemplo, fazer com que alguns processos de decisão cheguem onde antes não estavam presentes. Por exemplo, muitas pessoas, na Ásia, sofrem de problemas de visão ligados à diabetes mas agora, com um smartphone e sem um oftalmologista, é possível fazer diagnóstico numa fase inicial. Esta é uma forma de democratização, na medida em que estamos a construir ferramentas que nos permitem ajudar mais pessoas em todo o mundo. Mas as mesmas ferramentas podem tornar-se uma arma, e uma forma fácil de discriminação.

Tweet from @paolobenanti

Se nos lembrarmos que a luta mais sangrenta que tivemos no último século serviu para mostrar que todos os homens são criados de igual forma, têm a mesma dignidade e não dependem de fatores externos como a cor da pele ou crenças pessoais, esta história é perigosa. Enquanto seres humanos, estamos mais uma vez a confrontar-nos com o facto de que aquilo que produzimos, pode ser uma ferramenta ou uma arma.

A tecnologia pode ajudar-nos a comunicar, mas pode tornar-nos mais individualistas e, potencialmente, mais egoístas?

Agora é possível pensar numa vida sozinho. Antes, a família era a educação, a farmácia e outros serviços, e hoje temos o Estado e o mercado que estão a substituir esses serviços. Com o digital, podemos também substituir muitos outros serviços, e não podemos pensar em simplesmente modificar a relação humana para uma relação digital, que ligamos ou desligamos quando queremos.

Pode o digital substituir todos os seres humanos? Experimente explicar a alguém o maravilhoso cheiro de limão através da internet. É simplesmente impossível. Há características da experiência que não podem ser substituídas, e por isso, continuamos a precisar da relação humana.

Experimente explicar a alguém o maravilhoso cheiro de limão através da internet. É simplesmente impossível. Há características da experiência que não podem ser substituídas, e por isso, continuamos a precisar da relação humana.

Que papel ocupa a ética na tecnologia?

A questão radical e profunda, que tem de estar presente em todos os momentos, é a seguinte: trata-se de uma ferramenta ou de uma arma? Está a ser utilizada para ajudar a construir um mundo melhor ou para um interesse pessoal?

Há alguma forma de garantirmos que a tecnologia pode ajudar-nos a sermos mais conscientes do mundo que nos rodeia?

O sonho de não precisarmos uma atenção ética constante, costumávamos chamá-lo de “utopia” e desejámos esse lugar utópico, sobretudo no último século, e chamamos-lhe nazismo, fascismo. A minha opinião é de que não é possível dispensar a questão ética. É urgente deixar que as pessoas estejam conscientes da questão ética. O papel da ética não é um papel normativo, não temos de dar regras. Mas temos de perguntar a nós próprios, e aos outros, o que estamos a fazer, e porquê. Esse é o primeiro compromisso ético que devemos ter.

Há outros compromissos éticos?

O segundo compromisso é o de que a voz ética, sozinha, não é suficiente. Porque é uma voz, pode ir ao fundo do teu coração, mover as coisas mais profundas dentro de ti, mas é uma voz. Precisamos daqueles que transformam a sociedade para ter leis e políticas que a tornem efetiva, por isso não é suficiente dizer que esta é a direção. É necessário construir a estrada, para fazer com que essa direção seja alcançável. É o mesmo que precisamos com a ética.

Qual os seus conselhos éticos para a era de aceleração?

A aceleração é a grande novidade, porque sempre usámos a tecnologia para transformar o sítio onde estamos, mas agora é mais rápido e só pode ter uma direção. Desta vez, temos de enfrentar uma transformação social mais profunda que provavelmente a cultura não tem tempo para absorver.

Qual o papel da tecnologia blockchain no mundo atual?

O blockchain é uma tecnologia interessante. O problema é a ligação entre o mundo físico e o digital. Como é que se pode garantir que o digital tem uma correspondência real, com o bem físico? Esta é uma das limitações do desenvolvimento do blockchain. O que é interessante é que o blockchain está a substituir a confiança.

A primeira moeda de que temos conhecimento remonta há 80 mil anos, provavelmente a Mesopotâmia. E devemos questionar-nos sobre o que convenceu o agricultor a trocar o seu balde de arroz por um pedaço de metal: foi o facto de, naquele metal, estar a cara do rei, por isso ambos acreditaram que o rei dava confiança àquela transação. Agora, supondo que deixamos de precisar de um poder político que garante confiança, é uma grande transformação na sociedade. Se reparar ainda no desafio que a democracia está a enfrentar na nova era da confiança, talvez possamos ver uma transformação que tem de ser questionada de forma muito mais profunda do que outras.

"E o mundo digital está a dividir-nos em tribos, caracterizadas por outras coisas que não são o sítio onde nascemos mas a forma o algoritmo está a agrupar-nos. ”

Como é que poderá começar essa transformação social?

Já começou, se olharmos para as redes sociais, para a nossa vida sempre ligada e se olharmos para a transformação do trabalho. Não há estrutura educacional que permita às crianças estarem preparadas para isso. Esse é o grande perigo. Estamos a mudar coisas sem preparar as nossas crianças, e isso poderá produzir uma situação verdadeiramente perigosa na qual as pessoas vão deixar de acreditar nas instituições tradicionais como a democracia, ou como a família. Poderá tornar-se uma era muito instável, e isso poderá ser politicamente desafiante.

Tweet from @PTMicrosoft

José Tolentino de Mendonça, cardeal português, refere-se a “radicalização do individualismo”, e “emergência de grupos com o “seu próprio código de ética”, como possíveis consequências da evolução tecnológica. O que pensa destas afirmações?

O ser humano precisa de alguém igual a si. No último século, chamámos-lhe “nação”. Numa altura em que esta identidade está a diminuir, é tempo para um novo tipo de identidade, uma identidade tribal. E o mundo digital está a dividir-nos em tribos, caracterizadas por outras coisas que não são o sítio onde nascemos mas a forma o algoritmo está a agrupar-nos. O novo produtor de grupos foi feito por um algoritmo e será interessante ver o que acontece, porque estes algoritmos são verdadeiramente eficazes.

Como vê o futuro?

Estão a surgir coisas boas, como este conceito de algor-ethics, ou seja, a ideia de que devemos trazer os valores éticos para a matemática, para que uma máquina possa computorizar-nos.