Centro Internet Segura já recebe pedidos de apoio sobre pornografia de menores criada com IA

O Centro Internet Segura (CIS) admite a chegada de pedidos de ajuda relacionados com imagens sexuais de menores geradas com inteligência artificial (IA), numa altura em que é mais fácil aliciar menores para obter conteúdo sexual ilegal.

À Lusa, o CIS salienta que a produção ilegal de conteúdo sexual de menores com IA provém de “pares ou colegas de escola, e são partilhadas através de grupos de WhatsApp e por vezes publicadas em stories do Instagram”.

O CIS refere que este tipo de conteúdo tem sido amplificado pela IA que possibilita criar, rapidamente, sites inteiros com diferentes tipos de conteúdo.

“Atualmente, qualquer imagem ou vídeo pode ser gerado de forma rápida, gratuita e acessível a qualquer pessoa, e em qualquer lugar. Estes conteúdos podem, ou não, ser realistas, e podem, ou não, incluir áudio”, menciona o centro.

O CIS é coordenado pelo Centro Nacional de Cibersegurança (CNCS) e resulta de um Consórcio que envolve a DGE – Direção-Geral da Educação, o IPDJ – Instituto Português do Desporto e Juventude, a Fundação para a Ciência e a Tecnologia (FCT), a APAV e a Microsoft Portugal.

Recentemente, um relatório da Internet Watch Foudation (IWF) revelou que o abuso sexual infantil gerado com IA aumentou 400% no primeiro semestre do ano, tendo sido detetadas 210 páginas online com este tipo de conteúdo.

Neste sentido, o CIS afirma que “não existe, pelo menos para o grande público, uma tecnologia capaz de identificar, de forma eficaz, se um conteúdo foi gerado artificialmente no momento. Tal como aconteceu com outras tecnologias ao longo da história, ferramentas criadas com determinados fins, são rapidamente usadas para fins maliciosos, tais como gerar imagens difamatórias ou íntimas”.

O CIS explica que a partir do momento em que imagens de jovens estão disponíveis online, qualquer pessoa pode utilizá-las para gerar material sexual artificial, manipulando digitalmente a imagem, “tornando-se mais fácil criar identidades falsas para abordar crianças e jovens, facilitando processos de aliciamento ou obtenção de conteúdo sexual ilegal”.

Além disso, “já existem inúmeras plataformas cujo único objetivo é criar imagens íntimas de mulheres, uma realidade que rapidamente se estendeu ao conteúdo sexual de menores”.

Na semana passada, o Facebook encerrou um grupo italiano com quase 32.000 utilizadores no qual eram partilhadas e comentadas fotos de mulheres em momentos de intimidade, presumivelmente sem a sua permissão, após várias denúncias recebidas.

Nesta matéria, os perigos passam pela exposição de menores, manipulação de imagens, risco de aliciamento, chantagem e danos psicológicos, bem como a circulação rápida e difícil de controlar dos vários tipos de conteúdos.

As denúncias que chegam ao CIS têm origem na Linha Internet Segura (LIS), operacionalizada pela Associação Portuguesa de Apoio à Vítima (APAV), que “integra um serviço de denúncia de conteúdos ilegais online“.

Atualmente, qualquer imagem ou vídeo pode ser gerado de forma rápida, gratuita e acessível a qualquer pessoa, e em qualquer lugar.

Reduzir exposição online de menores mitiga (mas não elimina) o problema

O CIS reporta também ser muito difícil prevenir a exposição a vídeos maliciosos criados por inteligência artificial (IA), porque existem várias pessoas a recolher e a publicar imagens.

À Lusa, o CIS alerta para a partilha de vídeos maliciosos gerados com IA, sublinhado que “a responsabilidade recai, sempre, sobre quem produz e distribui este tipo de conteúdo”.

No entanto, o centro salienta que existem estratégias que podem ser aplicadas por todas as pessoas, de forma a reduzir riscos e mitigar o impacto deste tipo de violência.

“O acompanhamento das crianças no mundo digital é fundamental. Deve haver atenção às imagens que são captadas e partilhadas nas diferentes plataformas, bem como cuidado com os equipamentos a que se dá acesso a crianças, considerando a sua idade e literacia digital”, explica o CIS.

Além disso, o acesso a dispositivos por parte de crianças deve ser acompanhado e monitorizado, com o CIS a alertar que a maioria das redes sociais só permite a sua utilização a partir dos 13 anos, contando com a aplicação de mecanismos de segurança previstos para os utilizadores menores.

Neste sentido, é fulcral “incentivar os jovens a manterem perfis privados e controlar quem pode ver o que publicam, rever regularmente as definições de privacidade nas plataformas utilizadas e orientar sobre a importância de limitar a visibilidade de fotos ou informações pessoais”.

“A monitorização de links, anexos e downloads de origem desconhecida, alertar sobre pedidos estranhos, como o envio de fotos íntimas, pedidos de dinheiro ou informações pessoais, ou tentativas de migração para outras plataformas”, são também aspetos aos quais se deve estar atento, refere.

Acrescenta que, de forma a promover um comportamento consciente online é necessário refletir antes de publicar qualquer tipo de conteúdo, incentivar pausas e um equilíbrio saudável entre o tempo ‘online’ e ‘offline’, avaliar sempre o objetivo de uma publicação ou comentário, bem como evitar grupos com conteúdos estranhos, agressivos ou que promovam ódio.

“Estas medidas não eliminam totalmente o risco, mas ajudam a reduzir a exposição e fortalecem a proteção de crianças e jovens no ambiente digital”, salienta o CIS.

O centro alerta ainda que muitos jovens entram em contacto, involuntariamente, com conteúdo sexual envolvendo menores, real ou gerado artificialmente, pelo que esta exposição constitui também uma forma de violência que deve ser tratada com seriedade.

“É essencial garantir apoio às vítimas e educar sobre a forma de reagir quando se deparam com estes conteúdos”, reforçou o CIS.