IA de Musk limita função que estava a ser usada para “despir” mulheres e crianças

A rede social X do multimilionário Elon Musk limitou o uso da ferramenta de inteligência artificial (IA) Grok para editar imagens aos utilizadores pagantes, após várias denúncias sobre a criação de imagens sexualizadas sem consentimento.

“Qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as consequências”, escreveu Elon Musk no X. O Grok é uma ferramenta gratuita que permitia aos utilizadores carregar e editar fotos, atendendo a pedidos de utilizadores para editar imagens de pessoas e mostrá-las sem roupa, o que desencadeou uma forte onda de denúncias e reclamações.

Segundo a agência espanhola EFE, a partir desta sexta-feira, o Grok informa os utilizadores que pedem para modificar as imagens enviadas para o X que a “geração e edição de imagens são limitadas aos assinantes pagos” e que somente com o pagamento é possível aceder as funções de edição sob a sua própria responsabilidade.

Isto implicará que o nome e as informações de pagamento do utilizador estejam associados à imagem alterada, seja ela do tipo que for. Vários governos em todo o mundo, especialmente europeus, classificaram “como repugnante” a criação de imagens sexualizadas de crianças e mulheres através da ferramenta de IA nos últimos dias e anunciaram medidas e possíveis sanções.

A Comissão Europeia afirmou hoje que esta decisão não altera a sua condenação das fotografias anteriormente criadas. “Tomámos nota das recentes alterações que o X anunciou para o Grok. Na realidade, limitar a geração e a edição de imagens aos assinantes pagantes não altera a nossa questão fundamental: sejam utilizadores pagantes ou sem assinatura, não queremos ver estas imagens. É tão simples quanto isso”, afirmou o porta-voz da política digital da Comissão Europeia, Thomas Regnier, na conferência de imprensa diária da instituição.

O porta-voz afirmou esta semana que a geração de imagens falsificadas de mulheres e menores nus com o Grok é “ilegal, horrível e repugnante”, tendo o executivo europeu obrigado a empresa a guardar toda a documentação interna sobre a ferramenta de IA, para analisar as medidas que o X está a tomar para combater este tipo de conteúdo.

Bruxelas mantém aberta uma investigação ao X sobre o funcionamento dos seus algoritmos, o que, em última instância, poderia levar a Comissão a proibir o Grok na UE, embora Regnier tenha descartado essa possibilidade, na quinta-feira. Também um porta-voz do primeiro-ministro britânico afirmou que a nova medida “simplesmente transforma uma funcionalidade que permite a criação de imagens ilegais num serviço ‘premium’” e constitui “um insulto às vítimas de misoginia e violência sexual”, acrescentou.