Rede social X anuncia medidas para impedir que Grok dispa “pessoas reais”

A rede social X anunciou esta quarta-feira que implementou medidas para impedir que a sua ferramenta de inteligência artificial (IA) Grok dispa “pessoas reais”, em resposta às críticas e à pressão das autoridades de vários países.

“Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, indicou a rede social de Musk numa mensagem publicada na plataforma. “Esta restrição aplica-se a todos os utilizadores, incluindo os subscritores pagos”, acrescentou a empresa.

Embora o X afirme impor restrições a “todos os utilizadores”, a plataforma acrescentou que implementou o bloqueio geográfico onde é exigido por lei, o que gera alguma incerteza sobre a abrangência destas medidas técnicas, noticiou a agência France-Presse (AFP).

“Tal como acontece desde 9 de janeiro, a geração de imagens com o Grok, o assistente de IA desenvolvido pela xAI, continua limitada aos subscritores pagos”, confirmou ainda o X no comunicado. No início de janeiro, a plataforma declarou que estava a “tomar medidas contra o conteúdo ilegal”, particularmente a “pornografia infantil, “removendo-o, suspendendo as contas permanentemente e cooperando com as autoridades locais”.

No entanto, manteve-se em silêncio depois disso, apesar do crescente número de protestos oficiais e da abertura de investigações judiciais e administrativas. Elon Musk, que fala publicamente sobre o X diariamente, denuncia regularmente as regulamentações governamentais, acusando-as de tentarem “suprimir a liberdade de expressão”.

Na semana passada, Musk garantiu que qualquer pessoa que utilize o Grok para “criar conteúdo ilegal sofrerá as mesmas consequências como se estivesse a enviar conteúdo ilegal”. Na semana passada, uma análise conduzida pela organização não-governamental (ONG) AI Forensics a mais de 20.000 imagens geradas pelo Grok revelou que mais de metade retratava indivíduos com pouca roupa, 81% dos quais eram mulheres e 2% dos quais pareciam ser menores de idade.

O procurador-geral da Califórnia anunciou na quarta-feira a abertura de uma investigação à xAI devido à proliferação ‘online’ de imagens de mulheres e crianças nuas geradas com o Grok. A medida segue-se à de outros países que estão a rever o funcionamento da ferramenta de IA, incluindo a França, o Reino Unido, a Malásia e a Indonésia.