OpenAI anuncia sistema para identificar idade e proteger adolescentes no uso de IA

A OpenAI anunciou que está a desenvolver um sistema para identificar a idade dos utilizadores do ChatGPT, como parte de uma estratégia para proteger adolescentes no uso da inteligência artificial.

O ChatGPT é destinado a pessoas a partir de 13 anos, mas a empresa afirma que menores de 18 receberão experiências mais restritivas. Entre as medidas previstas estão o bloqueio de conteúdos sexualizados, discussões sobre suicídio e outras situações de risco, mesmo em contextos de ficção. Em casos de perigo iminente, a empresa pretende contactar os responsáveis ou as autoridades.

Para distinguir utilizadores adultos de menores, a OpenAI está a criar um sistema de previsão de idade baseado no comportamento do utilizador no momento de utilização do ChatGPT. Em alguns países, poderá haver solicitação de documento de identificação, medida que a empresa reconhece como um “compromisso de privacidade” necessário para proteger os adolescentes, lê-se em comunicado.

Se o modelo de IA não tiver certeza da idade do utilizador, a experiência será automaticamente ajustada para menores de 18 anos, garantindo a segurança. Os adultos poderão comprovar a idade para aceder às funcionalidades para maiores de idade.

Estas medidas juntam-se aos controlos parentais, que permitirão aos pais associar a sua conta à dos filhos e definir regras de utilização a partir do final do mês.

As alterações surgem após um incidente nos EUA, em abril, em que um adolescente de 16 anos se suicidou. Os pais processaram a OpenAI, alegando que, apesar de o ChatGPT lhe ter oferecido recursos de apoio, as salvaguardas falharam e a conversa acabou por focar-se no suicídio.