Siga o Olhar Digital no Google Discover
Tudo sobre ChatGPT
Tudo sobre OpenAI
A OpenAI iniciou a implementação de um sistema de previsão de idade no ChatGPT voltado a identificar se uma conta provavelmente pertence a alguém com menos de 18 anos. A medida, segundo a empresa, tem como objetivo ajustar automaticamente a experiência e os mecanismos de proteção para usuários adolescentes nos planos de consumo da plataforma.
A iniciativa dá sequência a diretrizes já apresentadas pela companhia em documentos sobre segurança para jovens e comportamento de modelos para menores de 18 anos. A proposta é ampliar salvaguardas para esse público, ao mesmo tempo em que mantém a experiência completa para adultos, dentro dos limites de segurança definidos pela empresa.
Como funciona a previsão de idade
De acordo com o comunicado, o ChatGPT utiliza um modelo de previsão de idade que analisa uma combinação de sinais comportamentais e dados da conta. Entre os fatores considerados estão o tempo de existência da conta, os horários em que o usuário costuma acessar o serviço, os padrões de uso ao longo do tempo e a idade informada no cadastro.
A OpenAI afirma que o processo também serve para refinar o próprio modelo, já que os resultados ajudam a identificar quais sinais contribuem para maior precisão ao longo da operação.
Verificação e correção de classificação
Usuários que forem classificados de forma incorreta como menores de 18 anos poderão confirmar a idade no ChatGPT e recuperar o acesso completo. O procedimento é feito por meio de uma selfie, utilizando o serviço de verificação de identidade Persona.
A empresa informa que é possível verificar se as proteções foram aplicadas à conta acessando o menu Configurações > Conta, onde o usuário também pode iniciar o processo de confirmação de idade.
Conteúdos com restrição automática
Quando o sistema identifica que uma conta pode pertencer a um menor, o ChatGPT passa a aplicar proteções adicionais para reduzir a exposição a materiais considerados sensíveis. Entre os tipos de conteúdo listados estão:
- Violência gráfica ou cenas explícitas
- Desafios virais que incentivem comportamentos de risco
- Simulações de papéis com teor sexual, romântico ou violento
- Representações de automutilação
- Conteúdos que promovam padrões extremos de beleza, dietas prejudiciais ou body shaming
A OpenAI afirma que essas decisões são orientadas por contribuições de especialistas e literatura acadêmica sobre desenvolvimento infantil, levando em conta fatores como percepção de risco, controle de impulsos, influência de pares e regulação emocional.
Controles parentais e experiência personalizada
Além das restrições automáticas, pais e responsáveis podem ajustar a experiência dos adolescentes por meio de controles parentais. Entre as opções citadas estão a definição de horários em que o ChatGPT não pode ser utilizado, o controle de recursos como memória ou treinamento do modelo e o recebimento de notificações caso sejam detectados sinais de sofrimento agudo.
Leia mais:
Próximos passos e expansão regional
A empresa diz que continuará monitorando os resultados da fase inicial para melhorar a precisão do sistema de previsão de idade. Na União Europeia, a funcionalidade deve ser liberada nas próximas semanas, considerando exigências regionais específicas.
A OpenAI também afirma que seguirá compartilhando atualizações sobre o tema em diálogo com organizações como a American Psychological Association, ConnectSafely e Global Physicians Network.
