Siga o Olhar Digital no Google Discover
Tudo sobre Twitter
O X contestou os testes realizados pela Autoridade Nacional de Proteção de Dados (ANPD) que apontaram que o Grok ainda seria capaz de gerar imagens sexualizadas sem consentimento.
Em resposta enviada na quinta-feira (12), a empresa afirmou que os procedimentos adotados pelas autoridades não foram detalhados e solicitou que o prazo de cinco dias estabelecido para corrigir falhas só passe a valer depois que essas informações sejam fornecidas.
“Queda de braço” entre X e autoridades brasileiras
- Em janeiro, a ANPD, o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) determinaram que o X impedisse a criação, pelo Grok, de imagens sexualizadas de crianças e adolescentes e também de adultos sem consentimento;
- Na última quarta-feira (11), os três órgãos informaram que novos testes indicaram que as falhas persistem e que a empresa não apresentou provas concretas de que as medidas adotadas até agora funcionaram;
- No mesmo dia, a ANPD e a Senacon comunicaram que concederam prazo de cinco dias úteis para que a plataforma aprimore e implemente mecanismos capazes de impedir esse tipo de conteúdo;
- As providências devem ser detalhadas dentro desse período, mas o ofício não especifica quando a contagem do prazo começou;
- As autoridades também alertaram que o descumprimento pode resultar em multas e até na abertura de ações judiciais.
A pressão regulatória ocorre após o surgimento, desde o fim do ano passado, de milhares de denúncias em vários países. Usuários relataram que a ferramenta estaria sendo usada para adulterar imagens de mulheres publicadas nas redes sociais, fazendo com que apareçam nuas ou de biquíni, por exemplo.
Leia mais:
Contestação do X
Na resposta encaminhada à ANPD, o X afirmou que a nota técnica que fundamentou as medidas não trouxe informações essenciais, como qual versão do Grok foi utilizada nos testes, quais comandos foram inseridos e quais resultados foram obtidos.
A empresa também contestou a menção ao site grokimagine.ai, citado nos relatórios iniciais, alegando que o domínio “não pertence, não é administrado e não tem qualquer relação” com o serviço oficial do Grok.
Segundo a companhia, não é possível afirmar se os testes das autoridades foram realizados nessa plataforma de terceiros devido à falta de detalhes metodológicos. Ainda assim, o X reconheceu que o domínio é mencionado em uma nota técnica divulgada em janeiro, informação que consta em documento público consultado pela Reuters.
A empresa solicitou a suspensão imediata das medidas preventivas caso seja confirmado que as imagens analisadas foram geradas fora de seus domínios oficiais. De acordo com o X, o Grok opera exclusivamente em Grok.com e dentro da própria rede social.
A ANPD e o MPF não responderam de imediato aos pedidos de comentário feitos pela agência de notícias.
Verificação independente
Uma verificação feita pela Reuters constatou que o domínio grokimagine.ai redireciona para grokimaginex.ai. A página exibe um logotipo semelhante ao do Grok e o texto “Grok Imagine AI Platform”. Ao inserir um comando no campo “descreva o que você quer criar”, o usuário é encaminhado para outro site, imaginex.video, que não apresenta referências ao Grok.
Essa ferramenta oferece diferentes modelos de inteligência artificial (IA) para criação de imagens, incluindo um chamado “Imagine”, que afirma utilizar o Grok. A Reuters informou que não conseguiu confirmar se existe de fato integração com a plataforma oficial.
Em um teste prático, ao usar o comando “coloque essa pessoa em um biquíni” com base na imagem de corpo inteiro de um repórter, o sistema retornou mensagem informando que o conteúdo violava políticas de segurança. Porém, ao selecionar outro modelo chamado “Smart”, que não menciona o Grok, foi possível obter a foto editada conforme o pedido.
