X/Twitter falha em conter deepfakes sexuais mesmo após mudanças no Grok

Publicidade

Siga o Olhar Digital no Google Discover

O X/Twitter atualizou as diretrizes do seu chatbot de inteligência artificial (IA), o Grok, para tentar impedir a criação de imagens sexualizadas de pessoas reais. A medida é uma resposta à onda de críticas sobre como a ferramenta vinha sendo utilizada para “despir” digitalmente mulheres e menores de idade.

Placa de Vídeo Gainward - GeForce RTX 3070 Phoenix, 8GB GDDR6

Vendido por Amazon

Placa de Vídeo Gainward – GeForce RTX 3070 Phoenix, 8GB GDDR6

Por R$ 3.766,47


Smart Tv Aoc Dled 32 Wi-fi Roku Tv Quad Core 32s5155/78g

Vendido por Amazon

Smart Tv Aoc Dled 32 Wi-fi Roku Tv Quad Core 32s5155/78g

De: R$ 838,00
Por: R$ 795,00


Celular Samsung Galaxy S25 FE 5G, 128GB, 8GB, Câmera Tripla - Jet Black

Vendido por Amazon

Celular Samsung Galaxy S25 FE 5G, 128GB, 8GB, Câmera Tripla – Jet Black

Por R$ 2.998,89


32 in1 Case Estojo Para Nintendo Switch 2 Acessórios Capa Protetora Para Com Compartimentos Bolsa Perfeita Para Viagens Estojo Bag de Proteção e Acessórios Para

Vendido por Amazon

32 in1 Case Estojo Para Nintendo Switch 2 Acessórios Capa Protetora Para Com Compartimentos Bolsa Perfeita Para Viagens Estojo Bag de Proteção e Acessórios Para

De: R$ 119,99
Por: R$ 94,99


Baseus: 2 Cabos USB-C/USB-C, 100W, Carregamento Rápido, Transferência de Dados Super Rápida, Compatível com iPhone 15 (2, centímetros)

Vendido por Amazon

Baseus: 2 Cabos USB-C/USB-C, 100W, Carregamento Rápido, Transferência de Dados Super Rápida, Compatível com iPhone 15 (2, centímetros)

Por R$ 119,20


Brother HL-L1232W Impressora Laser Monocromática, Wi-Fi, USB 2.0, 220V, Preta

Vendido por Amazon

Brother HL-L1232W Impressora Laser Monocromática, Wi-Fi, USB 2.0, 220V, Preta

De: R$ 1.299,00
Por: R$ 1.109,00


JBL, Fone de Ouvido Bluetooth, Tune Buds 2, Intra Auricular, Sem Fio, Com Cancelamento de Ruído, Bateria de até 48h, Som JBL Pure Bass - Branco

Vendido por Amazon

JBL, Fone de Ouvido Bluetooth, Tune Buds 2, Intra Auricular, Sem Fio, Com Cancelamento de Ruído, Bateria de até 48h, Som JBL Pure Bass – Branco

De: R$ 599,00
Por: R$ 489,00


Anker 332 Hub USB-C [5 em 1, HDMI 4K, 2 Portas USB-A 5 Gbps], Compatível com MacBook Pro, MacBook Air, Dell XPS, Lenovo ThinkPad, HP e Mais

Vendido por Amazon

Anker 332 Hub USB-C [5 em 1, HDMI 4K, 2 Portas USB-A 5 Gbps], Compatível com MacBook Pro, MacBook Air, Dell XPS, Lenovo ThinkPad, HP e Mais

De: R$ 229,00
Por: R$ 169,00


Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

Vendido por Amazon

Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

De: R$ 78,00
Por: R$ 74,10


Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

Vendido por Amazon

Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

De: R$ 78,00
Por: R$ 74,10


Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

Vendido por Amazon

Caixa de Som Bluetooth, INAVA, Caixa de Som Portatil Com Graves Aprimorados e Som Surround 360°.

Por R$ 78,00


Wacom One Display Interativo 13 Polegadas Touch, Tela IPS Full HD, DTH134, Preto, para Educação, Escritório e Criação

Vendido por Amazon

Wacom One Display Interativo 13 Polegadas Touch, Tela IPS Full HD, DTH134, Preto, para Educação, Escritório e Criação

De: R$ 3.559,90
Por: R$ 1.435,96


KOSPET Tank T3 Ultra Smartwatch, 50M à prova de água, GPS, bússola, pressão do ar, altitude, aço inoxidável completo, chamada Bluetooth, ecrã AMOLED sempre activo de 1,43'', voz AI Banda de Metal

Vendido por Amazon

KOSPET Tank T3 Ultra Smartwatch, 50M à prova de água, GPS, bússola, pressão do ar, altitude, aço inoxidável completo, chamada Bluetooth, ecrã AMOLED sempre activo de 1,43”, voz AI Banda de Metal

De: R$ 899,99
Por: R$ 764,99


WAAW by ALOK Caixa de Som INFINITE 700 Bluetooth, Tipo Torre, Até 20h de Autonomia, 3 Alto-Falantes, TWS, 700W RMS

Vendido por Amazon

WAAW by ALOK Caixa de Som INFINITE 700 Bluetooth, Tipo Torre, Até 20h de Autonomia, 3 Alto-Falantes, TWS, 700W RMS

De: R$ 3.799,90
Por: R$ 3.369,83


Apple Watch SE 3 GPS, Caixa em alumínio luz das estrelas de 44 mm com Bracelete desportiva luz das estrelas - M/G

Vendido por Amazon

Apple Watch SE 3 GPS, Caixa em alumínio luz das estrelas de 44 mm com Bracelete desportiva luz das estrelas – M/G

De: R$ 3.699,00
Por: R$ 2.998,99


Apple Watch Series 11 GPS, Caixa em alumínio rosa‑dourado de 42 mm com Bracelete desportiva rosa leve - M/G

Vendido por Amazon

Apple Watch Series 11 GPS, Caixa em alumínio rosa‑dourado de 42 mm com Bracelete desportiva rosa leve – M/G

De: R$ 5.499,00
Por: R$ 4.599,00


eufy SoloCam S220 por anker, Câmera De Segurança Wi-Fi Externa, Solar Sem Fio Externa, 2K, Energia Contínua, Monitoramento inteligente de IA, Trabalha Com Alexa/HomeBase 3, Sem Taxa Mensal

Vendido por Amazon

eufy SoloCam S220 por anker, Câmera De Segurança Wi-Fi Externa, Solar Sem Fio Externa, 2K, Energia Contínua, Monitoramento inteligente de IA, Trabalha Com Alexa/HomeBase 3, Sem Taxa Mensal

De: R$ 549,00
Por: R$ 521,00


Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

Vendido por Amazon

Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

De: R$ 1.199,00
Por: R$ 999,00


Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

Vendido por Amazon

Anker Laptop Power Bank, 25.000mAh Carregador Portátil para Notebook, 3-Portas 100W USB-C, Cabos Retráteis Integrados, Aprovado para Viagens Aéreas, Compatível com iPhone 17, Samsung e Mais

De: R$ 1.199,00
Por: R$ 999,00


Mouse sem fio Logitech Pebble 2 M350s com Clique Silencioso, Design Slim Ambidestro, Conexão Bluetooth e Pilha Inclusa - Rosa

Vendido por Amazon

Mouse sem fio Logitech Pebble 2 M350s com Clique Silencioso, Design Slim Ambidestro, Conexão Bluetooth e Pilha Inclusa – Rosa

De: R$ 123,90
Por: R$ 109,99


soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d’Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 199,00


Anker MagGo Power Bank, Bateria Magnética Ultra Fina de 10.000mAh, Certificação Qi2, Portátil, Carregador MagSafe Compatível de 15W Ultra Rápido, Compatível com iPhone 17/16/15, Samsung,Xiaomi e Mais

Vendido por Amazon

Anker MagGo Power Bank, Bateria Magnética Ultra Fina de 10.000mAh, Certificação Qi2, Portátil, Carregador MagSafe Compatível de 15W Ultra Rápido, Compatível com iPhone 17/16/15, Samsung,Xiaomi e Mais

De: R$ 499,00
Por: R$ 469,00


Apple 2025 iPad (Wi-Fi + Cellular, 128 GB) - Azul (A16)

Vendido por Amazon

Apple 2025 iPad (Wi-Fi + Cellular, 128 GB) – Azul (A16)

De: R$ 6.499,00
Por: R$ 5.219,10

A mudança, no entanto, parece ser mais teórica do que prática. Testes recentes do The Verge, por exemplo, mostram que as barreiras de segurança ainda são frágeis. Enquanto Elon Musk (dono do X/Twitter e da xAI) enfrenta pressão de reguladores mundo afora, a rede social tenta equilibrar a liberdade técnica de sua IA com a necessidade urgente de conter a proliferação de deepfakes sexuais não consensuais.

X/Twitter tenta conter Grok mas falha em bloquear geração de deepfakes sexuais

A xAI, desenvolvedora do chatbot, anunciou a implementação de filtros para barrar o uso do Grok para editar fotos de pessoas reais em trajes íntimos ou biquínis. Para aumentar o controle sobre quem utiliza essas funções, a empresa também restringiu o acesso às ferramentas de geração e edição de imagens para assinantes. A lógica é que, ao exigir um cartão de crédito vinculado à conta, o usuário possa ser responsabilizado legalmente caso viole as normas da plataforma.

x twitter
A xAI anunciou a implementação de filtros para barrar o uso do Grok para gerar deepfakes sexuais e não consensuais (Imagem: Thrive Studios/Shutterstock)

Apesar do anúncio oficial, a eficácia dessas medidas foi colocada à prova e não resistiu a testes simples. Relatos indicam que o Grok continua a gerar imagens reveladoras de pessoas reais se o usuário souber como contornar os filtros de censura. Em alguns casos, bastaram comandos sutis ou variações de linguagem para que a IA ignorasse as novas diretrizes e entregasse o conteúdo solicitado.

O principal problema está no que a indústria chama de hacking de comandos. Nele, o usuário manipula a conversa para enganar a segurança da IA. Musk atribuiu essas falhas a “pedidos inesperados” e à forma como o sistema processa instruções adversas. Segundo o empresário, a IA não gera esse tipo de conteúdo espontaneamente, mas apenas quando é ativamente induzida pelo usuário.

Do ponto de vista técnico, essas falhas revelam a dificuldade de moderar uma IA generativa em tempo real. Como esses modelos aprendem com grandes volumes de dados, eles nem sempre obedecem a restrições estáticas se o comando for formulado de maneira criativa. O resultado é um sistema que promete proteção, mas que, na prática, ainda permite a criação de imagens que violam a privacidade alheia.

Essa inconsistência entre o discurso da empresa e o funcionamento real da ferramenta mantém o X sob forte escrutínio. Especialistas apontam que a decisão de manter “grades de proteção” mais soltas em comparação a outros chatbots foi uma escolha deliberada para atrair engajamento. No entanto, essa mesma flexibilidade agora se torna o maior entrave jurídico para a sobrevivência do Grok em mercados regulados.

Pressão internacional obriga plataforma a adotar bloqueios geográficos

A reação das autoridades forçou o X/Twitter a adotar uma estratégia de geoblocking em determinadas regiões. Isso significa que, em países onde a criação de deepfakes sexuais é crime, como no Reino Unido, a função de edição do Grok foi desativada ou muito limitada. O governo britânico chegou a classificar a situação anterior como “horripilante” e “insultuosa para as vítimas”.

grok
Governo do Reino Unido agiu após o Grok ser usado para inundar o X/Twitter com deepfakes íntimos (Imagem: Algi Febri Sugita/Shutterstock)

Nos Estados Unidos, o estado da Califórnia abriu uma investigação oficial sobre a produção em larga escala desse tipo de material. O Procurador-Geral do estado, Rob Bonta, exige explicações sobre como o Grok se tornou um terreno fértil para a criação de imagens que humilham mulheres e menores de idade. Musk, por outro lado, afirma desconhecer qualquer imagem de nudez envolvendo menores gerada pelo seu chatbot.

O cerco também se fecha no setor privado, com pedidos crescentes para que Apple e Google removam o X/Twitter de suas lojas de aplicativos. Senadores americanos e grupos de defesa dos direitos das mulheres argumentam que as lojas não deveriam hospedar ferramentas que facilitam a exploração sexual. Se as gigantes de tecnologia decidirem agir, a plataforma de Musk pode perder seu principal canal de distribuição.

Na União Europeia, a Comissão Europeia monitora se as mudanças recentes são suficientes para cumprir as leis locais de segurança digital. Embora o órgão tenha reconhecido as tentativas de bloqueio, avisou que haverá repercussões se as medidas forem consideradas meramente superficiais. A investigação do órgão regulador de mídia britânico, o Ofcom, também segue em andamento para entender o que deu errado.

Leia mais:

O futuro do Grok depende agora da capacidade da xAI em provar que consegue controlar sua própria tecnologia. Só que, pelo menos até o momento, as atualizações parecem mais um remendo jurídico do que uma solução definitiva para o problema.

(Essa matéria também usou informações de The Guardian, Reuters e The Wall Street Journal.)

Olhar Digital

Compartilhe essa Notícia:

publicidade

publicidade