Plataformas usavam IA para criar imagens e vídeos sexuais falsos de cerca de 1,2 mil pessoas sem consentimento
Tudo sobre Estados Unidos
Tudo sobre Inteligência Artificial
Autoridades de Nova York (EUA) anunciaram nesta segunda-feira (14) a derrubada de 12 sites que hospedavam e comercializavam pornografia deepfake produzida com inteligência artificial (IA). As plataformas exibiam imagens e vídeos falsos de pessoas famosas, incluindo atrizes, políticas, atletas, musicistas, influenciadoras digitais e outras figuras públicas.
Continua após a publicidade
Segundo a Promotoria do Distrito de Manhattan, os sites reuniam material envolvendo cerca de 1,2 mil pessoas reais, em sua maioria mulheres. As imagens e vídeos mostravam versões geradas ou manipuladas por IA das vítimas participando de atos sexualmente explícitos sem seu consentimento.
A investigação apontou que as plataformas anunciavam explicitamente serviços de “pornografia deepfake de famosas” e eram utilizadas para publicar e vender esse tipo de conteúdo, além de outros registros íntimos não consensuais.
O promotor distrital de Manhattan, Alvin Bragg, afirmou acreditar que esta seja a maior operação já realizada para retirar do ar sites dedicados à pornografia ilegal gerada por IA. “São fotos e vídeos que utilizam inteligência artificial para fazer parecer que pessoas reais participam de atos sexualmente explícitos”, explicou Bragg.
Segundo o promotor, a legislação de Nova York considera ilegal compartilhar fotos ou vídeos reais de pessoas praticando atos sexuais sem consentimento. A mesma regra se aplica quando o conteúdo é criado ou alterado com ferramentas de IA.
Leia mais:
Como funcionavam os deepfakes
- Os sites utilizavam ferramentas de IA para modificar imagens e vídeos e substituir os rostos das pessoas que apareciam originalmente nas gravações pelos rostos das vítimas;
- Com isso, eram produzidos conteúdos hiper-realistas que davam a impressão de que pessoas reais estavam envolvidas em situações sexualmente explícitas, embora nunca tivessem participado delas;
- As vítimas incluíam atrizes, políticas, atletas, musicistas, defensoras de causas sociais e influenciadoras digitais, entre outras pessoas conhecidas pelo público;
- De acordo com a Promotoria de Manhattan, as empresas responsáveis pelos sites lucravam com a publicação e disseminação de imagens e vídeos sexuais não consensuais, independentemente de o material ter sido produzido com IA;
- Bragg afirmou ainda que essas violações de privacidade acompanham as vítimas em suas carreiras e vidas pessoais e provocam um impacto significativo em seu bem-estar emocional e mental.
Investigação continua
A investigação começou depois que uma das vítimas denunciou um dos sites, segundo Bragg. Ele não informou se houve prisões relacionadas à operação.
As autoridades afirmaram que a investigação sobre esses e outros sites continua. A Promotoria do Distrito de Manhattan também pretende monitorar as plataformas para evitar que elas voltem ao ar usando outros nomes.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
!function(f,b,e,v,n,t,s){
if(f.fbq)return;
n=f.fbq=function(){n.callMethod?n.callMethod.apply(n,arguments):n.queue.push(arguments)};
if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;
n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];
s.parentNode.insertBefore(t,s)
}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘1221644929160171’);
fbq(‘track’, ‘PageView’);
