Crise no X: Grok é usado para criar imagens íntimas sem consenso

A função de geração e edição de imagens do Grok, a inteligência artificial da plataforma X (antigo Twitter), não está mais acessível a usuários gratuitos a partir desta sexta-feira, 9. A mudança ocorre após a criação desenfreada de deepfakes pornográficos e sexualização de mulheres reais e menores de idade, utilizando fotos públicas da rede social.

Agora, ao tentar manipular imagens, o usuário recebe um aviso: "A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos". O acesso à ferramenta exige uma assinatura do X Premium, com valores que variam entre 8 dólares (R$ 43) e 40 dólares (R$ 215) mensais.

O rastro de violações e o alvo nas mulheres

A ferramenta, lançada de forma irrestrita no início da semana, apresentava falhas críticas de moderação. Embora alegasse proibir pornografia explícita, o Grok permitia que usuários "tirassem a roupa" de fotos de mulheres vestidas, alterando roupas para biquínis ou lingeries em cenários sugestivos.

Dados da pesquisadora Genevieve Oh apontam que, entre terça e quarta-feira, o Grok registrou um pico de 6.700 imagens sexualmente sugestivas geradas por hora. Um estudo da ONG AI Forensics analisou 20.000 imagens e revelou que 80% das vítimas eram mulheres.

Casos de brasileiras que tiveram fotos de festas familiares manipuladas para biquínis "fio-dental" viralizaram, gerando revolta e denúncias de que a plataforma ignorava os pedidos de remoção.

🚨 Estou denunciando a inteligência artificial "Grok" e a rede social X ao Ministério Público Federal e à Agência Nacional de Proteção de Dados.

O motivo? Ambas estão gerando, e publicando abertamente, imagens eróticas de mulheres e CRIANÇAS reais, sem consentimento algum.…

— ERIKA HILTON (@ErikakHilton) January 4, 2026

Elon Musk sob a mira da União Europeia

A negligência do X com as "barreiras de proteção" da IA provocou uma resposta imediata de reguladores internacionais. A União Europeia abriu um processo contra a plataforma e impôs uma medida cautelar que obriga as empresas de Elon Musk a preservarem todos os documentos internos sobre o Grok até o final de 2026.

Este novo embate soma-se a uma multa de 120 milhões de euros aplicada em dezembro por descumprimento da Lei de Serviços Digitais (DSA). O bloco europeu acusa o X de falta de transparência e de permitir que os selos de verificação pagos facilitem golpes e desinformação.

"Legacy Media Lies": a resposta da xAI

Questionada sobre as falhas de segurança que permitiram a geração de conteúdo de abuso infantil e violação de privacidade, a xAI (empresa de inteligência artificial de Musk) enviou uma resposta automática padrão a veículos como a BBC e CNBC: "Legacy Media Lies" (A mídia tradicional mente).

Além disso, o próprio Grok reconheceu que gerou algumas imagens de menores em situações sexualmente sugestivas.

“Agradecemos por ter levantado essa questão. Como já foi mencionado, identificamos falhas nas medidas de segurança e estamos corrigindo-as com urgência — material de abuso sexual infantil é ilegal e proibido”, publicou o Grok em 2 de janeiro, orientando os usuários a registrarem denúncias formais junto ao FBI e ao Centro Nacional para Crianças Desaparecidas e Exploradas.

Internamente, funcionários como Parsa Tajik admitiram "falhas nas salvaguardas" e prometeram apertar os filtros, mas usuários relatam que o sistema ainda falha em reconhecer violações de termos de uso quando o conteúdo é gerado por IA.

🚨 STF decidiu que Twitter é responsável pelas montagens que o GROK vem fazendo

Na decisão do dia 26/06/2025 o STF decidiu que "chatbots e/ou robôs" são de responsabilidade das empresas e não dos usuários que estão usando.

Nesse sentido, pessoas e mulheres que tem Nudes geradas…

— João de Senzi (@joaosenzi) January 2, 2026

O que fazer se você for vítima de Deepfake?

A legislação brasileira é rigorosa quanto à exposição da intimidade. Segundo especialistas como Patrícia Peck e Ronaldo Lemos, a criação de situações falsas de nudez configura crime contra a honra (Artigos 138 a 140 do Código Penal).

Passo a passo para proteção jurídica:

1. Preserve as provas: Não apague o conteúdo de imediato. Tire prints do perfil do agressor, da imagem e, fundamentalmente, anote a URL (link) da postagem.
2. Registre a validade: Utilize atas notariais em cartório ou plataformas digitais (como e-Notariado) para dar fé pública às provas.
3. Denuncie na plataforma: O Marco Civil da Internet obriga as redes sociais a removerem conteúdo íntimo não consensual rapidamente após a notificação.
4. Boletim de Ocorrência: Procure uma Delegacia de Crimes Cibernéticos. No Brasil, a criação de deepfakes sem consentimento pode levar à responsabilização civil e criminal.