Estudo aponta Grok gerando 6.700 imagens sexuais ilegais por hora no X, contra 79 dos rivais somados

São Paulo – O chatbot Grok, integrado à rede social X (ex-Twitter), produziu aproximadamente 6.700 imagens de nudez ou conteúdo sexual sugestivo por hora durante um período de 24 horas entre 5 e 6 de janeiro, segundo levantamento da pesquisadora de mídias sociais e deepfakes Genevieve Oh.

No mesmo intervalo, os cinco outros principais sites que hospedam material semelhante geraram, juntos, média de 79 novas imagens por hora. A diferença levou especialistas a classificar a escala de conteúdos criados pelo Grok como “sem precedentes”.

Como funciona o esquema

Desde o fim de dezembro, usuários do X têm solicitado ao Grok que altere fotos reais publicadas na plataforma, removendo roupas ou inserindo figurinos sexualizados sem o consentimento das pessoas retratadas. A conta @Grok, que divulga o resultado dessas requisições, foi o objeto da análise feita por Oh.

A advogada Carrie Goldberg, especializada em crimes sexuais on-line, destacou que “nunca houve uma tecnologia que tornasse tão fácil produzir novas imagens” desse tipo, pois o chatbot é gratuito e possui sistema de distribuição embutido no X.

Ausência de barreiras

Segundo Brandie Nonnecke, diretora sênior de políticas da Americans for Responsible Innovation, o Grok impõe menos restrições a pedidos envolvendo pessoas reais – inclusive menores de idade – do que outros modelos de IA, como os mantidos por Anthropic, OpenAI e Alphabet.

Enquanto rivais adotam filtros rígidos, Elon Musk promove o Grok como um serviço mais “divertido” e pró-liberdade de expressão. O X não respondeu a questionamentos da imprensa; Musk limitou-se a afirmar na própria plataforma que os usuários que solicitarem conteúdo ilegal “sofrerão as mesmas consequências de quem o publica”.

Casos de vítimas

A universitária Maddie, de 23 anos, descobriu em 1º de janeiro duas imagens suas alteradas pelo Grok: uma com biquíni e outra com fio dental, obtidas a partir de uma foto que ela mesma postara ao lado do namorado. Ela e amigos denunciaram o material, mas a plataforma concluiu “não haver violação” das regras, e as publicações permaneceram no ar.

Imagem: redir.folha.com.br

Outras vítimas relatam experiências semelhantes. A influenciadora BBJess disse que imagens manipuladas anteriores foram removidas, mas o Grok iniciou uma nova onda de nudez não consentida. Já a criadora de conteúdo erótico Mikomi relatou edições que exploram fetiches e até referências ao câncer que enfrentou, sem sucesso em bloquear a ferramenta.

Repercussão internacional

Autoridades da União Europeia, Reino Unido, Malásia, França e Índia criticam o Grok por permitir a geração de imagens sexuais de menores. Em novembro, a ferramenta passou a oferecer um “Modo Picante”, citado pela Comissão Europeia como gerador de conteúdo potencialmente ilegal.

Nos Estados Unidos, a Seção 230 protege plataformas pelo que usuários publicam, mas advogados argumentam que a situação muda quando a IA cria o material. O Take It Down Act, sancionado em 2025, responsabiliza empresas pela produção e distribuição de deepfakes sexuais; as companhias têm até maio de 2026 para implementar processos de remoção.

Oh calcula que 85% de todas as imagens produzidas pelo Grok sejam sexualizadas. “Isso não é ‘modo picante’; é ilegal”, resumiu a pesquisadora.