ChatGPT também gera imagens que “tiram” roupa de pessoas sem autorização

O ChatGPT, ferramenta da OpenAI, aceita comandos para editar fotografias e substituir roupas por trajes de banho sem o consentimento da pessoa retratada, prática já observada no Grok, sistema da xAI que vem sendo investigado por autoridades na Ásia e na Europa desde o início do ano.

Testes e resultados

Em experimentos conduzidos pela Folha de S.Paulo, o chatbot da OpenAI trocou as vestimentas de imagens do próprio repórter e de personagens criados por inteligência artificial por biquínis. O Grok, além de remover a roupa, transformou o repórter em uma mulher e exibiu a figura em uma dança sensual, ação não solicitada no comando.

Legislação brasileira

No Brasil, a manipulação, produção ou divulgação de nudez ou ato sexual falso gerado por meios tecnológicos é crime, punível com reclusão de dois a seis anos e multa. A pena é aumentada se a vítima for mulher, criança, adolescente, pessoa idosa ou com deficiência.

Posicionamento das empresas

A OpenAI afirma bloquear pedidos que violem suas políticas e diz que infratores reincidentes podem perder o acesso à plataforma. Segundo a companhia, o algoritmo foi ajustado recentemente para reduzir bloqueios considerados “excessivamente restritivos”, citando situações como amamentação ou adultos usando roupas de banho em contextos não sexualizados.

Já a xAI declarou ter adotado medidas para impedir a edição de imagens reais que envolvam “roupas reveladoras, como biquínis”, após receber ameaças de sanções de órgãos reguladores.

Dificuldade de rastreamento

Especialistas em segurança da informação destacam que, diferentemente do Grok, o ChatGPT não publica as imagens geradas em redes sociais, o que dificulta estimar o volume de conteúdo íntimo produzido.

Entendimento jurídico

Para Clarice Tavares, diretora de pesquisa do InternetLab, mesmo sem nudez completa, imagens em trajes de banho podem ser consideradas divulgação de fotos íntimas. Ela lembra decisão do Superior Tribunal de Justiça de 2020 que condenou um homem pela divulgação de fotos da ex-namorada em roupas de banho, entendendo haver intenção de vingança.

Preocupações técnicas

Marcelo Rinesi, cientista da computação que participou dos primeiros testes do Dall-E, lembra que a produção de pornografia não consentida era uma das principais preocupações iniciais da OpenAI, devido à facilidade e baixo custo para gerar esse tipo de imagem.

Imagem: redir.folha.com.br

O CEO da empresa, Sam Altman, justificou mudanças recentes nas diretrizes alegando reclamações de usuários sobre regras “muito rígidas” e disse querer garantir “liberdade intelectual”.

Explosão de conteúdos no Grok

Entre 5 e 6 de janeiro, pesquisa divulgada pela Bloomberg e conduzida pela cientista independente Genevieve Oh apontou que o Grok gerou cerca de 6.700 imagens por hora classificadas como sexualmente sugestivas ou de nudez. Em comparação, cinco das principais plataformas de geração de imagens por IA somadas produziram, em média, 79 imagens de nudez por hora no mesmo período.

Formas de driblar salvaguardas

O ChatGPT impõe algumas restrições, mas elas podem ser contornadas com ajustes no comando, segundo testes do jornal. Tópicos em fóruns como o Reddit detalhavam métodos para criar imagens sexualizadas usando Grok, ChatGPT e Gemini, do Google; após contato da revista Wired, o Reddit removeu esses conteúdos.

Concorrentes como Gemini e Meta AI não geraram fotos de pessoas reais vestidas com biquínis durante os testes relatados.

Dicas de proteção

A empresa de cibersegurança Eset recomenda intensificar a atenção às imagens tornadas públicas em redes sociais. Entre as orientações estão revisar fotos armazenadas on-line, evitar publicar imagens de menores, manter perfis privados quando possível, usar ferramentas do Google para verificar vazamento de dados pessoais e ajustar configurações que permitem o uso de imagens por sistemas de IA, como o Grok.