“Se você é uma mulher e já postou uma foto do seu rosto na internet, uma inteligência artificial pode te deixar nua em segundos”, diz post no Instagram. O debate sobre os perigos da IA generativa e o machismo esquentou desde o início do ano, quando repercutiram denúncias sobre imagens explícitas geradas pelo Grok, ferramenta de IA do X (ex-twitter), sem consentimento dos usuários –em especial, mulheres e crianças.
Foi assim para a cantora Julie Yukari, que nos primeiros dias de 2026 descobriu que uma foto sua foi alterada após um usuário comandar ao Grok que a retratasse com um microbiquíni. Ela disse ao #Hashtag que a plataforma se recusou a retirar doa ar a imagem, gerada sem consentimento, afirmando que o conteúdo não violava suas diretrizes. Dias depois, sem explicação, a imagem foi removida.
Em 4 de janeiro, a deputada Erika Hilton (PSOL-SP) publicou em seu perfil na plataforma que entrou com uma denúncia contra a inteligência artificial no Ministério Público Federal e na Agência Nacional de Proteção de Dados.
Nesta quarta-feira (14), Elon Musk fez uma publicação em que responsabiliza usuários por pedirem que o Grok gere tais imagens. Segundo Fernanda Campagnucci, diretora do InternetLab, de acordo com a lei brasileira, as plataformas já devem ser responsabilizadas no caso de nudez não consentida. “Qualquer pessoa que sofra algo assim numa plataforma pode acionar o Judiciário e a rede pode ser responsabilizada ou corresponsabilizada. Termos de uso não podem se sobrepor à legislação e ao direito fundamental das pessoas”, diz, como no caso de Yukari.
Nesta quinta (15), a xAI comunicou que vai bloquear geograficamente usuários do Grok e do X para criar imagens de pessoas em roupas íntimas nas jurisdições onde essas ações são consideradas ilegais. O Reino Unido e o estado da Califórnia abriram nesta semana investigações sobre o uso do Grok para criação de deepnudes. Malásia, Indonésia e Filipinas bloquearam completamente o acesso à ferramenta.
Para Juliana Cunha, da SaferNet, os casos refletem o atual foco da plataforma em conteúdo adulto, que segue diretrizes para atrair pessoas interessadas em pornografia. Dedicada à pesquisa “Uso Indevido de IA Generativa: Perspectiva Sobre Riscos e Danos Centradas nas Crianças”, a especialista chama atenção para o fato de que inteligências artificiais são treinadas com pornografia, inclusive infantil.
“A dica básica é: se você tem uma criança, só publique imagens em que seu rosto não apareça e tome cuidados como manter um perfil privado”, diz. A dica não resolve os problemas, mas mitiga alguns riscos, alerta. “Nada impede que um seguidor use uma imagem para gerar pornografia digital”, diz.
Fernanda enfatiza a piora nos serviços das redes sociais em geral desde que se tornaram monopólios, como Instagram, WhatsApp e Facebook, da Meta. O mesmo ocorre desde que Elon Musk comprou o X, em 2022. Para ela, uma rede social com chatbot de IA embutido, que facilita o acesso à geração de imagens, afronta imediatamente às pessoas que já estão na rede. Mas abordar o alto risco da tecnologia requer cautela. “É difícil falar em banimento, pois sempre tem contexto e tipo de uso, por quem e por qual motivo está sendo usada”, diz. Em novembro de 2025, o InternetLab enviou à ONU um relatório temático, destacando os impactos das deepfakes para direitos de meninas e mulheres.
De acordo com ela, desenvolvedores de IA testam como treinar as ferramentas para não ensinar a cometer crimes ou construir bombas, o que deve ser considerado para evitar seu uso com foco em nudez não consentida ou pornografia infantil. Só assim é possível analisar casos de forma isolada, não como uma ação sistematizada, diz.
Para ela, recomendar que mulheres não publiquem fotos online é sugerir que se afastem do espaço público e sejam silenciadas. “A única forma que vejo para que se protejam é escolher espaços online em que seus direitos ainda são mais respeitados”, diz. É preciso ênfase em políticas públicas, regulação e políticas das próprias plataformas.
“A prevenção é o que permite que as pessoas tomem consciência do problema e façam uso mais responsável das plataformas”, diz Juliana, que reforça: é preciso educar a população.
LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.
Autor: Folha
