Qualquer pessoa pode cair em golpes na internet, ainda mais com o avanço dos novos sistemas de inteligência artificial que permitem substituir rostos, alterar movimentos faciais e clonar vozes reais. É o que o estudante universitário Giovani Sella, técnico em tecnologia da informação, de 22 anos, aprendeu recentemente.
Um vídeo com a voz do cantor L7nnon apareceu no Instagram acompanhado da seguinte legenda: “O Quiz do L7 chegou! Agora, você pode adquirir um par da Kenner de graça apenas respondendo um quiz, o meu chegou hoje! Acesse em Saiba Mais”.
A publicação usava inteligência artificial para reproduzir a voz do artista e direcionar o usuário a um site que imitava a estrutura usada na loja virtual da marca de chinelos, com a qual o cantor tinha um contrato de publicidade na época.
Sella preencheu os dados e fez um Pix de R$ 40 para cobrir o frete da entrega do par de chinelos, que pode custar até R$ 200 nas lojas de verdade. O estudante compartilhou a publicação com amigos e só então se deu conta do golpe.
“Dá até vergonha de falar, porque parece muito óbvio, olhando agora. Mas na hora eu caí”, conta Sella.
O Brasil tornou-se um dos principais alvos de golpes desse tipo na América Latina. Eles são conhecidos pelos especialistas como deepfake, termo em inglês que combina uma expressão do universo da IA, “deep learning” (aprendizado profundo) e o adjetivo “fake” (falso).
O relatório mais recente da Sumsub, plataforma global de verificação de identidade e prevenção de fraudes, mostrou que as tentativas de golpe envolvendo o uso de deepfakes cresceram 126% no país no último ano.
A alta digitalização da população e o fácil acesso a ferramentas de IA explicam o aumento desse tipo de golpe. Segundo a Sumsub, ocorreram no Brasil 4 de cada 10 ataques desse tipo registrados na região.
A plataforma analisou mais de 4 milhões de tentativas de fraude online no mundo todo. O levantamento comparou dados internos de verificação de identidade e atividades de usuários do seu próprio sistema de segurança ao longo de dois anos.
Até mesmo especialistas da área podem ser enganados. Quase aconteceu com Andrea Rozenberg, diretora de mercados emergentes da Veriff, startup com sede na Estônia e filial no Brasil que usa IA para checar identidades online.
A executiva conta que recebeu uma videochamada no WhatsApp que replicava perfeitamente a imagem e a voz do chefe dela na Veriff. O golpista entrou em contato por um número desconhecido, mas com foto e nome do presidente da empresa, pedindo que a diretora enviasse um código de acesso que havia sido encaminhado por email.
“Desconfiei porque algumas palavras usadas estavam um pouco estranhas, fora da personalidade normal dele. Sendo expert da indústria ou não, todo mundo está sujeito a esses riscos”, afirma Rozenberg.
O mesmo aconteceu do outro lado do mundo. Em 2024, um funcionário do setor financeiro da empresa de engenharia Arup em Hong Kong pagou US$ 25 milhões (R$ 125 milhões) a fraudadores que usaram tecnologias deepfake para se passar por um diretor da empresa em uma videoconferência.
De acordo com a polícia de Hong Kong, os golpistas induziram o funcionário a participar de uma videochamada com pessoas que ele achava que eram colegas de equipe. Na verdade, todos eram criações feitas por IA. A polícia prendeu seis pessoas suspeitas de envolvimento com o golpe.
.gif)
Para Rozenberg, o aumento dos casos de deepfake ocorreu porque a tecnologia barateou custos técnicos e financeiros dos golpes. Isso permite que os criminosos criem falsificações em segundos e atuem em grande escala, já que agora não é preciso tanto conhecimento, dinheiro ou tempo para produzir falsificações digitais.
“Quando se pensava em fraude 30 anos atrás, era necessário falsificar um documento, imprimir algo numa impressora boa, recortar uma foto falsa etc. Tinha todo um trabalho. Hoje, com a IA, tudo é muito replicável”, diz a especialista.
A alta exposição de conteúdos gerados por IA nas redes sociais também ajuda a entender o crescimento. Uma pesquisa recente da Veriff mostra que 80% dos brasileiros entrevistados já se depararam com deepfakes na internet, mas apenas 29% se mostraram capazes de identificar um vídeo manipulado.
Além de responderem perguntas sobre seu comportamento digital, os participantes foram submetidos a uma avaliação prática, em que os pesquisadores apresentaram 16 conteúdos diferentes, em ordem aleatória, e pediram aos entrevistados que os analisassem.
Oito conteúdos eram reais. Os demais eram falsificações, incluindo vídeos e outras imagens geradas por IA, em alguns casos com o rosto de uma pessoa sobreposto ao corpo de outra.
Segundo Rozenberg, as vítimas não têm um perfil predeterminado. A massagista paraense Verônica (nome fictício), 52, recebeu mensagens de áudio de alguém que se passou por seu filho e pediu ajuda financeira. A voz era idêntica à do jovem.
A situação só ficou clara quando o filho chegou em casa e Verônica falou com ele sobre o pedido de dinheiro. O prejuízo financeiro foi de R$ 2.000, e a família precisou se endividar no rotativo do cartão de crédito para cobrir o valor. Eles não registraram queixa na polícia.
Os golpes podem atingir a credibilidade de empresas que tiverem o nome atrelado à fraude de forma involuntária. Quando uma marca aparece em um incidente de deepfake como vítima, os consumidores a associam a medo e desconfiança, segundo a advogada Patrícia Peck, do escritório Peck Advogados, especializada em inteligência artificial e direito digital.
Rozenberg afirma que, diante do nível atual de sofisticação dos golpes, a melhor forma de combater golpes com inteligência artificial é com inteligência artificial comandada por pessoas de carne e osso.
“A defesa mais eficaz é aquela que mantém o fator humano no processo, apoiada por sistemas de IA que detectam o que o olho não consegue ver, assinalam o que a intuição não percebe e verificam a identidade com um nível de precisão que nenhum indivíduo consegue alcançar sozinho”, afirma.
Autor: Folha
