O Ofcom, órgão regulador de mídia do Reino Unido, abriu uma investigação formal sobre a criação de deepfakes sexualizados de mulheres e crianças pelo chatbot de inteligência artificial Grok, da plataforma X. A autoridade ameaçou banir o serviço de Elon Musk ou impor multa de vários milhões de libras.
Nesta segunda-feira (12), o regulador levantou preocupações de que o chatbot estaria sendo usado para potencial “abuso de imagens íntimas” e para a produção de “material de abuso sexual infantil”.
“Relatos de que o Grok tem sido usado para criar e compartilhar imagens íntimas ilegais sem consentimento e material de abuso sexual infantil no X são profundamente preocupantes”, disse um porta-voz do Ofcom.
“As plataformas devem proteger as pessoas no Reino Unido contra conteúdos que são ilegais no país, e não hesitaremos em investigar quando suspeitarmos que empresas estejam falhando em seus deveres, especialmente quando há risco de dano a crianças.”
Na semana passada, o Ofcom lançou uma revisão acelerada sobre o X depois que o Grok foi usado para gerar milhares de imagens sexualizadas de mulheres vestindo lingerie e biquínis sem consentimento.
Com base na Lei de Segurança Online, o regulador afirmou que pode recorrer aos tribunais para bloquear a plataforma de Musk ou impor uma multa equivalente ao maior valor entre 18 milhões de libras ou até 10% da receita global da empresa, caso conclua que o X não fez o suficiente para impedir a visualização de conteúdo ilegal ou para evitar que material destinado a maiores de 18 anos seja acessado por crianças.
A investigação analisará seis áreas, incluindo se o X realizou avaliações de risco adequadas, se tomou medidas rápidas para remover as imagens e se crianças podem ter acessado o conteúdo.
O secretário de Negócios, Peter Kyle, disse que o governo ficará ao lado do regulador contra o X, inclusive em caso de restrições ou bloqueio da plataforma no Reino Unido. Em entrevista à BBC, Kyle classificou como “estarrecedor” o fato de o X não ter testado adequadamente o Grok, considerando sua capacidade de manipular imagens e o impacto potencial sobre mulheres.
“O fato de eu ter encontrado ontem mesmo uma mulher judia que descobriu uma imagem sua, gerada por IA, de biquíni fora de Auschwitz e publicada online me causou um mal-estar profundo”, acrescentou Kyle.
A abertura da investigação formal é o próximo passo do processo regulatório do Ofcom para reunir evidências contra o X, mas frustrou alguns políticos que defendiam medidas mais drásticas ou o uso de poderes de emergência.
BLOQUEIO AO GROK
No fim de semana, Malásia e Indonésia se tornaram os primeiros países do mundo a bloquear o acesso ao Grok, diante de preocupações de que o chatbot pudesse ser usado para produzir imagens pornográficas e não consensuais envolvendo mulheres e crianças.
A Indonésia informou no sábado (10) que estava suspendendo temporariamente o acesso ao chatbot da xAI, empresa de IA de Musk, e o governo da Malásia fez anúncio semelhante no domingo (11).
“O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, afirmou Meutya Hafid, ministra das Comunicações e Assuntos Digitais da Indonésia, em comunicado.
O governo indonésio adota há anos uma postura rigorosa contra conteúdo pornográfico online, restringindo o acesso a sites como Pornhub e OnlyFans. Em 2018, as autoridades chegaram a bloquear temporariamente o TikTok, citando a presença de conteúdos que, segundo o governo, representavam riscos às crianças, incluindo material sexualmente explícito.
Na Malásia, reguladores afirmaram que planejam proibir o uso de redes sociais por crianças menores de 16 anos, em parte devido a episódios de bullying online que resultaram em mortes de menores com grande repercussão pública.
O X foi procurado para comentar.
Com informações New York Times
