O que há de pior na enxurrada de porcaria produzida por inteligência artificial (IA) entulhou as buscas do Google com receitas de pizza coberta de cola, os anúncios da Amazon com biografias fajutas e os feeds do Facebook com imagens de Jesus Camarão.
Esse amontoado de esgoto digital se espalhou pelas plataformas de tecnologia, depreciando conteúdos relevantes e poluindo o ecossistema de informação, enquanto chatbots e geradores de vídeo continuam avançando.
Agora, o Vale do Silício quer tirar o lixo.
O Spotify afirmou ter removido no ano passado 75 milhões de uploads em massa, músicas duplicadas e outras faixas consideradas “spam” —uma parcela considerável de seu catálogo total. Em julho, o LinkedIn declarou que “a porcaria gerada por IA é uma prioridade máxima para todos nós” e criou um botão para que os usuários possam denunciá-la. Pesquisadores do Google, empresa controladora do YouTube, descreveram como um serviço de vídeos eliminou da plataforma 130 mil canais de conteúdo de baixa qualidade ao longo de seis meses.
Em toda a internet, empresas de tecnologia estão promovendo uma desintoxicação dos resíduos generativos, em muitos casos sobrecarregadas pela mesma porcaria que suas próprias ferramentas de IA tornaram possível. Aplicativos de mensagens, sites de avaliações de restaurantes, repositórios acadêmicos e serviços de relacionamento estão eliminando ou reduzindo a visibilidade do lixo gerado por IA —muitos deles recorrendo à própria tecnologia para realizar a limpeza.
As pessoas estão se cansando do impacto da IA sobre o meio ambiente e da pressão que ela exerce sobre os empregos e a saúde mental. A porcaria gerada por IA é apenas mais uma “ferida infeccionada”, afirmou Aidan Walker, criador de conteúdo e pesquisador de tendências on-line do Carnegie Endowment for International Peace, um centro de estudos de assuntos globais.
“Os usuários foram ficando cada vez mais irritados com isso”, disse ele. “O clima de opinião agora mudou de forma perceptível, então essas empresas finalmente estão enfrentando esses problemas.”
A IA generativa consegue produzir imagens, áudios e vídeos cada vez mais realistas, mas apenas parte desse material pode ser classificada como porcaria. As empresas de tecnologia miram sobretudo o tipo de caça-cliques de baixa qualidade que é fácil de produzir, disseminar, consumir e esquecer —a moda descartável tomando o lugar da alta-costura, a gororoba industrial engolindo o filé.
Se não for contido, esse pântano sintético on-line poderá “sufocar a criatividade humana, corroer o valor cultural e desestabilizar o debate público”, escreveram pesquisadores europeus no ano passado.
A porcaria gerada por IA se tornou tão disseminada que a editora de dicionários Merriam-Webster escolheu “slop” (algo como “porcaria” gerada por IA) como sua palavra do ano de 2025. A Deezer, serviço francês de streaming, afirmou no primeiro semestre do ano que quase metade das faixas adicionadas diariamente ao seu sistema era gerada artificialmente, muitas delas sem nunca serem ouvidas pelos usuários. A IA gera mais de um terço do que é enviado ao Apple Music.
Adam Mosseri, diretor do Instagram, disse no fim do ano passado que em breve “será mais prático” rastrear “mídia verdadeira do que mídia falsa”. A observação foi feita pouco depois de a Meta, controladora do Instagram, lançar um feed de vídeos inteiramente produzido por IA, ridicularizado por muitos como uma vitrine de porcaria.
Muitas das empresas de tecnologia que agora tentam controlar a porcaria gerada por IA são também as que a viabilizam. Em julho, a Meta prometeu apoiar um pacto europeu para tornar conteúdos produzidos por IA mais identificáveis por meio de detecção, identificação visual e marcação. No mesmo mês, a empresa também lançou um gerador de imagens que incluía automaticamente contas públicas do Instagram como referência para a ferramenta. (A Meta removeu o recurso após três dias de reação negativa.)
“A porcaria gerada por IA é uma faca de dois gumes, porque muitas dessas plataformas registraram aumentos no engajamento em decorrência dela”, afirmou Paul Shovlin, especialista em IA da Universidade de Ohio. “Mas chegou um ponto em que isso se tornou um problema, porque há tanto entulho que agora ficou difícil para os usuários encontrar o tipo de conteúdo de qualidade que procuram.”
O Google, por exemplo, apostou tudo na IA, integrando seu modelo Gemini aos serviços de e-mail, mapas, viagens e buscas. Mais de 20% dos primeiros vídeos curtos do YouTube exibidos a novos usuários são porcaria gerada por IA, segundo um experimento conduzido no ano passado pela Kapwing, uma plataforma on-line de edição de vídeos equipada com IA.
.gif)
A Kapwing estimou que um dos canais de porcaria mais populares do YouTube faturava US$ 4,25 milhões (R$ 22,09 milhões) por ano. (Desde então, ele foi suspenso de um programa de monetização do YouTube.) Neal Mohan, CEO do YouTube, escreveu em um blog que “controlar a porcaria gerada por IA” era uma prioridade máxima neste ano.
Recentemente, pesquisadores do Google analisaram o desafio. Em vez de avaliar os vídeos individualmente, examinaram o ritmo das publicações, modelos repetitivos e outros padrões que poderiam indicar comportamento abusivo coordenado. Eles encontraram 50 mil grupos de contas, que foram removidos. Alguns especialistas em mídia digital, porém, temiam que a abordagem pudesse ir longe demais e também penalizar criadores legítimos que publicam grandes volumes de conteúdo.
“Embora a pesquisa acadêmica ajude a ampliar a compreensão do setor, ela não reflete as várias camadas de defesa que usamos para fazer cumprir nossas políticas”, afirmou o YouTube em comunicado. “Isso inclui proteções robustas para garantir que criadores bem-intencionados que utilizam ferramentas de IA não sejam prejudicados.”
Outras empresas estão recorrendo a uma mistura de estratégias para enfrentar a porcaria gerada por IA, inclusive mobilizando seus próprios usuários para ajudar a identificá-la. Em outubro, o Pinterest atualizou seu sistema para permitir que os usuários limitassem a quantidade de publicações geradas por IA que veem. O TikTok afirmou estar testando nos Estados Unidos um recurso que permite aumentar ou reduzir a quantidade de conteúdo de IA exibido. (A empresa também disse ter identificado automaticamente mais de 3 bilhões de vídeos gerados por IA.) Nos três primeiros meses do ano, o TikTok removeu mais de 377 mil vídeos por violarem suas políticas de IA.
A IA foi usada para criar quase metade das publicações com mais de 50 palavras no X, a plataforma de mídia social de Elon Musk, segundo a Pangram, uma startup de detecção de IA. Para lidar com “uma quantidade enorme de porcaria gerada por IA e spam nas respostas”, a plataforma proibiu neste ano aplicativos que, na prática, incentivavam bots a publicar ao pagar por conteúdo, escreveu Nikita Bier, que até este mês era gerente de produto do X.
Chris Best, CEO do Substack, escreveu no mês passado que “está ficando mais difícil distinguir o que é real na internet” e que “plataformas que recompensam a falsidade criarão uma corrida rumo ao fundo do poço”. A plataforma de newsletters anunciou sua própria ferramenta de detecção de IA para usuários, desenvolvida pela Pangram, que foi projetada para analisar respostas, comentários e publicações com mais de 100 palavras e determinar se provavelmente foram escritos por uma pessoa ou com a ajuda de IA.
Alguns autores de newsletters reclamaram que a ferramenta classificava erroneamente textos escritos por humanos como gerados por IA, não levava em conta o possível papel da IA no processo criativo e pressionava indevidamente os autores a defender sua reputação diante de uma métrica opaca.
Nesta primavera, Camille François e quase duas dezenas de outros especialistas em IA se reuniram em um evento chamado Slop Salon, em Menlo Park, na Califórnia, onde discutiram a dificuldade de classificar —e, portanto, controlar— a porcaria gerada por IA.
“Essa mistura de táticas é um sintoma de que estamos diante de um problema sistêmico em nosso ambiente de informação, e não apenas de uma categoria ruim de conteúdo chamada ‘slop’ que podemos simplesmente definir e remover”, afirmou em entrevista François, que estuda tecnologias digitais nocivas na Universidade Columbia.
“No fim das contas, a IA é uma ferramenta de criatividade, além de ser multifacetada, e as plataformas que lidarem mal com isso verão as pessoas irem embora e procurar outros lugares”, afirma François.
Autor: Folha
