A consultoria PwC publicou relatórios sobre inteligência artificial e veículos elétricos repletos de notas de rodapé falsas, alegações atribuídas erroneamente e informações não verificáveis, o mais recente exemplo do uso descuidado de conteúdo gerado por IA por uma firma do Big Four.
As alucinações de IA estavam contidas em relatórios de “liderança de pensamento” projetados para atrair trabalhos de consultoria para sócios no Oriente Médio, de acordo com uma investigação de pesquisadores da GPTZero verificada pelo FT.
A descoberta de erros gerados por IA pode constranger firmas de consultoria como a PwC, que estão promovendo seus serviços como assessoras de empresas que adotam a tecnologia, incluindo orientações sobre como usá-la de forma responsável e implementar políticas para evitar erros.
Investigações anteriores da GPTZero levaram as rivais do Big Four EY e KPMG a retirar relatórios que também pareciam incluir alucinações.
O grupo de pesquisa identificou quatro relatórios que a PwC Oriente Médio produziu nos últimos dois anos cujo texto parecia ter sido escrito com ajuda particularmente intensa de IA e cujas notas de rodapé revelavam fundamentos frágeis. Os relatórios incluíam um manual para uso corporativo de bots de IA autônomos “agênticos”, um guia para governos sobre como melhorar serviços públicos e previsões de mercado para veículos elétricos e autônomos em toda a região.
Muitas das citações nos relatórios são problemáticas de alguma forma, descobriram os pesquisadores da GPTZero. Frequentemente, elas direcionam para páginas da web que não contêm as evidências que alegam conter, e algumas para páginas que não existem. Um artigo acadêmico sobre qualidade do ar em Riad, capital da Arábia Saudita, parece ter sido inteiramente alucinado pela IA, porque não há vestígio do estudo na revista referenciada ou pelos autores aos quais é atribuído.
Várias outras notas de rodapé referem-se a fontes incomuns. Por exemplo, um blogueiro adolescente com 280 seguidores na plataforma Medium é citado como fonte da PwC para informações sobre uma iniciativa do JPMorgan que ela chama de “história de sucesso do mundo real” de IA agêntica. A iniciativa —na qual o banco automatizou a revisão de contratos de empréstimos comerciais, economizando centenas de milhares de horas de trabalho humano— foi reportada pela primeira vez em 2017, cinco anos antes de o ChatGPT inaugurar a era da IA generativa.
A PwC Oriente Médio disse ao FT que “leva a sério a precisão de nossas pesquisas publicadas e está atualizando um número limitado de citações de apoio” nos relatórios identificados. “Em consonância com nossa abordagem de IA responsável, temos processos de controle de qualidade para pesquisa e desenvolvimento de conteúdo que esperamos que todas as nossas pessoas sigam”, acrescentou, sem abordar como os erros foram incluídos nos relatórios.
Nos últimos anos, as firmas do Big Four produziram centenas de peças de liderança de pensamento sobre IA para ajudar a atrair clientes, ao mesmo tempo em que exortavam os funcionários a usar a tecnologia para acelerar e melhorar seu trabalho.
A sinalização caótica de material de origem nos quatro relatórios da PwC Oriente Médio era sintomática de pesquisa gerada por IA, disse Paul Esau, pesquisador da GPTZero. Em um sinal revelador, uma alegação de que o erro humano é responsável por 90% dos acidentes de trânsito é mencionada em três lugares diferentes em um relatório, disse Esau, a primeira com uma nota de rodapé, a segunda sem, e a terceira com duas notas de rodapé —cada nota citando uma fonte diferente.
“Essa alegação não é falsa, mas nenhum humano vai citar o mesmo fato três vezes em duas páginas usando três fontes diferentes”, disse ele.
Um relatório falha em citar adequadamente outros trabalhos da PwC. Ele faz referência a uma pesquisa da PwC com executivos-chefes do Oriente Médio, dos quais 70% disseram que a IA generativa afetará significativamente seus negócios, mas a nota de rodapé que acompanha direciona para uma reportagem da mídia que não menciona a pesquisa.
Outra nota de rodapé denuncia o uso de IA. A URL de uma reportagem sobre ameaças de segurança cibernética ao setor de energia inclui “utm_source=chatgpt.com”.
.gif)
Autor: Folha
