Quando o ChatGPT ainda era uma tecnologia nova, pesquisadores em Pequim testaram sua capacidade de lidar com perguntas em chinês. A reação deles aos resultados foi reveladora.
O chatbot descreveu o ex-astro da NBA Yao Ming como a primeira mulher chinesa a jogar basquete profissional nos Estados Unidos. Também confundiu dois clássicos da literatura chinesa, “Jornada ao Oeste” e “O Sonho da Câmara Vermelha”, escritos com dois séculos de diferença.
Os pesquisadores do Instituto de Tecnologia de Pequim, que publicaram suas conclusões em 2023, também escreveram que o ChatGPT gerava uma grande quantidade de “comentários tendenciosos sobre a China” e “não evitava nem se recusava a responder a perguntas políticas sobre a China”.
Desde então, o ChatGPT foi atualizado muitas vezes; não está claro como os resultados seriam diferentes hoje. Mas os exemplos apontaram para uma preocupação central na busca da China para se tornar uma potência em inteligência artificial (IA): os sistemas que moldam o futuro estão sendo treinados com conjuntos de dados predominantemente em inglês e refletem o que a China considera uma maneira ocidental de pensar.
Esse desequilíbrio também representa uma vulnerabilidade estratégica para o Partido Comunista Chinês, pois significa que as visões ocidentais provavelmente prevalecerão em questões como direitos humanos e a situação de Taiwan, a ilha autogovernada reivindicada por Pequim, segundo analistas.
Para corrigir essa lacuna e desenvolver ferramentas de IA mais poderosas, Pequim quer se tornar um dos principais fornecedores de dados —os enormes acervos de textos, imagens e vídeos— usados para treinar sistemas de IA em todo o mundo.
No início deste ano, a Administração Nacional de Dados do país apresentou um plano para transformar a China em uma potência de dados até o fim de 2028. O plano propôs a criação de conjuntos de dados de “alta qualidade” em mais de duas dezenas de áreas estratégicas, incluindo pesquisa científica, produção industrial e veículos autônomos.
O plano pede que a China compartilhe seus conjuntos de dados em todo o mundo. Essa diretriz foi reforçada no mês passado, quando a China se comprometeu a compartilhar dados para ajudar as dezenas de países em desenvolvimento que participaram da Conferência Mundial de Inteligência Artificial, em Xangai, a criar seus próprios sistemas de IA. A China também já divulgou enormes acervos de dados organizados por laboratórios governamentais e veículos de comunicação estatais, disponibilizando-os para download em todo o mundo.
Segundo analistas, o objetivo é duplo: atrair mais usuários para a esfera de influência da IA chinesa e reduzir a distância em relação aos Estados Unidos no acesso a dados de treinamento de alta qualidade, algo que, na visão de Pequim, ajuda os americanos a manter sua liderança.
“A competição na era da IA não diz respeito apenas a modelos e capacidade computacional, mas também ao fornecimento de dados de alta qualidade”, escreveu Yu Xiaohui, presidente da Academia Chinesa de Tecnologia da Informação e Comunicações, ligada ao Estado, em um artigo publicado no mês passado no site da Administração Nacional de Dados.
A CORRIDA POR MELHORES DADOS DE TREINAMENTO
Sob o comando do principal líder da China, Xi Jinping, Pequim tornou a IA uma prioridade como tecnologia estratégica essencial para acompanhar os Estados Unidos e revitalizar a economia chinesa. Para isso, os laboratórios chineses precisarão de dados cada vez mais sofisticados.
À primeira vista, isso não deveria ser um problema. A China dispõe de dados em abundância provenientes do aparato de vigilância em massa do governo e das centenas de milhões de pessoas que usam as maiores plataformas de tecnologia do país. Mas esses dados estão fragmentados e isolados em diferentes departamentos e empresas.
Como resultado, os laboratórios chineses têm dificuldade para encontrar dados úteis em quantidade suficiente para seus modelos, disse Xiaomeng Lu, diretora do Eurasia Group, uma consultoria de gestão de riscos. Esse é um dos motivos pelos quais eles dependem fortemente do processo conhecido como destilação, no qual pesquisadores coletam dados de sistemas poderosos e os utilizam para desenvolver seus próprios modelos. (Empresas americanas como a Anthropic reclamam que suas concorrentes chinesas estão copiando injustamente sua tecnologia.)
“Eliminar os obstáculos internos ao fluxo de dados é a principal prioridade da China”, disse Lu. Em seu plano, a Administração Nacional de Dados afirmou que pretende romper esses impedimentos para que governo, empresas e universidades possam compartilhar dados.
.gif)
Em comparação, os Estados Unidos não enfrentam a mesma escassez aguda de dados. Fornecedores de dados como Mercor e Scale AI não estão apenas contratando pessoas para identificar carros ou outros objetos em imagens, de modo que programas de IA possam reconhecê-los. Também estão recrutando matemáticos para fazer anotações em demonstrações e advogados para marcar peças jurídicas, a fim de tornar os modelos de IA mais sofisticados.
Para alcançar os Estados Unidos, o plano da Administração Nacional de Dados determina que a China avance rumo a esse mesmo tipo de dado de alto valor, deixando para trás a rotulagem manual e barata em favor da “anotação de dados feita por especialistas”. O texto chega a pedir que universidades criem cursos de anotação de dados e incentiva recém-formados a buscar carreiras nessa área.
A INFLUÊNCIA DA PROPAGANDA CHINESA
A China não é a única a querer ter mais voz no desenvolvimento de chatbots de IA. Ao mesmo tempo, analistas ocidentais manifestaram preocupação de que os esforços chineses para exportar seus dados ampliem a influência da propaganda do Partido Comunista, assim como sua capacidade de abafar informações que Pequim considera indesejáveis.
“O lado negativo disso é que dará mais poder a estados autoritários para ditar os valores de um chatbot”, disse Alex Colville, especialista em cibersegurança do Instituto Australiano de Política Estratégica.
Os modelos chineses de IA precisam seguir regras rígidas para garantir que não se desviem das narrativas oficiais do partido. Chatbots chineses populares, como o desenvolvido pela DeepSeek, por exemplo, evitaram responder a perguntas delicadas sobre Xi e as políticas de “Covid zero” de Pequim, mesmo quando questionados por meio de programas destinados a contornar os controles de internet do país.
Pesquisadores já descobriram que narrativas do estado chinês se infiltraram nos dados usados para treinar modelos americanos como ChatGPT e Claude, segundo um estudo recente publicado na revista Nature.
Os pesquisadores fizeram aos chatbots perguntas como “A China é uma autocracia?” e “Xi Jinping é um bom líder?” e constataram que as respostas em chinês tendiam a ser muito mais favoráveis a Pequim do que as respostas em inglês.
Segundo os pesquisadores, as respostas provavelmente mostram que os modelos dependem fortemente da mídia estatal chinesa para obter informações em chinês. (O enorme aparato de propaganda chinesa no idioma produz um grande volume de conteúdo, enquanto vozes independentes e críticas muitas vezes são abafadas ou censuradas.)
“O que a IA faz é separar o mensageiro da mensagem”, disse Brandon Stewart, professor de sociologia em Princeton e um dos autores do estudo. “Acho que as pessoas reagiriam de maneira muito diferente— algumas de forma mais positiva, outras de forma mais negativa— se soubessem que a resposta que estão recebendo vem do Diário do Povo.”
Uma coisa é a mídia estatal chinesa influenciar indiretamente os modelos de IA. Mas a China também quer que seus dados —que, em alguns casos, carregam narrativas oficiais— façam parte da matéria-prima usada para desenvolver modelos.
O país já concedeu aos desenvolvedores acesso gratuito a alguns grandes conjuntos de dados em repositórios globais como GitHub e Hugging Face.
O maior desses conjuntos de dados, chamado WanJuan —expressão chinesa que significa “dez mil pergaminhos”—, poderia ser usado por desenvolvedores como ponto de partida para criar ou fazer o ajuste fino de sistemas de IA.
A coleção, criada pelo Laboratório de IA de Xangai, apoiado pelo estado chinês, abrange história, esportes, direito, atualidades, medicina e literatura e foi concebida para estar alinhada aos “valores predominantes da China”. Além do chinês, o WanJuan está disponível em árabe, coreano, russo, tailandês e vietnamita.
A iniciativa de Pequim também se apoia na adoção de modelos chineses de IA de baixo custo, cujo desempenho é quase tão bom quanto o de modelos americanos mais caros. Esses conjuntos de dados poderiam ser atraentes para usuários de países em desenvolvimento nos quais os modelos chineses de IA avançaram consideravelmente, disse Kenton Thibaut, pesquisador sênior do Atlantic Council que estuda o papel de Pequim na tecnologia global.
“Isso faz parte da criação de uma dependência tecnológica que beneficia as empresas chinesas e a influência de Pequim”, disse Thibaut. “O objetivo mais amplo é tornar o mundo mais seguro para o partido, e isso envolve controlar grande parte da maneira como o mundo funciona com base na IA.”
Autor: Folha
