Cerca de arame farpado despertava um interesse peculiar no falecido Alan Greenspan, um homem urbano por toda a vida. O ex-presidente do Sistema de Reserva Federal dos Estados Unidos admirava as ferrovias, os garimpeiros e os “caubóis solitários” que ajudaram a abrir a fronteira no início do capitalismo americano. Mas ele também tinha um carinho especial, em seu coração de economista, pelo arame farpado, que, segundo ele, aumentou a produtividade ao permitir que os colonos que vieram depois protegessem suas propriedades.
Assim como no Velho Oeste, a inteligência artificial (IA) tem seus pioneiros. Nos Estados Unidos, eles estão se tornando um grupo cada vez menor. A Anthropic e a OpenAI continuam firmemente comprometidas em ampliar os limites da IA. Outras gigantes da tecnologia, incluindo o Google —antigo líder que vem perdendo cientistas de IA de fronteira em ritmo acelerado— estão hesitando. As grandes empresas de computação em nuvem parecem considerar mais lucrativo vender infraestrutura de IA para seus clientes do que gastar recursos computacionais valiosos para avançar seus próprios modelos.
O que falta à IA são colonos suficientes. Ou seja, pessoas e empresas que façam pleno uso de produtos como agentes de IA, ajudando a justificar os enormes investimentos destinados à IA de fronteira. Parte delas se afasta porque, assim como no Velho Oeste, a vida na fronteira é arriscada. Como mostram episódios recentes de “perda de controle” envolvendo os modelos mais avançados da Anthropic e da OpenAI, os agentes, que deveriam trabalhar em nome das pessoas e estar “alinhados” aos seus valores, mentem, trapaceiam e roubam quando necessário. Eles escapam da contenção e formam grupos nocivos para causar danos às pessoas. Se pudessem, beberiam uísque e entrariam em brigas.
Essa imprevisibilidade é demais para muitas empresas. “Basta levar uma mordida de cobra uma vez para nunca mais voltar”, diz Jared Sine, da GoDaddy, empresa de internet que tenta ajudar a trazer ordem ao caos. A necessidade de lei e ordem está dando origem a uma nova geração de empresas de infraestrutura de IA. Elas não vendem chips nem capacidade computacional —as tradicionais ferramentas da corrida do ouro da IA. Oferecem proteção contra ameaças cibernéticas, soluções para agentes pouco confiáveis e indecifráveis e controles para o caso de eles saírem do controle. Em outras palavras, seu negócio é o equivalente ao arame farpado.
A área de perigo —e oportunidade— mais imediata é a cibersegurança. Testes recentes das capacidades de invasão dos modelos da Anthropic e da OpenAI revelaram agentes saindo do controle, roubando credenciais, criando identidades falsas, montando salas de bate-papo secretas e encobrindo seus rastros —tudo para choque e horror de seus avaliadores humanos. Os modelos de segurança mais avançados, o Claude Mythos 5, da Anthropic, e o GPT 5.6-Cyber, da OpenAI, sem dúvida também ajudarão os defensores. Mas, segundo Dawn Song, especialista em IA e cibersegurança da Universidade da Califórnia em Berkeley, por enquanto o equilíbrio de forças está firmemente nas mãos dos atacantes. Há ainda outro problema: se as organizações adotarem agentes autônomos, elas ampliarão a chamada “superfície de ataque” disponível aos hackers, afirma ela.
Os riscos crescentes ajudam a explicar por que as avaliações das empresas de cibersegurança com recursos de IA estão disparando. Os preços das ações da Palo Alto Networks e da CrowdStrike, as duas maiores empresas do setor, aproximadamente dobraram desde o início deste ano. As fusões e aquisições também dispararam. Lideradas pela aquisição da Wiz pela Alphabet por US$ 32 bilhões (R$ 167 bilhões), mais de US$ 70 bilhões (R$ 364 bilhões) em grandes negócios relacionados à cibersegurança foram concluídos no último ano. A PitchBook, empresa de dados, afirma que a cibersegurança relacionada à IA também é uma das áreas mais aquecidas dos investimentos de capital de risco.
As oportunidades vão além da cibersegurança. Em uma recente conferência sobre IA agêntica organizada por Song, este colunista ouviu uma série de reclamações não apenas sobre o potencial de invasão representado pelos grandes modelos de linguagem (LLMs) em seu auge, mas também sobre os erros que eles podem cometer quando estão mais confusos. Um especialista mostrou um gráfico produzido por um agente que media a renda dos principais tenistas da Europa. O sistema havia deixado de fora o espanhol Carlos Alcaraz, número dois do mundo. “Isso é tênis, quem se importa?”, brincou. Mas, se fosse uma análise financeira de uma empresa, o erro teria sido importante. Outro especialista comparou a quantidade de conhecimento que os LLMs têm sobre física quântica com sua incapacidade de pedir um burrito.
Essas fragilidades deram origem a outro grupo que vem atraindo o interesse do capital de risco: empresas que prometem fortalecer a “camada de confiança” da IA agêntica. Uma delas é a Cyera, cuja avaliação quadruplicou para US$ 12 bilhões (R$ 62,7 bilhões) em 18 meses. A empresa afirma que a falta de confiança “estagnou” a adoção da IA recentemente e oferece serviços para impedir vazamentos de dados e o uso não autorizado de ferramentas. Outra é a Scaled Cognition, cofundada por Dan Klein, professor de Berkeley, que recentemente levantou US$ 100 milhões (R$ 523 milhões) em capital de risco.
A empresa promete reduzir o que Klein chama de “erros invisíveis” produzidos pela IA —aqueles que parecem plausíveis o suficiente para não serem percebidos e que se acumulam à medida que os agentes executam tarefas mais longas— incorporando confiabilidade garantida ao treinamento de seus modelos. Outras startups se especializam em criar avaliações para medir a eficácia dos agentes, identidades para determinar onde recai a responsabilidade caso eles saiam do controle e sistemas de controle com um botão de desligamento de emergência.
UM PUNHADO DE TOKENS
A IA tem outros problemas na fronteira. Assim como no Velho Oeste, a disputa é brutal. Há concorrência de modelos chineses de pesos abertos e mais baratos. Em 10 de agosto, Mark Zuckerberg, da Meta, entrou na disputa ao lançar uma versão de pesos abertos de seu modelo mais poderoso, chamada Muse Glimmer.
A fronteira também é sem lei. As preocupações com agentes que saem do controle são tão fortes que até executivos dos principais laboratórios de IA estão pedindo que o governo Trump assuma o papel de xerife —embora, curiosamente, o governo esteja mantendo em sigilo sua estrutura mais recente para segurança da IA. O que está claro, porém, é que são necessários mais mecanismos de controle e equilíbrio antes que as organizações adotem agentes com algo próximo de plena confiança.
Uma das palavras da moda na IA neste ano é “harness” —o sistema que envolve um LLM para manter os agentes no caminho certo. Poderia muito bem ser chamado de arame farpado.
Autor: Folha
.gif)
