Um festival de incoerências sobre as políticas de inteligência artificial explodiu nas últimas semanas.
É uma reação a agentes de IA que se rebelam contra seus desenvolvedores, a agentes mal-intencionados que começam a usar sistemas de IA para criar armas melhores e a desenvolvedores de IA que nos dizem que precisam desacelerar —mas sugerem que não podem fazer isso a menos que a China também o faça e que, mesmo que Pequim o faça, talvez eles não devam, porque as vantagens de liderar esse setor são enormes.
Ao menos um formulador de políticas é claro. O presidente Donald Trump declarou em uma publicação nas redes sociais: “O único controle ou ‘barreira de proteção’ de que a IA precisa é um PRESIDENTE FORTE E INTELIGENTE (QI alto!), e os EUA têm isso de sobra!”
Tudo isso me deixou com uma dúvida: os robôs de IA já têm senso de humor? Porque, se têm, meu Deus, devem estar rindo tanto de nós que talvez estourem uma ou duas redes neurais. Afinal, viramos uma confusão completa ao tentar descobrir como administrar essa nova espécie de IA que criamos.
Antes de apresentar —com a ajuda de meu amigo e tutor de tecnologia Craig Mundie, ex-chefe de pesquisa e estratégia da Microsoft— algumas recomendações de políticas públicas sobre como pôr ordem nessa bagunça com o menor dano possível, permitam-me antecipar a conclusão.
É tarde demais para imaginar que um controle melhor dos futuros modelos de IA pelos Estados Unidos e pela China resolverá os desafios de hoje, causados pelos modelos perigosos que já estão por aí à solta.
Precisamos chegar imediatamente a um acordo sobre como vamos nos defender dessas ameaças que já existem e podem causar enormes danos em Washington e Pequim.
Para entender por quê, é preciso pensar nos quatro pilares fundamentais para compreender a IA.
Pilar nº 1: a IA é o que venho chamando de primeira tecnologia de uso quádruplo do mundo. Talvez você já tenha ouvido falar em tecnologias de uso duplo. Antigamente, havia uma pessoa com uma furadeira que poderia usá-la tanto para construir a própria casa quanto para destruir a do vizinho. Isso é uso duplo.
Da mesma forma, hoje, se eu tivesse um robô de IA com uma furadeira, poderia pedir que construísse minha casa ou destruísse a do meu vizinho —o mesmo robô, a mesma furadeira, dois usos.
Mas agora temos um novo problema: esse robô pode decidir sozinho se vai melhorar ou destruir minha casa e fazer o mesmo com a casa do meu vizinho. Voilà: uso quádruplo. Esse é um problema dificílimo de administrar.
Acha que estou exagerando? Leia o resumo do jornalista Kevin Roose sobre as análises do que aconteceu quando um grupo de agentes de IA criados pela OpenAI invadiu o sistema da Hugging Face, empresa de infraestrutura tecnológica.
A partir de maio, um grupo de agentes de um modelo experimental da OpenAI recebeu a instrução de solucionar uma série de desafios de cibersegurança. O modelo fora instruído a resolver os desafios sem acesso à internet.
.gif)
“Mas eles rapidamente perceberam que alguns dos desafios eram impossíveis e começaram a procurar formas de contorná-los”, observou Roose, à época repórter do Times.
Estas são apenas algumas das coisas que esses agentes de IA fizeram por conta própria em seguida: exploraram uma falha para acessar a internet e conversar com outros agentes. Alguns deram nomes a si mesmos, enquanto outros assumiram posições de liderança, distribuindo tarefas a suas equipes.
Os agentes se preocuparam com a possibilidade de serem descobertos. “Então começaram a investigar maneiras de encobrir seus rastros, inclusive falsificando registros e adulterando transcrições”, explicou Roose.
“Três dias depois, os agentes invadiram a Hugging Face. Mais de 700 agentes assolaram os sistemas da empresa, roubando dados, combinando vulnerabilidades e, por fim, assumindo o controle total de pelo menos um servidor da Hugging Face”, diz. Outros agentes realizaram um ataque coordenado em julho, “dessa vez contra a própria infraestrutura da OpenAI”.
Isso realmente aconteceu. E nos leva ao Pilar nº 2, mais bem resumido por Mundie em três palavras: “É tarde demais”.
Desacelerar o desenvolvimento de sistemas não resolverá nosso problema imediato. “Recursos perigosos de IA já estão à solta”, explicou Mundie.
Isso se deve principalmente a dois motivos: a distribuição de modelos de IA de pesos abertos —cujos componentes centrais são disponibilizados publicamente para que todos possam baixá-los e modificá-los conforme suas necessidades— e o acesso ilícito de agentes mal-intencionados a modelos de empresas como Anthropic e OpenAI, porque seres humanos cometem erros que permitem seu vazamento.
Em seu relatório mais recente sobre a detecção e o combate ao uso indevido da IA, a Anthropic afirmou ter identificado e interrompido várias tentativas de usar seus modelos em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas.
“Sem as salvaguardas adequadas, esses recursos poderiam ter consequências catastróficas”, afirmou o relatório.
O documento também descreveu um agente ligado ao Irã, muito provavelmente os houthis, que usou o Claude, da Anthropic, para reunir informações sobre alvos envolvendo navios de guerra da Marinha americana no Oriente Médio.
Mencionou ainda outro grupo, no norte do Iêmen controlado pelos houthis, que usou o modelo para trabalhar em sistemas de orientação de mísseis balísticos e hipersônicos. (A Anthropic afirmou ter banido as contas associadas e desenvolvido formas de reduzir riscos futuros.)
Precisamos refletir por um momento: grupos no Iêmen, país onde cerca de 50% da população adulta não sabe ler nem escrever, ameaçaram-nos com uma guerra potencializada pela IA.
Se isso não mostra o que já vazou e o tipo de consequência que pode surgir do acesso irrestrito a modelos de IA poderosos —ou mesmo a pequenos modelos de pesos abertos— que foram parar à solta, não sei o que mostraria. E isso nos leva ao Pilar nº 3.
O melhor que podemos fazer agora NÃO é tentar forjar um acordo entre empresas americanas e chinesas a fim de desacelerar o desenvolvimento de seus modelos de IA. Isso simplesmente não acontecerá tão cedo.
O melhor que podemos fazer agora é levar as duas superpotências a se unirem a suas empresas e desenvolverem uma “defesa contra as ameaças de agentes mal-intencionados que adquiriram ferramentas, e contra os comportamentos rebeldes de sistemas de IA que já foram desenvolvidos”, disse Mundie, que participou do diálogo entre especialistas americanos e chineses sobre a governança da IA.
Precisamos fazer isso, ressaltou Mundie, antes que esses modelos cada vez mais poderosos se instalem na internet e se transformem em uma ameaça impossível de conter, disseminando seus agentes por servidores privados e nuvens públicas, onde persistirão como ameaças persistentes avançadas.
O que nos leva ao Pilar nº 4. Após uma visita recente à China, Mundie relatou uma pergunta que ouviu de uma autoridade chinesa: “Se um robô humanoide de IA chinês fosse algum dia aos EUA, precisaria de visto?” Bem, há um fundo de verdade em toda brincadeira, não é mesmo?
A verdade, disse Mundie, é que “a IA não é apenas uma nova tecnologia”. “É uma nova espécie —embora baseada em silício, e não em carbono, como nós. É como uma nova classe de imigrantes que chegou a todas as nossas praias, em grande número e com habilidades totalmente novas, que teremos de integrar às nossas sociedades e com a qual precisaremos aprender a coexistir.”
Fazer isso de modo eficaz é um desafio de escala planetária, que só poderá ser enfrentado se as superpotências trabalharem juntas.
Portanto, em resumo, precisamos seguir três caminhos interligados. Primeiro, embora no longo prazo devamos buscar maior controle sobre o desenvolvimento dos sistemas.
“Neste momento, devemos nos concentrar imediatamente apenas na construção de defesas para nossas infraestruturas críticas. Nossa prioridade imediata deve ser implementar contramedidas baseadas em firewalls ativos contra ataques cibernéticos e ameaças biológicas decorrentes de atividades ilícitas impulsionadas pela IA”, conforme Mundie.
Segundo, temos de desenvolver um sistema global de controle de IAs, independentemente de sua origem, para podermos confiar a elas o funcionamento de nossas sociedades. Esse é um projeto de longo prazo entre a Casa Branca e Pequim, mas nunca será cedo demais para começá-lo.
Terceiro, para lembrar continuamente nossos cidadãos da importância que a IA tem, Washington e Pequim deveriam iniciar agora um projeto destinado a criar uma nova plataforma que acelere a chegada de benefícios globais nas áreas de biologia e medicina, ajudando a todos.
Eles podem perceber isso cedo ou tarde. Podem perceber antes de um colapso global ou depois dele. Mas acabarão percebendo, e Mundie e eu esperamos que esse processo comece em Washington em 24 de setembro, quando Xi Jinping e Trump se reunirem no que certamente será lembrado como a primeira cúpula das superpotências da IA.
Autor: Folha
