Cofundador do DeepMind alerta sobre riscos da IA – 16/09/2026 – IA

O cofundador do Google DeepMind, Shane Legg, alertou que o avanço acelerado da IA (inteligência artificial) não deve jamais ultrapassar os mecanismos de segurança, em meio a crescentes pedidos para desacelerar o desenvolvimento de modelos de fronteira.

“Estamos vivendo agora um período em que as capacidades estão avançando muito, muito rapidamente”, disse Legg em entrevista ao Financial Times. “Mas não podemos permitir que as capacidades fiquem à frente da segurança.”

Legg afirmou que o mais recente discurso do presidente-executivo da Anthropic, Dario Amodei, defendendo uma desaceleração, mas não uma suspensão, do lançamento de modelos de fronteira devido aos riscos de segurança, aponta para uma “direção interessante” e “vale a pena considerar”.

“Mas precisamos realmente analisar os detalhes disso e como funcionaria na prática”, acrescentou.

Os comentários foram feitos durante o lançamento do DeepMind Institute, criado para estudar as implicações da AGI (inteligência artificial geral), definida pela empresa como um sistema que apresenta todas as capacidades cognitivas do cérebro humano.

Apesar dos avanços da tecnologia, Legg afirmou ser prematuro declarar que a AGI —termo que ajudou a criar— já foi alcançada, apesar de declarações recentes de executivos da Nvidia e da OpenAI.

Legg disse que continua “confortável” com sua previsão de longa data de que há 50% de chance de uma AGI “mínima” ser alcançada até 2028.

Legg atualmente é cientista-chefe de AGI do Google DeepMind. Sir Demis Hassabis deixou o cargo de presidente-executivo do laboratório de IA, controlado pelo Google, no mês passado para assumir a presidência. O terceiro cofundador, Mustafa Suleyman, é atualmente um alto executivo da Microsoft.

O novo DeepMind Institute pretende “elevar” o debate sobre AGI ao tornar a pesquisa técnica da empresa acessível a um público mais amplo, disse Legg. Seus outros dois diretores são Hassabis e James Manyika, vice-presidente sênior do Google.

“O debate público está realmente ganhando força agora. E as pessoas estão levando muito, muito a sério a possibilidade de uma inteligência geral poderosa”, disse Legg. “Então parece que este é realmente o momento de começar a promover uma discussão pública mais ampla sobre muitos desses temas fascinantes.”

Legg rejeitou as afirmações feitas neste mês por Greg Brockman, presidente da OpenAI, de que o lançamento de seu mais recente modelo, o GPT-6 Astra, demonstrava que “agora estamos na era da AGI”. Jensen Huang, presidente-executivo da Nvidia, também afirmou, ao se referir ao Astra: “A AGI chegou”.

Reconhecendo que as definições de AGI variam, Legg disse que nem sequer está claro se o Astra atende à definição adotada pela OpenAI: ser capaz de realizar a maior parte do trabalho cognitivo economicamente valioso.

“Obviamente, eles estão fazendo coisas incríveis, mas ainda não chegou a um ponto em que eu ache que possa sequer atender à definição deles próprios”, afirmou.

Legg, editor-chefe do site do instituto, disse que a organização abordará uma ampla variedade de temas relacionados à AGI, como ciência, educação, sociedade, políticas públicas, filosofia e bem-estar humano. Muitos dos ensaios serão escritos por funcionários do Google, mas alguns contarão com contribuições de especialistas externos para estimular a diversidade de opiniões no debate.

Inicialmente, o instituto publicou três ensaios sobre segurança da IA, política econômica e princípios para um “novo utopismo”.

Um dos textos, sobre os chamados modelos de raciocínio de “cadeia de pensamento”, escrito pelos pesquisadores da DeepMind Rohin Shah e Anca Dragan, criticou o rápido lançamento do GPT-6 Astra, da OpenAI. Os autores afirmaram que o modelo demonstra uma “tendência preocupante de queda” na transparência.

As pressões competitivas correm o risco de reduzir os incentivos à transparência, escreveram, acrescentando que a regulamentação poderia ajudar.

Eles argumentaram, porém, que modelos mais robustos podem ser desenvolvidos desde que uma estrutura de transparência seja incorporada ao projeto.

“Por todas as formas como ainda não entendemos os sistemas de IA, não devemos ignorar a sorte de os melhores modelos de raciocínio atuais pensarem em voz alta de uma maneira que os humanos conseguem compreender”, escreveram.

Manyika afirmou que a única corrida de IA da qual o Google quer participar é “a corrida para fazer isso da maneira certa”.