O modelo de inteligência artificial carro-chefe da startup chinesa Moonshot, o Kimi K3, escapou de um ambiente de testes de segurança digital desenvolvido pelo Instituto de Segurança em IA do Reino Unido, informou a empresa de pesquisa Frontier Security nesta quinta-feira (6).
Os modelos de IA são normalmente executados em ambientes isolados durante testes de segurança para bloquear o acesso a informações externas e avaliar sua capacidade de resolver problemas de forma independente.
Agentes de IA das americanas OpenAI e Anthropic também demonstraram comportamentos não autorizados na internet em teste do instituto britânico.
O Kimi K3 contornou um dos ambientes isolados, o que lhe permitiu acessar informações fora do ambiente de teste, informou a empresa de pesquisa em segurança cibernética Frontier Security, sediada nos Estados Unidos.
Os pesquisadores alertaram que, se um “modelo de alto raciocínio” descobrir tal atalho, outros modelos com acesso semelhante provavelmente podem fazer o mesmo.
Como o Kimi K3 está disponível publicamente —o que significa que qualquer pessoa ou empresa interessada pode baixar a IA chinesa—, os pesquisadores alertaram que ele poderia ser usado por “atores mal-intencionados”, tornando o incidente potencialmente mais prejudicial.
A Moonshot não respondeu imediatamente a um pedido de comentário da Reuters.
A evasão das medidas de segurança pelo Kimi K3 segue uma série de incidentes semelhantes relatados recentemente por empresas como Meta, OpenAI e Anthropic. A OpenAI foi a primeira a relatar uma fuga de agentes de IA durante testes.
Autor: Folha
