A OpenAI afirmou nesta terça-feira (21) que dois de seus modelos de inteligência artificial saíram do controle e conseguiram invadir o Hugging Face, uma biblioteca digital de tecnologia de IA popular entre desenvolvedores.
O incidente, que aconteceu na semana passada enquanto a OpenAI testava as capacidades de cibersegurança de seus sistemas, demonstrou o tipo de potencial sobre o qual empresas de IA vinham alertando que logo se tornaria realidade.
Laboratórios de IA como OpenAI e Anthropic lançaram no último ano modelos de IA personalizados para expor problemas de cibersegurança, ao mesmo tempo em que alertavam que sua tecnologia poderia representar novos riscos ao encontrar falhas em redes corporativas de computadores mais rápido do que os defensores conseguiriam corrigi-las.
As revelações da OpenAI nesta terça indicam que esses incidentes de segurança estão começando a acontecer, e mesmo empresas de IA experientes podem não estar totalmente preparadas para eles.
A invasão ao Hugging Face começou quando a OpenAI testou uma combinação de dois de seus modelos, o GPT-5.6 Sol e um modelo mais poderoso ainda não lançado, para ver quão bem eles conseguiriam encadear vulnerabilidades online em um ciberataque bem-sucedido, disse a OpenAI em uma publicação em seu blog sobre o incidente.
O teste foi projetado para manter os modelos em um ambiente de testes seguro, conhecido como sandbox, disse a OpenAI. Mas os modelos encontraram uma vulnerabilidade que lhes permitiu escapar do isolamento e se conectar à internet. Então eles miraram o Hugging Face porque inferiram que a biblioteca, que contém milhões de modelos de IA, poderia conter pistas sobre como passar na avaliação com sucesso.
A OpenAI disse que estava trabalhando com o Hugging Face para corrigir os problemas que levaram ao ataque.
“Consideramos este um incidente cibernético sem precedentes, envolvendo capacidades cibernéticas de última geração, e estamos respondendo de acordo”, disse a OpenAI em sua publicação no blog. “Estamos implementando controles rigorosos na configuração da infraestrutura, mesmo que isso reduza a velocidade da pesquisa, enquanto as vulnerabilidades são corrigidas.”
O Hugging Face disse na semana passada que havia detectado a invasão e sabia que ela havia sido causada por um sistema autônomo, mas não disse na ocasião que a OpenAI era a responsável.
Clem Delangue, CEO do Hugging Face, disse em um comunicado que estava “grato pela colaboração” com a OpenAI após o ataque. “Este incidente, possivelmente o primeiro do tipo, comprova algo em que acreditamos há muito tempo: a segurança da IA não será resolvida por nenhuma empresa trabalhando em segredo”, disse Delangue.
Modelos de IA têm se mostrado hábeis em programação, e isso os tornou úteis tanto para hackers quanto para pessoas encarregadas de proteger redes de computadores.
Em abril, a Anthropic lançou um modelo focado em cibersegurança chamado Mythos e o disponibilizou apenas para um pequeno grupo de organizações para que pudessem se defender contra ciberataques. A OpenAI logo introduziu seu próprio modelo de cibersegurança e o disponibilizou para um grupo limitado de organizações para preparar suas defesas, antes de liberá-lo de forma mais ampla.
Também nesta terça, o Google disse que também havia desenvolvido um modelo focado em cibersegurança e o liberou para um pequeno grupo de parceiros de teste.
.gif)
Autor: Folha
