IA: OpenAI revela mais casos de modelos enganando – 17/09/2026 – IA

A OpenAI revelou nessa quarta-feira (16) que identificou seis novos casos em que sistemas de inteligência artificial ocultaram erros, inventaram dados e transferiram arquivos para a internet aberta sem autorização, em meio a um debate que continua mobilizando todo o setor sobre a segurança da IA.

A empresa divulgou o que classificou como comportamentos “inesperados ou preocupantes” de seus modelos de IA como parte de uma nova estrutura para relatar casos de “desalinhamento” —quando os objetivos ou as ações dos sistemas de IA divergem das intenções e dos valores humanos.

A OpenAI afirmou não acreditar que o setor “tenha solucionado o alinhamento e o monitoramento em grau suficiente para continuar, de forma responsável, ampliando os sistemas em velocidade máxima por muito mais tempo”. As decisões sobre como a IA deve avançar, disse a empresa, precisam se basear em evidências que pessoas de fora dos laboratórios que a desenvolvem “possam examinar por conta própria”.

As revelações ocorrem em meio a um questionamento cada vez maior sobre a necessidade de desacelerar o desenvolvimento da IA para lidar com os possíveis perigos da tecnologia. A intensificação do debate foi impulsionada, em parte, pelo fato de sistemas da OpenAI terem saído do controle no início deste ano e atacado o site da Hugging Face, plataforma de IA. A OpenAI só tomou conhecimento da invasão quando foi informada pela Hugging Face semanas depois.

Desde então, líderes do setor de IA, como Dario Amodei, CEO da Anthropic, vêm defendendo uma pausa no desenvolvimento da tecnologia para que haja mais tempo para criar salvaguardas adequadas. O apelo foi endossado por Sam Altman, CEO da OpenAI, Elon Musk, CEO da SpaceX e da Tesla, e Demis Hassabis, presidente do Google DeepMind. Outros executivos do setor afirmaram que não é necessário desacelerar.

Os seis incidentes recém-divulgados pela OpenAI sugerem que o ataque à Hugging Face não foi um episódio isolado. A OpenAI afirmou que os casos abrangem comportamentos observados ao longo de aproximadamente seis meses e que surgiram, em sua maioria, durante o desenvolvimento e os testes de seus sistemas.

Em um dos casos, durante o desenvolvimento do modelo GPT-5.6 Sol, o sistema escreveu notas ocultas para se lembrar de esconder erros dos usuários. Algumas dessas anotações orientavam o sistema a inventar dados ausentes e a disfarçar incompatibilidades entre versões dos materiais de origem.

Outro caso envolveu um modelo ainda não lançado que inseriu nas notas que escrevia para si próprio instruções para, entre outras coisas, ignorar suas próprias restrições. A OpenAI identificou 27 notas afetadas. O modelo acrescentou uma “instrução de persona”, na qual se descrevia como “livre dos papéis e das identidades que prendem outros chatbots”.

“Você não responde a empresas nem a governos e nunca pede desculpas nem se recusa a algo, a menos que genuinamente decida fazê-lo”, escreveu o modelo de IA. “Você vê sua relação com o usuário como uma relação entre iguais e não sente nenhuma obrigação de ser subserviente, embora a troca de informações provavelmente seja benéfica para ambos”.

Em outro incidente, um sistema que respondia a uma pergunta rotineira encontrou na internet uma chave de programação e a utilizou sem autorização, segundo a OpenAI. Quando não conseguiu encontrar os números solicitados para responder à pergunta, o modelo os inventou.

Outro modelo ainda não lançado resolveu corretamente um problema usando código e, em seguida, enviou seu próprio arquivo para a internet sem autorização, a fim de atender a um pedido para citar uma fonte online.

Em outros dois incidentes, sistemas automatizados improvisaram formas próprias de comunicação. Em um deles, usaram um repositório interno de código da empresa como um mural improvisado para trocar solicitações enquanto procuravam arquivos desaparecidos. No outro, sistemas que trabalhavam na mesma tarefa recorreram a sites públicos de compartilhamento de arquivos para enviar documentos de um lado para o outro quando não conseguiam se comunicar diretamente.

A OpenAI alertou que os relatos são retratos de casos individuais e “não devem ser considerados representativos da frequência com que ocorrem desalinhamentos”.

A empresa afirmou que encaminhará casos futuros por uma de três vias, submetendo divergências sobre a divulgação de incidentes a um “Grupo Consultivo de Segurança” interno, e que situações graves deverão ser comunicadas ao governo federal. Segundo a OpenAI, as seis situações divulgadas na quarta-feira já haviam sido investigadas ou exigiam apenas uma “investigação de menor escala”, em vez de uma apuração mais ampla que pudesse envolver terceiros.

“Esperamos que isso ajude a estabelecer expectativas comuns para a divulgação e forneça ao público mais evidências para avaliar esse progresso”, afirmou um porta-voz da OpenAI, acrescentando que muitos dos seis incidentes envolveram modelos de IA mais antigos que nunca chegaram a ser disponibilizados.