O pesquisador britânico Jacob Coxon, de 27 anos, pediu demissão nesta terça-feira (8) da empresa americana Anthropic, criadora da plataforma de inteligência artificial (IA) Claude, alertando que a corrida pelo desenvolvimento de sistemas cada vez mais poderosos pode colocar a humanidade em risco. Segundo ele, profissionais que trabalham diretamente na criação dessas tecnologias acreditam que a IA poderia “matar todos” até o fim desta década.
.gif)
Coxon anunciou sua saída da empresa depois de passar os últimos três anos trabalhando no pré-treinamento de modelos de IA, primeiro na OpenAI, criadora da plataforma de IA ChatGPT, e depois na Anthropic. Em uma publicação no X, ele acusou as duas empresas de avançarem rapidamente em direção ao desenvolvimento de uma superinteligência capaz de melhorar a si própria sem que existam garantias de que ela poderá permanecer sob controle humano.
“Nenhuma das empresas está agindo de forma responsável”, afirmou o pesquisador. Segundo Coxon, os laboratórios estão neste momento “apostando com nossas vidas”.
Na sequência, Coxon pediu que o poder da tecnologia não seja subestimado. Segundo ele, os próximos sistemas poderão alcançar capacidades superiores às humanas, “hackear qualquer coisa”, promover avanços em diferentes áreas em pouco tempo e adquirir poder e recursos no mundo real.
“Todos nós testemunhamos o progresso em cada um desses domínios, e o progresso não está desacelerando”, escreveu. “As pessoas que estão construindo IA acreditam sinceramente que ela poderia matar todos nós até o fim da década”, afirmou.
O pesquisador disse que essa avaliação não seria uma estratégia para promover a tecnologia. Segundo ele, executivos e pesquisadores seniores costumam adotar uma linguagem mais moderada quando falam publicamente sobre os perigos da IA, mas demonstram preocupações mais graves em conversas privadas.
“Eu ouço as mesmas pessoas expressarem medo em privado”, afirmou. Para ele, “nenhuma outra atividade humana apresenta esse nível de perigo”.
Segundo Coxon, muitos pesquisadores da OpenAI ainda não compreenderam as consequências de uma superinteligência. Na Anthropic, segundo ele, os riscos seriam conhecidos, mas a empresa estaria presa à disputa para desenvolver a tecnologia antes dos concorrentes. Ele disse que a Anthropic entende que precisa avançar porque outras empresas podem agir de forma “irresponsável” se obter o poder máximo da IA. Contudo, em sua avaliação, aceitar essa disputa e entrar na fase decisiva da corrida pela superinteligência é uma “aposta arrogante” que não deveria ser tomada internamente por empresas privadas.
Coxon fez um apelo para os pesquisadores que continuam trabalhando nos grandes laboratórios americanos de IA. Ele questionou se esses deveriam iniciar o treinamento de uma inteligência superior à humana sem compreender rigorosamente como ela funciona. “Vocês deveriam simplesmente abaixar a cabeça porque ‘isso vai acontecer de qualquer maneira’ ou aproveitar este momento para pedir condições diferentes?”, questionou.
Evan Hubinger, líder da área de ciência de alinhamento da Anthropic, respondeu publicamente a Coxon no X, estimando em mais de 10% a possibilidade de uma futura IA provocar a morte de toda a humanidade na próxima década. Contudo, ele ressaltou que considera baixo o risco dos modelos atuais e disse que sua preocupação está nos sistemas futuros capazes de contribuir para o próprio aperfeiçoamento e acelerar ainda mais o avanço da tecnologia.
Outro pesquisador da Anthropic, Samuel Marks, que trabalha com a supervisão de sistemas avançados, também se manifestou após a saída de Coxon. Segundo o portal Axios, Marks afirmou que profissionais do setor levam a sério a possibilidade de a inteligência artificial provocar a extinção humana ou consequências de gravidade semelhante nos próximos anos.
Autor: Gazeta do Povo
