A Anthropic anunciou no mês passado que limitaria o lançamento do Mythos, seu sistema mais recente de IA, a um número pequeno de organizações, incluindo algumas corporações gigantes de tecnologia, como a Microsoft e o Google, e grupos que administram partes importantes da internet.
De acordo com a Anthropic, o novo sistema é poderoso demais para ser compartilhado com o público em geral, porque hackers poderiam usá-lo para explorar falhas de segurança em redes de computadores com uma velocidade impressionante.
Executivos do Vale do Silício e autoridades em Washington ficaram alarmados com o potencial do Mythos, e o lançamento dele pode ter contribuído para enfraquecer a resistência do governo Trump à regulamentação da IA.
Agora, a Casa Branca está avaliando formas de supervisão governamental sobre os novos modelos de IA mediante uma ordem executiva que criaria um grupo de trabalho reunindo executivos de tecnologia e autoridades públicas para examinar possíveis mecanismos regulatórios. A criação de um processo formal de revisão governamental para novos modelos de IA está entre as propostas em discussão.
Mais de um mês depois do lançamento do Mythos, contudo, especialistas em segurança cibernética ainda não chegaram a um consenso quanto à decisão da Anthropic. Alguns aplaudem a companhia por restringir o acesso ao Mythos. Outros criticam a empresa por não compartilhar com um grupo mais amplo de pesquisadores que poderiam testá-lo e entender as capacidades e limitações dele. Parece que, até agora, o único consenso é que não há consenso sobre o Mythos.
A Anthropic compartilhou a tecnologia com cerca de 40 organizações que mantêm uma infraestrutura crítica de computação, para que pudessem usar o sistema com o objetivo de corrigir vulnerabilidades de segurança antes que hackers se aproveitassem delas.
Apenas alguns dos grupos ou das empresas que passaram algum tempo usando o Mythos se dispuseram a discutir o assunto com o The New York Times. Mas companhias e pesquisadores que não tiveram acesso concordaram alegremente em oferecer suas opiniões sobre a forma como a Anthropic lançou sua nova IA.
Os comentários até agora variaram da indiferença à preocupação acentuada. Pode demorar algum tempo até que a comunidade tecnológica em geral conclua se a Anthropic agiu corretamente ao limitar o lançamento do Mythos —desafio que os executivos da empresa reconhecem.
“Para recursos como esse —ou para um modelo tão poderoso assim—, a situação atual não tem precedentes, porque de fato não temos todas as respostas. Não sabemos direito qual é a melhor maneira de lançar modelos como esse”, afirmou Logan Graham, chefe do Frontier Red Team da Anthropic, que avalia os riscos do Claude.
Especialistas podem analisar a mesma situação e chegar a conclusões muito diferentes em razão da natureza inerentemente complexa da segurança cibernética. Sistemas como o Mythos podem ser usados para atacar redes de computadores, mas também para se defender de ataques. Discutem-se, há décadas, as melhores maneiras de lidar com essa dualidade.
A maioria dos especialistas concorda que tecnologias de IA como o Mythos estão alterando fundamentalmente a cibersegurança. Essa mudança ganhou força há cerca de seis meses, quando a Anthropic e sua concorrente principal, a OpenAI, lançaram novos sistemas particularmente competentes na criação de código de computador. Se um sistema de IA consegue escrever código, ele tem o potencial de encontrar e explorar vulnerabilidades em aplicativos de software.
Quando apresentou o Mythos, a Anthropic afirmou ter usado a tecnologia para descobrir milhares de vulnerabilidades de segurança que haviam permanecido sem detecção durante anos em sistemas de software populares. A companhia também declarou que o Mythos é mais eficiente em identificar falhas de segurança distintas e conectá-las em “cadeias de exploração” (exploit chains), usadas por hackers mal-intencionados para explorar brechas múltiplas como parte de um ataque coordenado. Nas palavras da corporação, a tecnologia representa uma “mudança de patamar” no que é possível fazer com a IA.
A Cisco, que desenvolve estrutura de hardware e software, é uma das companhias que usaram o Mythos. Segundo Anthony Grieco, vice-presidente sênior e diretor de segurança e confiança da empresa, essa tecnologia é significativamente mais poderosa do que os sistemas existentes em determinadas áreas. “Corporações como a Cisco deveriam ser superagressivas na maneira de usar essa tecnologia para identificar vulnerabilidades, corrigi-las e disponibilizar essas correções aos clientes com a maior rapidez possível.”
.gif)
Ele acrescentou que o Mythos é, de fato, mais eficiente na identificação de cadeias de exploração, mas ressaltou que essas habilidades podem ser usadas para defender uma rede de computadores —e não apenas para atacá-la. “Estamos usando essa capacidade para ajudar a classificar vulnerabilidades e entender quais delas são mais importantes e precisam ser corrigidas. Isso demonstra que essa tecnologia também pode ter uma aplicação extremamente positiva no campo da defesa”.
Exatamente por isso, alguns pesquisadores de segurança cibernética argumentam que a Anthropic deveria disponibilizar seu sistema de forma mais ampla. Como qualquer outra ferramenta de segurança cibernética, é útil tanto para o ataque quanto para a defesa.
“A tecnologia não é tão perigosa assim para não ser divulgada. Se você não disponibilizar uma ferramenta como essa —ou se a mantiver em sigilo—, não vai resolver o problema real”, observou Gary McGraw, pesquisador veterano de segurança e IA.
Logo em seguida ao anúncio da Anthropic, pesquisadores independentes demonstraram que os sistemas de IA existentes podiam encontrar as mesmas falhas de segurança que o Mythos havia encontrado. Alguns especialistas em cibersegurança argumentaram que a Anthropic exagerara os perigos do Mythos.
Para Pavel Gurvich, cofundador e diretor-executivo da empresa de segurança Tenzai, parte do problema é que os especialistas independentes em segurança cibernética não conseguem testar o sistema e obter uma compreensão completa de seus pontos fortes e fracos. Esse entendimento pode ajudá-los a se defender contra ataques provenientes dessa tecnologia. “Não creio que compartilhar o modelo com um grupo tão restrito de companhias nos ajude a avançar. Isso é especialmente verdadeiro porque o anúncio veio acompanhado de afirmações muito ousadas que não temos como avaliar”.
Já Stanislav Fort, ex-pesquisador da Anthropic que agora dirige uma empresa de segurança chamada Aisle, afirmou que manter a tecnologia de IA em segredo não será possível em longo prazo, pois muitas gigantes da tecnologia, startups e desenvolvedores independentes estão criando sistemas poderosos. Muitas dessas organizações estão disponibilizando sua IA como código aberto, permitindo que qualquer pessoa use e modifique a tecnologia subjacente.
Ele acrescentou que, com o passar do tempo, o compartilhamento amplo dessas tecnologias será essencial para a segurança cibernética. “Segurança por obscuridade é uma das ideias ruins mais antigas da área”, comentou.
Autor: Folha
