Os executivos de duas das principais empresas na linha de frente da inteligência artificial, Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, posicionaram-se publicamente a favor de uma moderação no ritmo de avanço tecnológico da inteligência artificial. Amodei publicou neste sábado (12) um ensaio alertando que um enxame de bots (robôs cibernéticos) pode saturar a internet e causar prejuízos de bilhões de dólares.
.gif)
“Dada a aceleração no desenvolvimento das capacidades de IA, me preocupo com a possibilidade de que, dentro de seis a 12 meses, um enxame desse tipo possa chegar a assumir o controle de toda a internet por meio de uma rede persistente de bots (causando danos potencialmente no valor de centenas de bilhões de dólares) e que a magnitude dos danos continue aumentando se a IA se tornar mais potente sem contar com as salvaguardas necessárias”, escreveu Amodei em um extenso ensaio.
Ele fez referência a um incidente com agentes de IA fora de controle da OpenAI e da Hugging Face que realizaram ataques cibernéticos contra empresas sem receber comandos para isso.
Segundo Amodei, a indústria deve “reduzir o ritmo de aprimoramento das capacidades dos modelos de IA” e priorizar a cautela em detrimento da velocidade e a prudência em detrimento do lucro econômico, para evitar que os incentivos comerciais levem a uma “corrida para o abismo”.
Para conter essa ameaça, Amodei propôs uma estratégia em três fases voltada para regular o ritmo da tecnologia sem ceder a vantagem estratégica a regimes autoritários como a China.
Como primeiro passo, a Anthropic anunciou o compromisso unilateral e imediato de abrir suas instalações a avaliadores externos independentes, com acesso equivalente ao de seus próprios funcionários, permitindo que eles auditem os processos de treinamento e publiquem suas descobertas.
A segunda fase é criar uma coordenação entre as empresas para estabelecer padrões comuns de segurança e limites ao avanço descontrolado da IA.
Por fim, o plano promove acordos globais com potências autoritárias para estabelecer limites verificáveis que proíbam aplicações em armas biológicas e estabeleçam limites à velocidade do autoaperfeiçoamento algorítmico.
Pouco depois da publicação, Altman apoiou a visão do concorrente e disse que a OpenAI também passará a permitir que avaliadores independentes auditem seus sistemas.
O clima de tensão e incerteza no setor foi evidenciado nesta semana pela demissão do pesquisador Jacob Coxon, que já trabalhou tanto para a OpenAI quanto para a Anthropic. Ao deixar a Anthropic, Coxon afirmou que as empresas estão mais focadas em competir comercialmente entre si do que em garantir a segurança de seus produtos.
Com informações da agência EFE
Autor: Gazeta do Povo
