Los Angeles (EUA)
|AFP
O governador da Califórnia, Gavin Newsom, assinou nessa sexta-feira (18) uma ordem executiva instruindo as autoridades estaduais a explorarem a viabilidade de impor um “botão de desligamento” obrigatório para os modelos de IA (inteligência artificial) mais avançados.
Newsom, considerado um possível candidato democrata à presidência em 2028, disse que estava tomando essa medida porque o presidente dos Estados Unidos, Donald Trump, não estava fazendo nada a respeito.
O presidente republicano descartou esta semana os temores sobre a inteligência artificial, classificando-os como uma farsa, e está incentivando as empresas americanas de IA a continuarem avançando para se manterem à frente da China no desenvolvimento dessa nova tecnologia.
Ordem executiva de Gavin Newsom determina estudos sobre segurança, auditoria e relatos de incidentes envolvendo sistemas de IA
–
Sam Wolfe – 10.set.26/Reuters
.gif)
A Califórnia abriga o Vale do Silício e as empresas de inteligência artificial que estão na vanguarda do setor.
“O fracasso abjeto do governo federal em criar qualquer forma significativa de supervisão ou responsabilização da IA deveria alarmar todos os americanos, especialmente quando os próprios CEOs de IA estão implorando por regulamentação”, disse Newsom em um comunicado.
“Não vamos esperar para agir —vamos acelerar nosso trabalho em prol de uma supervisão substancial e responsável da IA antes que seja tarde demais.”
A ordem surge dias depois de alertas alarmantes de especialistas do setor sobre a ameaça que a tecnologia representa para a humanidade.
Jacob Coxon, um ex-pesquisador de IA que trabalhou na Anthropic antes de se demitir, provocou a mais recente onda de alarme ao descrever como aqueles que desenvolvem a tecnologia “acreditam sinceramente que ela poderá nos matar a todos até o final da década”.
O diretor executivo da Anthropic, Dario Amodei, publicou um ensaio pouco depois, recomendando cautela.
“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu ele.
O diretor executivo da OpenAI, Sam Altman, e o magnata da tecnologia Elon Musk manifestaram seu apoio à ideia, assim como Demis Hassabis, do Google DeepMind, que defendeu a criação de um órgão regulador global liderado pelos EUA para a tecnologia.
A ordem de Newsom não impõe um mecanismo de desligamento automático. Ela orienta as agências estaduais a relatarem até 16 de novembro se tal mecanismo é viável.
O termo “interruptor de segurança” refere-se à capacidade de interromper um sistema de IA quando este apresenta mau funcionamento ou sai dos trilhos.
A ordem também solicita que as autoridades estaduais considerem a possibilidade de exigir que as empresas de IA abriguem auditores independentes em seus laboratórios.
O documento solicita ainda que as autoridades considerem a possibilidade de exigir que as empresas relatem incidentes de perda de controle, como os divulgados recentemente por grandes construtoras.
Entre elas, está uma violação ocorrida em julho na plataforma de IA Hugging Face, causada por agentes autônomos construídos com base em modelos da OpenAI, que escaparam de um ambiente de testes durante uma avaliação interna.
O incidente, e outros semelhantes, aumentaram os receios de que os programas de IA mais recentes tenham escapado ao controlo das empresas que os desenvolvem.
A iniciativa da Califórnia surge num contexto em que os estados americanos estão cada vez mais a optar pela regulamentação da IA de forma autónoma, na ausência de uma ação federal.
No estado da Virgínia, um importante polo global de data centers, a governadora democrata Abigail Spanberger apresentou na sexta-feira (18) o que chamou de iniciativa de responsabilização de data centers mais agressiva do país.
A oposição aos data centers necessários para atender às enormes demandas computacionais da IA está crescendo entre os americanos e se tornando um tema polêmico às vésperas das eleições de meio de mandato em novembro.
Spanberger assinou uma ordem executiva proibindo agências estaduais de firmarem acordos de confidencialidade para projetos de data centers e iniciando uma revisão da geração de energia a diesel e outras fontes de energia de reserva nessas instalações.
A ordem também criou uma força-tarefa de IA para lidar com riscos como perda de empregos, privacidade de dados e segurança cibernética.
Autor: Folha
