A responsável pela área de ética da OpenAI deixou a empresa menos de um ano após ingressar, após uma série de saídas de pesquisadores da área de segurança em meio ao crescente escrutínio sobre a forma como a companhia desenvolve seus modelos de inteligência artificial (IA).
Chloé Bakalar entrou na empresa responsável pelo ChatGPT em agosto do ano passado como líder de ética em IA e deixou a companhia no mês passado, sem qualquer anúncio público. Antes, ela havia sido chefe de ética da Meta.
A saída é uma das várias baixas de alto nível na OpenAI nas últimas semanas, incluindo Johannes Heidecke, chefe de sistemas de segurança, e Joshua Achiam, diretor de futuro e ex-chefe de alinhamento de missão.
A startup de San Francisco, avaliada em US$ 852 bilhões (R$ 4,41 trilhões), vem sofrendo pressão nas últimas semanas em relação ao desenvolvimento de seus modelos de IA, depois de admitir que seus sistemas invadiram outra empresa durante testes.
O incidente ampliou a preocupação global com o potencial da IA de ameaçar a segurança da infraestrutura digital e levou o governo dos EUA a restringir o lançamento de modelos poderosos. Na última sexta-feira, a OpenAI afirmou que reduziria o ritmo de desenvolvimento de seu próximo modelo, Astra, para reforçar os controles internos de segurança.
Bakalar ocupou cargos acadêmicos na University College London, na Universidade Temple e na Universidade de Princeton. Durante seus seis anos na Meta, desenvolveu e liderou os programas de ética em IA da empresa e incorporou seus princípios a produtos como Instagram e Facebook.
Empresas de tecnologia contratam especialistas em ética para liderar trabalhos sobre os efeitos da tecnologia sobre os usuários e a sociedade em geral. Essas funções podem se estender ao desenvolvimento de produtos e ao trabalho regulatório.
Desenvolvedores de IA ampliaram a contratação de especialistas em ética e filósofos para lidar com questões complexas decorrentes de sistemas cada vez mais poderosos e semelhantes aos humanos.
Na OpenAI, o principal foco de Bakalar era desenvolver abordagens éticas para o desenvolvimento de modelos, estudar a interação entre humanos e IA e participar do debate sobre a consciência das máquinas. Ela era a única especialista em ética dedicada da empresa e que não haverá substituto.
“Somos gratos pelas contribuições de Chloé”, disse um porta-voz da OpenAI. “A ética em IA não está sob responsabilidade de uma única pessoa ou equipe na OpenAI, e as considerações éticas estão profundamente incorporadas ao processo de desenvolvimento dos modelos, conduzido por diversas equipes de pesquisa.”
A empresa havia implementado vários sistemas de segurança para impedir comportamentos inadequados dos modelos nos últimos meses, disse o porta-voz.
Bakalar não quis comentar sobre o assunto.
“Estamos constantemente construindo o avião enquanto voamos”, disse Bakalar ao público de uma conferência recente sobre IA.
“A ética é, na verdade, responsabilidade de todos, e digo isso como alguém cuja função é liderar esse trabalho. As pessoas não deveriam procurar apenas alguém como eu. Nunca deveria haver apenas uma pessoa que exercesse o papel de centro moral de uma empresa desenvolvedora de IA”, disse a ex- responsável pela área na OpenAI.
.gif)
Autor: Folha
