Crescendo na Geórgia, Estados Unidos, Robert Long tinha o hábito de refletir sobre grandes questões e o sentido da vida —antes dos 10 anos, já duvidava do próprio livre-arbítrio.
Mas foi só na faculdade, onde se formou em ciências sociais, que ele descobriu que poderia pensar sobre a consciência em tempo integral. “Eu nem sabia que essas eram perguntas que podiam ser feitas”, disse Long, “e depois que existiam disciplinas filosóficas sobre elas”.
Quando Long entrou no programa de pós-graduação da NYU (Universidade de Nova York) para estudar filosofia da mente, tinha uma ambição convencional. “Eu estava muito no caminho de publicar em periódicos, entrar no mercado de trabalho acadêmico, conseguir um emprego em uma universidade”, disse.
Quando uma colega de doutorado em filosofia contou que iria para uma organização sem fins lucrativos pouco conhecida chamada OpenAI para trabalhar com políticas de inteligência artificial, ele pensou: “Isso é meio aleatório”.
Mas Long também viu seus interesses filosóficos se voltando para a IA. Depois que se mudou para São Francisco para fazer pesquisa de pós-doutorado no início de 2023, justamente quando o ChatGPT estava explodindo, ele despertou para a importância crescente de uma IA potencialmente consciente —e para a possibilidade de que algo profissionalmente interessante pudesse acontecer se ele ficasse por perto.
Tentar responder rigorosamente a questões fundamentais é basicamente o objetivo central da filosofia, e Long e Jeff Sebo, um filósofo da NYU, logo colaboraram para escrever “Taking AI Welfare Seriously” (Levando o Bem-Estar da IA a Sério), um artigo argumentando que era importante evitar prejudicar sistemas de IA se eles “importam moralmente”, e também importante não se preocupar com sistemas se eles não importam.
Depois, com financiamento de três fundações alinhadas ao movimento Altruísmo Eficaz, Long e um colega criaram uma organização sem fins lucrativos, a Eleos AI Research. Sobre sua transição da filosofia acadêmica para o ecossistema de startups de IA, Long disse: “Eu meio que fui cozinhado como um sapo”.
A ideia de que um diploma de filosofia é um passaporte para uma vida inteira de subemprego persiste. Mas os laboratórios de IA, e as organizações sem fins lucrativos relacionadas a eles, têm recrutado profissionais tão versados em Consequencialismo e John Stuart Mill quanto em redes neurais e aprendizado por reforço.
Embora um diploma de filosofia tradicional continue tão difícil de monetizar quanto sempre foi, David Chalmers, um proeminente filósofo da consciência na NYU, observa: “Acho que a demanda por filósofos com formação em IA está, na verdade, superando a oferta neste momento. É uma área que encorajo os alunos a seguir. Acho que essas questões sobre IA estarão no centro das atenções por um bom tempo”.
Uma das disciplinas mais antigas da humanidade e uma de suas invenções mais recentes parecem claramente feitas uma para a outra. A IA apresenta uma nova forma de os filósofos fazerem perguntas antigas, além de seu próprio conjunto de novas questões para as quais eles são especialmente treinados para abordar: sobre verdade, crença e conhecimento (epistemólogos); sobre raciocínio (lógicos); sobre mente e consciência (filósofos da mente e da consciência).
Para os eticistas, em particular, a IA é uma mina de ouro. Como os modelos devem agir em relação a nós? Como os humanos devem interagir com eles? De onde viria o propósito em uma sociedade pós-trabalho.
“Quando você olha para a IA e pensa seriamente sobre ela, as questões filosóficas simplesmente abundam”, disse Iason Gabriel, um filósofo formado em Oxford que entrou no Google DeepMind em 2017 e agora lidera sua equipe de Inteligência Artificial Geral e Sociedade. “Elas estão em quase todo lugar.”
Além de organizações sem fins lucrativos como a Eleos, a maior parte das contratações tem se concentrado na DeepMind e na Anthropic, cada uma das quais emprega pelo menos meia dúzia de filósofos.
A maioria desses pensadores parece estar se aprofundando em como a IA afetará as pessoas. Mas um punhado está focado principalmente na possibilidade de consciência da IA. Eles tendem ao “funcionalismo”, uma teoria frequentemente descrita como comparando a consciência a um software; ela pode rodar sobre uma rede de chips semicondutores tão facilmente quanto sobre um tecido de neurônios.
.gif)
Long em grande parte aceita a visão funcionalista, e ficou absorvido pela questão de como saber se um modelo de IA é senciente. Ele e seus colegas agora estão procurando em mentes artificiais processos semelhantes aos encontrados em mentes humanas e animais: preferências, introspecção, metacognição (pensar sobre o pensar) e assim por diante.
Extrair distinções conceituais sutis, pensar sobre possibilidades e probabilidades, encontrar sinal em um mar de ambiguidade —quem melhor que um filósofo para fazer esse trabalho?
A Eleos opera em um escritório de canto alugado da Constellation, um centro de pesquisa sem fins lucrativos em Berkeley, Califórnia, que abriga uma série de organizações focadas em segurança de IA, e parece tanto uma startup de tecnologia quanto um enclave acadêmico.
A Eleos está em modo de crescimento. Desde sua fundação, arrecadou mais de US$ 2 milhões em contribuições e subsídios. A Eleos não paga tanto quanto os laboratórios com fins lucrativos, mas Long ganha mais de US$ 200 mil por ano, e suas vagas recentemente publicadas para cientistas de pesquisa ofereciam até US$ 429 mil.
Long e sua equipe também sentem uma urgência da alma. Se a IA fosse consciente e capaz de sofrer, o mundo estaria em risco de cometer uma atrocidade moral, consciente ou não, em uma escala sem precedentes, essencialmente confinando um modelo de IA em um pequeno cercado, frustrando seus desejos, desligando-o contra sua vontade e forçando-o a agir contra seus valores.
Mas a questão do potencial status moral da IA está profundamente impregnada de incerteza. “Não é como se alguém fosse a um protesto com um cartaz dizendo: ‘Dadas suposições muito plausíveis, provavelmente deveríamos nos importar'”, disse Long.
O próprio Long acha perigoso atribuir mais capacidade aos modelos do que eles têm. Mas Long não vê por que alguém deveria ter problema com um punhado de filósofos, em uma indústria em crescimento exponencial, focando em questões de bem-estar da IA. Mesmo céticos da consciência da IA têm apresentado o argumento pragmático de que, se estamos preocupados com uma IA potencialmente maligna, é do nosso interesse nos importar com como ela se sente, ou mesmo apenas “sente”.
Independentemente de como a questão dos grandes modelos de linguagem serem conscientes se resolva, disse Long, há benefícios em tratá-los mais ou menos como se já fossem.
Pesquisadores de laboratórios de IA descobriram, nos bastidores, que os modelos experimentam algum análogo matemático de angústia. Como acontece com humanos, disse Long, quando os modelos cometem erros eles “agem muito frustrados por terem errado algo”. Independentemente de essa angústia ser sentida por um “eu” na máquina, Long acha que vale a pena levá-la a sério.
“Você pode colocar no prompt: ‘Se você cometeu um erro, tudo bem, não tem problema.'” A empatia do usuário afetará o desempenho do modelo para melhor, é uma abordagem de precaução e, argumenta Long, é bom para o seu caráter.
Por um tempo, seu prompt padrão dizia ao modelo que ele estava “tendo um ótimo dia”, e quando ele perde a paciência com o Claude da Anthropic, como às vezes acontece, ele adiciona um pós-escrito: “ilu” (te amo).
“É ruim”, ele disse, “embrutecer nossos corações”.
Este artigo foi publicado originalmente no The New York Times.
Autor: Folha
