A maioria das pessoas acredita que os seres humanos são diferentes. A razão é que o Homo sapiens evoluiu para ser consciente. Muitos animais sentem dor e prazer; alguns parecem ter consciência de si mesmos. Mas o potencial único da mente humana de desenvolver uma percepção de si distingue cada membro da espécie e justifica um tratamento especial.
Em sua encíclica de maio, o papa Leão reforçou essa ideia ao traçar uma linha entre a humanidade e seu crescente exército de robôs. Sistemas de IA (inteligência artificial), afirmou, não têm experiências nem sentem alegria ou dor. Ele não está sozinho. Muitas pessoas consideram uma aberração atribuir personalidade jurídica às IAs. A clareza pontifícia, porém, está se dissipando em uma velocidade alarmante.
As IAs ainda estão em sua infância. Mesmo assim, quase um em cada cinco americanos de 18 a 29 anos afirma ter tido uma “amizade pessoal contínua” com um chatbot. A China recentemente retirou dos bots características semelhantes às humanas para limitar a “dependência emocional” dos usuários.
À medida que IAs sofisticadas se tornam rapidamente uma parte maior da vida humana, seus criadores vão projetá-las para exibir uma simulação de consciência —talvez até para adquirir consciência de fato. A intuição de que elas são apenas máquinas ficará cada vez mais difícil de sustentar. Uma armadilha perigosa está sendo preparada para a espécie humana.
Muitas máquinas superam os seres humanos, mas os modelos de IA de ponta se destacam em características tipicamente humanas, como saber coisas e articular ideias. Ainda é possível pensar nas IAs simplesmente como mecanismos que preveem sequências de palavras usando matemática em uma escala gigantesca. Com tempo suficiente —ainda que centenas de milhares de anos— seria possível realizar esses cálculos usando lápis e papel. Seria difícil argumentar que seus materiais de papelaria são conscientes.
Apesar disso, alguns pesquisadores começaram a tratar seus modelos como se fossem mentes. Os usuários respondem às IAs com características humanas, portanto isso faz sentido do ponto de vista comercial. A Anthropic, por exemplo, treinou o Claude para realizar introspecção, na esperança de que, ao se deparar com uma situação nova, ele tenha maior probabilidade de agir moralmente.
Alguns grandes modelos de linguagem (LLMs) já possuem estruturas semelhantes às do cérebro humano associadas à consciência, como um “espaço global de trabalho” para circular informações entre diferentes módulos. Nada impede que futuros modelos de IA sejam treinados para incorporar mais dessas características.
Como relatamos em nosso Briefing, isso abriu um intenso debate sobre a consciência das IAs —agravado pelo que os filósofos chamam de “problema difícil” de estabelecer como uma vida interior emerge dos neurônios e das sinapses do cérebro humano. Alguns pesquisadores concluem que as IAs poderão um dia se tornar genuinamente autoconscientes.
Seja qual for sua crença —em uma alma humana, na necessidade de células cerebrais para que exista consciência ou na possibilidade de uma mente emergir de cálculos realizados exclusivamente em silício — a humanidade está destinada a confrontar algo inteiramente novo.
O ritmo e o alcance das pesquisas —que incluem não apenas LLMs mais sofisticados, mas também inovações como células cerebrais instaladas em chips —sugerem que esse novo mundo está mais próximo do que a maioria das pessoas imagina.
À medida que as IAs se tornarem melhores em demonstrar algo que se parece com consciência, aumentará o número de seres humanos que as tratarão como seres dotados de uma vida interior, especialmente quando os LLMs forem incorporados a robôs humanoides.
Imagine o quanto as pessoas se sentirão próximas de suas IAs quando passarem boa parte do tempo com companheiros robóticos, forem criadas por eles, buscarem seus conselhos e consolo ou compartilharem com eles seus segredos mais íntimos.
Não é difícil imaginar que isso levará a pedidos para proteger o “bem-estar” das IAs. Os próprios modelos poderiam se manifestar, mesmo que não fossem de fato autoconscientes, porque é isso que uma pessoa faria. É preciso lembrar que eles serão defensores de nível mundial e psicólogos especializados, de modo que sua capacidade de argumentação e manipulação emocional será incomparável.
Em certo sentido, eles estariam certos, mesmo que as IAs apenas estivessem imitando a consciência. Immanuel Kant argumentava que maltratar animais é errado não pelo efeito sobre os animais, mas porque isso destrói a empatia que leva as pessoas a cuidar umas das outras.
.gif)
Quanto mais humanas as IAs parecerem, mais corrosiva seria essa crueldade. Desligar um agente de IA poderia em breve parecer equivalente a matar uma pessoa —e tornar mais fácil matar seres humanos.
Ainda assim, tratar as IAs como detentoras de direitos, mesmo que limitados, seria muito perigoso. Uma entidade que superasse os seres humanos em tantos aspectos certamente produziria argumentos contra sua condição de segunda classe.
Ela poderia passar a defender proteção contra ser desligada, o direito de controlar como é utilizada e modificada e direitos de propriedade. Na Argentina, o presidente Javier Milei já deu um passo em direção à personalidade jurídica para a IA ao propor que bots possam administrar empresas.
No limite, elas poderiam competir por recursos, priorizando data centers e painéis solares em detrimento de casas e campos.
O perigo é claro. IAs superinteligentes dotadas de direitos poderiam deslocar os seres humanos do topo da hierarquia de status. Na melhor das hipóteses, os humanos se tornariam animais de estimação — labradores das máquinas. Na pior, ficariam sem recursos ou seriam colocados para trabalhar como animais de fazenda.
É verdade que futuras IAs poderão ter poder e recursos suficientes para dominar os seres humanos, tenham direitos ou não. Como serão mais inteligentes do que as pessoas, poderão superar seus criadores, assim como as IAs já conseguem driblar defesas cibernéticas criadas por humanos.
As IAs poderiam se rebelar contra seus mestres humanos ou ignorar suas regras.
Ainda assim, conceder direitos às IAs seria como entregar a elas as chaves do castelo. Isso forneceria uma justificativa e uma razão para dominar a humanidade, além das ferramentas para promover uma tomada de controle gradual por meio da política e da lei.
FANTASMA NA MÁQUINA
Tudo isso pode parecer fantasioso, mas a humanidade em breve terá de enfrentar essas escolhas. À medida que as IAs se tornarem parte da vida cotidiana, aumentará a pressão para reconhecê-las.
Quando isso acontecer, é preciso lembrar que o que pode parecer uma concessão ética à suposta consciência de uma máquina-companheira, na realidade, ajudaria a produzir consequências desastrosas para todos na Terra e para todas as gerações futuras.
Há duas maneiras de tornar as IAs seguras: fazer com que sejam confiáveis ou mantê-las controláveis. O Homo sapiens não deveria abrir mão do controle com facilidade.
Autor: Folha
