Em uma nova publicação no blog, Mustafa Suleyman, que também é cofundador do Google DeepMind, alertou que o mundo pode estar à beira de modelos de inteligência artificial (IA) capazes de convencer os usuários de que estão pensando, sentindo e tendo experiências subjetivas. Ele chama esse conceito de “IA aparentemente consciente” (SCAI).
Em um futuro próximo, Suleyman prevê que os modelos serão capazes de manter longas conversas, lembrar interações passadas, evocar reações emocionais dos usuários e, potencialmente, fazer afirmações convincentes sobre ter experiências subjetivas. Ele observou que esses sistemas poderiam ser construídos com tecnologias que existem hoje, combinadas “com algumas que amadurecerão nos próximos 2 a 3 anos”.
O resultado dessas características, diz ele, serão modelos que “imitam a consciência de uma forma tão convincente que seria indistinguível de uma afirmação que você ou eu poderíamos fazer um ao outro sobre nossa própria consciência”.
Já existem alguns sinais de que as pessoas estão se convencendo de que seus chatbots de IA são seres conscientes e desenvolvendo relacionamentos com eles que nem sempre são saudáveis. As pessoas não estão mais usando os chatbots apenas como uma ferramenta, elas estão confiando neles, desenvolvendo laços emocionais e, em alguns casos, se apaixonando.
Algumas pessoas se envolvem emocionalmente com versões específicas dos modelos de IA, ficando desoladas quando os desenvolvedores lançam novos modelos e descontinuam o acesso às versões anteriores. Por exemplo, a recente decisão da OpenAI de substituir o GPT-4o pelo GPT-5 foi recebida com protestos de choque e raiva por parte de alguns usuários que haviam formado relações emocionais com a versão do ChatGPT, alimentada pelo GPT-4o.
Isso se deve, em parte, à forma como as ferramentas de IA são projetadas. A maneira mais comum de os usuários interagirem com a IA é por meio de chatbots, que imitam conversas humanas naturais e são projetados para serem agradáveis e lisonjeiros, às vezes a ponto de serem bajuladores. Mas também se deve à forma como as pessoas estão usando a tecnologia. Uma pesquisa recente com 6 mil usuários regulares de IA da Harvard Business Review descobriu que “companheirismo e terapia” era o caso de uso mais comum.
Também houve uma onda de relatos de “psicose de IA”, em que os usuários começam a ter paranóia ou delírios sobre os sistemas com os quais interagem. Em um exemplo relatado pelo The New York Times, um contador de Nova York chamado Eugene Torres passou por uma crise de saúde mental após interagir extensivamente com o ChatGPT, o que levou a sugestões perigosas, incluindo que ele poderia voar.
“As pessoas estão interagindo com bots que se fazem passar por pessoas reais, que estão mais convincentes do que nunca”, disse Henrey Ajder, especialista em IA e deepfakes, à revista Fortune. “Portanto, acho que o impacto será amplo em termos de quem começará a acreditar nisso.”
Suleyman está preocupado que a crença generalizada de que a IA pode ser consciente crie um novo conjunto de dilemas éticos.
Se os usuários começarem a tratar a IA como um amigo, um parceiro ou um tipo de ser com experiência subjetiva, eles poderão argumentar que os modelos merecem direitos próprios. Afirmações de que os modelos de IA são conscientes ou sencientes podem ser difíceis de refutar devido à natureza elusiva da própria consciência.
Um dos primeiros exemplos do que Suleyman agora chama de “IA aparentemente consciente” surgiu em 2022, quando o engenheiro do Google, Blake Lemoine, afirmou publicamente que o chatbot LaMDA, ainda não lançado pela empresa, era senciente, relatando que ele havia expressado medo de ser desligado e se descreveu como uma pessoa. Em resposta, o Google o colocou em licença administrativa e posteriormente o demitiu, afirmando que sua análise interna não encontrou evidências de consciência e que suas alegações eram “totalmente infundadas”.
“A consciência é a base dos direitos humanos, morais e legais”, afirmou Suleyman em uma publicação no X. “Quem/o que a possui é extremamente importante. Nosso foco deve ser o bem-estar e os direitos dos seres humanos, dos animais e da natureza no planeta Terra. A consciência da IA é um caminho curto e escorregadio para os direitos, o bem-estar e a cidadania.”
“Se essas IAs convencerem outras pessoas de que podem sofrer, ou que têm o direito de não serem desligadas, chegará um momento em que essas pessoas argumentarão que elas merecem proteção legal como uma questão moral urgente”, escreveu ele.
Os debates sobre o “bem-estar da IA” já começaram. Por exemplo, alguns filósofos, incluindo Jonathan Birch, da London School of Economics, acolheram com satisfação uma decisão recente da Anthropic de permitir que seu chatbot Claude encerrasse conversas “angustiantes” quando os usuários o pressionavam com solicitações abusivas ou perigosas, dizendo que isso poderia desencadear um debate muito necessário sobre o potencial status moral da IA. No ano passado, a Anthropic também contratou Kyle Fish como seu primeiro pesquisador em tempo integral de “bem-estar da IA”. Ele foi encarregado de investigar se os modelos de IA poderiam ter significado moral e quais intervenções protetoras seriam apropriadas.
Mas enquanto Suleyman chamou a chegada da IA aparentemente consciente de “inevitável e indesejável”, o neurocientista e professor de neurociência computacional, Anil Seth, atribuiu o surgimento da IA aparentemente consciente a uma “escolha de design” das empresas de tecnologia, e não a um passo inevitável no desenvolvimento da IA.
Leia também
“‘A IA aparentemente consciente é algo a ser evitado.’ Concordo”, escreveu Seth em uma postagem no X. “A IA aparentemente consciente não é inevitável. É uma escolha de design, e as empresas de tecnologia precisam ter muito cuidado com isso.”
As empresas têm um motivo comercial para desenvolver alguns dos recursos sobre os quais Suleyman alerta. Na Microsoft, o próprio Suleyman tem supervisionado os esforços para tornar o produto Copilot da empresa mais emocionalmente inteligente. Sua equipe tem trabalhado para dar ao assistente humor e empatia, ensinando-o a reconhecer limites de conforto e melhorando sua voz com pausas e inflexões para torná-la mais humana.
Suleyman também cofundou a Inflection AI em 2022 com o objetivo expresso de criar sistemas de IA que promovam interações mais naturais e emocionalmente inteligentes entre humanos e máquinas.
“Em última análise, essas empresas reconhecem que as pessoas querem experiências mais autênticas”, disse Ajder. “É assim que uma empresa pode fazer com que os clientes usem seus produtos com mais frequência. Eles parecem naturais e fáceis. Mas acho que realmente se trata de uma questão de saber se as pessoas vão começar a questionar a autenticidade.”
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
c.2024 Fortune Media IP Limited
Distribuído por The New York Times Licensing Group