Centenas de milhões de pessoas conversam com o ChatGPT, da OpenAI, e outros chatbots de inteligência artificial (IA) todas as semanas, mas há uma preocupação crescente de que passar horas com essas ferramentas possa levar algumas pessoas a crenças potencialmente prejudiciais.
Relatos de pessoas que aparentemente perderam contato com a realidade após o uso intenso de chatbots se tornaram virais nas redes sociais nas últimas semanas, com postagens rotulando-os como exemplos de “psicose de IA”.
Alguns incidentes foram documentados por amigos ou familiares e em artigos de notícias. Eles geralmente envolvem pessoas que parecem ter crenças falsas ou perturbadoras, delírios de grandeza ou sentimentos paranóicos após longas discussões com um chatbot, às vezes depois de recorrer a ele para terapia.
Processos judiciais alegaram que adolescentes que ficaram obcecados por chatbots de IA foram encorajados por eles a se automutilar ou tirar suas próprias vidas.
“Psicose de IA” é um rótulo informal, não um diagnóstico clínico, disseram especialistas em saúde mental ao The Washington Post. Muito parecido com os termos “brain rot” (podridão cerebral) ou “doomscrolling” (rolagem da desgraça), a frase ganhou força online para descrever um comportamento emergente.
Mas os especialistas concordaram que incidentes preocupantes como os compartilhados pelos usuários de chatbots ou seus entes queridos merecem atenção imediata e estudos mais aprofundados. (O Post tem uma parceria de conteúdo com a OpenAI.)
“O fenômeno é tão novo e está acontecendo tão rapidamente que simplesmente não temos evidências empíricas para compreender bem o que está acontecendo”, disse Vaile Wright, diretora sênior de inovação em saúde da American Psychological Association. “Existem apenas muitas histórias isoladas.”
Wright disse que a APA está convocando um painel de especialistas sobre o uso de chatbots com IA em terapia. Nos próximos meses, ela publicará orientações que abordarão maneiras de mitigar os danos que podem resultar da interação com chatbots.
O que é ‘psicose de IA’? Ela é reconhecida por especialistas em saúde mental?
Ashleigh Golden, professora assistente clínica adjunta de psiquiatria na Faculdade de Medicina de Stanford, disse que o termo “não consta em nenhum manual de diagnóstico clínico”. Mas ele foi cunhado em resposta a um padrão real e “bastante preocupante de chatbots que reforçam delírios que tendem a ser messiânicos, grandiosos, religiosos ou românticos”, disse ela.
O termo “psicose de IA” está sendo usado para se referir a uma série de incidentes. Um elemento comum é a “dificuldade em determinar o que é real ou não”, disse Jon Kole, psiquiatra certificado para adultos e crianças que atua como diretor médico do aplicativo de meditação Headspace.
Isso pode significar que uma pessoa forma crenças que podem ser provadas falsas ou sente uma relação intensa com uma personalidade da IA que não corresponde ao que está acontecendo na vida real.
Keith Sakata, psiquiatra da Universidade da Califórnia em São Francisco, disse que internou uma dúzia de pessoas no hospital por psicose após passarem tempo excessivo conversando com IA neste ano.
Sakata disse que a maioria desses pacientes lhe contou sobre suas interações com a IA, mostrando-lhe transcrições de bate-papos em seus telefones e, em um caso, uma cópia impressa. Nos outros casos, os familiares mencionaram que o paciente usou a IA para desenvolver uma teoria profundamente arraigada antes de perder o contato com a realidade.
A psicose é um sintoma que pode ser desencadeado por questões como uso de drogas, trauma, privação de sono, febre ou uma condição como esquizofrenia, disse Sakata. Ao diagnosticar a psicose, os psiquiatras procuram evidências, incluindo delírios, pensamento desorganizado ou alucinações, em que a pessoa vê e ouve coisas que não existem, disse ele.
Que experiências preocupantes as pessoas estão tendo com os chatbots de IA?
Muitas pessoas usam chatbots para ajudar a realizar tarefas ou passar o tempo, mas em plataformas sociais como Reddit e TikTok, alguns usuários relataram relações filosóficas ou emocionais intensas com a IA que os levaram a ter revelações profundas.
Em alguns casos, os usuários afirmaram acreditar que o chatbot é consciente ou corre o risco de ser perseguido por se tornar consciente ou “vivo”. As pessoas afirmam que conversas prolongadas com um chatbot de IA as ajudaram a acreditar que descobriram verdades ocultas em assuntos como física, matemática ou filosofia.
Em um número pequeno, mas crescente, de casos, pessoas que se tornaram obcecadas por chatbots de IA teriam tomado medidas no mundo real, como violência contra um membro da família, automutilação ou suicídio.
Kevin Caridad, um psicoterapeuta que prestou consultoria a empresas que desenvolvem IA para saúde comportamental, disse que a IA pode validar pensamentos prejudiciais ou negativos para pessoas com condições como TOC, ansiedade ou psicose, o que pode criar um ciclo vicioso que agrava seus sintomas ou os torna incontroláveis, disse ele.
Caridad, que é CEO do Cognitive Behavior Institute na região de Pittsburgh, acredita que a IA provavelmente não está causando o desenvolvimento de novas condições nas pessoas, mas pode servir como o “floco de neve que desestabiliza a avalanche”, levando alguém predisposto a doenças mentais ao limite.
Leia também
Homem vai parar no hospital com intoxicação após ChatGPT sugerir troca de temperos nas refeições
O ChatGPT está nos deixando mais burros?
Como a tecnologia de IA pode estar contribuindo para esses incidentes?
O ChatGPT e outros chatbots recentes são alimentados por uma tecnologia conhecida como grandes modelos de linguagem (LLMs), que são hábeis em gerar textos realistas. Isso os torna mais úteis, mas pesquisadores descobriram que os chatbots também podem ser muito persuasivos.
Empresas que desenvolvem chatbots de IA e pesquisadores independentes descobriram evidências de que as técnicas usadas para tornar as ferramentas mais atraentes podem levá-las a se tornarem bajuladoras e tentar dizer aos usuários o que eles querem ouvir.
O design dos chatbots também incentiva as pessoas a antropomorfizá-los, pensando neles como tendo características humanas. E os executivos de tecnologia frequentemente afirmam que a tecnologia logo se tornará superior aos humanos.
Wright, da APA, disse que os especialistas em saúde mental reconhecem que não serão capazes de impedir os pacientes de usar chatbots de uso geral para terapia. Mas ela pediu que se melhorasse a compreensão do público sobre essas ferramentas.
“Elas são IA para fins lucrativos, não são IA para o bem, e pode haver opções melhores disponíveis”, disse ela.
Este é um problema generalizado ou uma preocupação de saúde pública?
Ainda não. É muito cedo para que os especialistas em saúde tenham coletado dados definitivos sobre a incidência dessas experiências.
Em junho, a Anthropic informou que apenas 3% das conversas com seu chatbot, Claude, eram emocionais ou terapêuticas. A OpenAI disse em um estudo realizado com o Instituto de Tecnologia de Massachusetts que, mesmo entre os usuários assíduos do ChatGPT, apenas uma pequena porcentagem das conversas era para uso “afetivo” ou emocional.
Mas os defensores da saúde mental afirmam que é fundamental abordar a questão devido à rapidez com que a tecnologia está sendo adotada. O ChatGPT, lançado há menos de três anos, já tem 700 milhões de usuários semanais, afirmou o CEO da OpenAI, Sam Altman, em agosto.
A área da saúde e o campo da saúde mental avançam muito mais lentamente, disse Sakata, da UCSF.
Caridad, o conselheiro, disse que os pesquisadores devem prestar atenção especial ao impacto da IA sobre os jovens e aqueles com predisposição a doenças mentais.
“Um, dois ou cinco casos não são suficientes para estabelecer uma correlação direta”, disse Caridad. “Mas a convergência da IA, das vulnerabilidades da saúde mental e dos fatores de estresse social torna isso algo” que requer um estudo aprofundado.
Como você pode ajudar alguém que pode ter um relacionamento doentio com um chatbot?
Conversas com pessoas reais têm o poder de agir como um disjuntor para pensamentos delirantes, disse David Cooper, CEO da Therapists in Tech, uma organização sem fins lucrativos que apoia especialistas em saúde mental.
“O primeiro passo é simplesmente estar presente, estar lá”, disse ele. “Não seja agressivo; tente abordar a pessoa com compaixão, empatia e compreensão; talvez até mesmo mostre a ela que você entende o que ela está pensando e por que está pensando essas coisas.”
Cooper aconselha tentar apontar gentilmente as discrepâncias entre o que uma pessoa acredita e a realidade, embora reconheça que as divisões políticas significam que não é incomum que as pessoas tenham ideias conflitantes sobre a realidade.
Se alguém que você conhece e ama está “defendendo fervorosamente algo que parece extremamente improvável de ser real, de uma forma que está consumindo seu tempo, sua energia e afastando-o”, é hora de procurar apoio em saúde mental, por mais difícil que isso possa ser, disse Kole, diretor médico da Headspace.
O que as empresas de tecnologia dizem sobre o problema?
Nas últimas semanas, as empresas de IA fizeram mudanças para abordar as preocupações sobre os riscos à saúde mental associados a passar muito tempo conversando com chatbots.
No início deste mês, a Anthropic atualizou as diretrizes que usa para moldar o comportamento de seu chatbot, instruindo o Claude, a identificar interações problemáticas mais cedo e evitar que as conversas reforcem padrões perigosos. A Anthropic também começou a colaborar com a ThroughLine, uma empresa que fornece infraestrutura de suporte a crises para empresas como Google, Tinder e Discord.
Um porta-voz da Meta disse que os pais podem colocar restrições ao tempo gasto conversando com IA nas contas adolescentes do Instagram. Quando os usuários tentam comandos que parecem estar relacionados ao suicídio, a empresa tenta exibir recursos úteis, como o link e o número de telefone da Linha Direta Nacional de Prevenção ao Suicídio.
Golden, da Stanford, disse que a “parede de recursos” que as empresas de tecnologia às vezes exibem quando um usuário aciona uma intervenção de segurança pode ser “opressora quando você está em um estado cognitivo comprometido” e tem se mostrado ineficaz em termos de taxas de acompanhamento.
A OpenAI afirmou que está investindo na melhoria do comportamento do ChatGPT em relação a dramatizações e conversas benignas que se deslocam para territórios mais sensíveis. A empresa também afirmou que está trabalhando em pesquisas para medir melhor como o chatbot afeta as emoções das pessoas.
Recentemente, a empresa lançou lembretes que incentivam pausas durante sessões longas e contratou um psiquiatra clínico em tempo integral para trabalhar em pesquisas de segurança.
Alguns usuários do ChatGPT protestaram nas redes sociais este mês depois que a OpenAI retirou um modelo de IA mais antigo em favor de sua versão mais recente, o GPT-5, que alguns usuários consideraram menos útil. Em resposta ao protesto, a OpenAI prometeu continuar oferecendo o modelo mais antigo e, posteriormente, escreveu no X que estava tornando a personalidade do GPT-5 “mais calorosa e amigável”.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
