Quatro ações judiciais por homicídio culposo foram movidas contra a OpenAI na quinta-feira, além de três outros processos que afirmam que o chatbot da empresa levou a problemas de saúde mental.
Os processos, movidos nos tribunais estaduais da Califórnia, alegam que o ChatGPT, usado por 800 milhões de pessoas, é um produto defeituoso. Um dos processos o considera “defeituoso e inerentemente perigoso”. Uma queixa apresentada pelo pai de Amaurie Lacey afirma que o jovem de 17 anos da Geórgia conversou com o bot sobre suicídio durante um mês antes de sua morte em agosto. Joshua Enneking, 26, da Flórida, perguntou ao ChatGPT “o que seria necessário para que seus revisores relatassem seu plano de suicídio à polícia”, de acordo com uma queixa apresentada por sua mãe. Zane Shamblin, um jovem de 23 anos do Texas, cometeu suicídio em julho após incentivo do ChatGPT, de acordo com a queixa apresentada por sua família.
Joe Ceccanti, um homem de 48 anos do Oregon, usava o ChatGPT sem problemas há anos, mas em abril se convenceu de que ele era senciente. Sua esposa, Kate Fox, disse em uma entrevista, em setembro, que ele havia começado a usar o ChatGPT compulsivamente e agia de forma estranha. Ele teve um surto psicótico em junho, disse ela, e foi hospitalizado duas vezes antes de cometer suicídio em agosto.
“Os médicos não sabem como lidar com isso”, diz Kate.
Leia também
Homem de 56 anos mata mãe e se suicida após falar com ChatGPT, diz jornal
Isso foi o que minha filha disse ao ChatGPT antes de tirar a própria vida
Uma porta-voz da OpenAI disse em comunicado que a empresa estava analisando os processos, que foram divulgados anteriormente pelo The Wall Street Journal e pela CNN. “Esta é uma situação incrivelmente dolorosa”, diz o comunicado. “Nós treinamos o ChatGPT para reconhecer e responder a sinais de sofrimento mental ou emocional, acalmar conversas e orientar as pessoas a buscar ajuda no mundo real. Continuamos a fortalecer as respostas do ChatGPT em momentos delicados, trabalhando em estreita colaboração com profissionais de saúde mental.”
Dois outros demandantes — Hannah Madden, 32, da Carolina do Norte, e Jacob Irwin, 30, de Wisconsin — afirmam que o ChatGPT os levou a ter colapsos mentais que resultaram em atendimento psiquiátrico de emergência. Ao longo de três semanas em maio, Allan Brooks, 48, um recrutador corporativo de Ontário, Canadá, que também está processando, passou a acreditar que havia inventado uma fórmula matemática com o ChatGPT que poderia quebrar a internet e alimentar invenções fantásticas. Ele saiu dessa ilusão, mas disse que agora está em licença por invalidez de curto prazo.
“O produto deles causou danos a mim e a outras pessoas, e continua a fazê-lo”, afirmou Brooks, sobre quem o The New York Times escreveu em agosto. “Estou emocionalmente traumatizado.”
Depois que a família de um adolescente da Califórnia entrou com uma ação por homicídio culposo contra a OpenAI, em agosto, a empresa reconheceu que suas barreiras de segurança poderiam “se degradar” quando os usuários mantêm longas conversas com o chatbot.
Após relatos nos últimos meses de pessoas tendo experiências perturbadoras relacionadas ao ChatGPT, incluindo episódios de delírio e suicídios, a empresa adicionou proteções ao seu produto para adolescentes e usuários em sofrimento. Agora, há controles parentais para o ChatGPT, por exemplo, para que os pais possam receber alertas se seus filhos discutirem suicídio ou automutilação.
A OpenAI divulgou recentemente uma análise das conversas que ocorreram em sua plataforma durante um mês recente, que descobriu que 0,07% dos usuários podem estar passando por “emergências de saúde mental relacionadas à psicose ou mania” por semana, e que 0,15% estavam discutindo suicídio. A análise foi realizada em uma amostra estatística de conversas. Mas, extrapolando para todos os usuários da OpenAI, essas porcentagens equivalem a meio milhão de pessoas com sinais de psicose ou mania e mais de um milhão potencialmente discutindo intenções suicidas.
O Tech Justice Law Project e o Social Media Victims Law Center entraram com as ações judiciais. Meetali Jain, fundadora do Tech Justice Law Project, disse que os processos foram todos apresentados no mesmo dia para mostrar a variedade de pessoas que tiveram interações problemáticas com o chatbot, que foi projetado para responder perguntas e interagir com as pessoas de maneira semelhante a um ser humano. As pessoas envolvidas nas ações judiciais estavam usando o ChatGPT-4o, anteriormente o modelo padrão oferecido a todos os usuários, que desde então foi substituído por um modelo que a empresa afirma ser mais seguro, mas que alguns usuários descreveram como frio.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.