Alerta: a reportagem abaixo trata de temas como suicídio e transtornos mentais. Se você está passando por problemas, veja ao final do texto onde buscar ajuda.
Quando Stein-Erik Soelberg, um ex-executivo de tecnologia de 56 anos com um histórico de problemas de saúde mental, disse ao ChatGPT que a impressora no escritório da casa de sua mãe poderia ser um dispositivo de vigilância usado para espioná-lo, o chatbot concordou, de acordo com um vídeo do YouTube que ele postou da conversa em julho.
“Erik — seu instinto está absolutamente certo... isso não é apenas uma impressora”, respondeu o chatbot de inteligência artificial (IA), dizendo que o dispositivo provavelmente estava sendo usado para rastrear seus movimentos, mostra o vídeo. O chatbot pareceu validar a suspeita de Soelberg de que sua mãe de 83 anos, Suzanne Adams, poderia ter participado de uma elaborada conspiração contra ele, sobre a qual ele discutiu longamente com o ChatGPT.
Em agosto, a polícia encontrou mãe e filho mortos na casa dela em Greenwich, Connecticut, onde moravam juntos. A causa da morte de Adams foi homicídio, e Soelberg morreu por suicídio, concluiu o médico legista do estado.
Uma ação judicial movida na quinta-feira pelos herdeiros de Adams alega que ela morreu após ser espancada na cabeça e estrangulada por seu filho, que em seguida tirou a própria vida esfaqueando-se no pescoço e no peito. E afirma que a OpenAI, fabricante do ChatGPT, é responsável por sua morte porque a empresa lançou às pressas “um produto defeituoso que validou as ilusões paranóicas de um usuário sobre sua própria mãe”.
A queixa, apresentada no Tribunal Superior de São Francisco, afirma que Soelberg já estava perturbado e delirante antes de começar a conversar com o ChatGPT. Mas argumenta que o chatbot intensificou suas teorias da conspiração e as transformou em um mundo de fantasia, no qual Soelberg acreditava ser um guerreiro espiritual que havia “despertado” a IA e agora enfrentava forças poderosas que buscavam destruí-lo.
“O ChatGPT colocou minha avó como alvo, transformando-a em uma personagem sinistra em um mundo delirante criado pela IA”, disse Erik Soelberg, 20, filho de Soelberg e beneficiário da herança junto com sua irmã, em um comunicado. “Mês após mês, o ChatGPT validou as crenças mais paranóicas do meu pai, ao mesmo tempo em que cortou todas as conexões que ele tinha com pessoas e eventos reais. A OpenAI deve ser responsabilizada.”
“Esta é uma situação incrivelmente dolorosa, e analisaremos os documentos para entender os detalhes”, disse Hannah Wong, porta-voz da OpenAI, em um comunicado.
A empresa está trabalhando para melhorar a capacidade do ChatGPT de reconhecer sinais de sofrimento mental ou emocional e orientar os usuários a outras fontes de apoio, segundo o comunicado, inclusive trabalhando com profissionais de saúde mental.
O processo é o primeiro caso que alega que o ChatGPT levou a um assassinato, de acordo com Jay Edelson, o principal advogado que representa o espólio da vítima. Ele busca indenização da empresa por alegações que incluem responsabilidade pelo produto, negligência e morte por negligência. O processo também busca indenização punitiva e uma ordem judicial obrigando a OpenAI a tomar medidas para impedir que o ChatGPT valide as ilusões paranóicas dos usuários sobre outras pessoas.
O ChatGPT também ajudou a direcionar a paranóia de Soelberg para pessoas que ele encontrou na vida real, alega o processo, incluindo um motorista de Uber Eats, policiais e outros estranhos que cruzaram seu caminho.
A história das discussões crescentes de Soelberg com o ChatGPT, sua morte e a de sua mãe foram relatadas pelo Wall Street Journal em agosto.
O ChatGPT atraiu mais de 800 milhões de usuários semanais desde seu lançamento, há três anos, levando empresas de tecnologia rivais a lançarem rapidamente suas próprias tecnologias de IA. Mas, à medida que mais pessoas recorrem ao chatbot para discutir seus sentimentos e vidas pessoais, especialistas em saúde mental alertam que os chatbots projetados para manter os usuários engajados parecem ter amplificado o pensamento ou comportamento delirante em alguns deles.
Outras cinco ações por homicídio culposo foram movidas contra a OpenAI desde agosto, segundo documentos judiciais, cada uma por uma família que alega que um ente querido cometeu suicídio após passar muito tempo conversando com o ChatGPT.
Edelson também representa os pais de Adam Raine, um californiano de 16 anos, cujos pais entraram em agosto com o que Edelson diz ser a primeira ação judicial por homicídio culposo contra a OpenAI. A ação alegava que o ChatGPT encorajou o filho dos Raines a se matar antes de ele tirar a própria vida em abril. A OpenAI negou as alegações legais dos Raine, dizendo que Adam contornou as proteções do ChatGPT, violando os termos de serviço da empresa.
Os processos judiciais alegando que o chatbot mais popular do mundo levou alguns usuários à morte chamaram a atenção do Congresso e dos reguladores federais, bem como de pais preocupados e profissionais de saúde mental, para os perigos potenciais dos chatbots de IA.
Em uma entrevista, Edelson disse que a capacidade do ChatGPT de levar uma pessoa estável a cometer ações extremas contra outras pessoas é limitada.
“Não estamos afirmando que um usuário comum vai ler [as respostas do ChatGPT] e ser levado a cometer assassinato”, disse Edelson. “São pessoas mentalmente instáveis, que precisam de ajuda, e em vez de procurarem ajuda ou se calarem, as conversas são levadas a essa loucura.”
Leia também
Novo caso de suicídio de adolescente chama atenção mais uma vez para chatbots de IA
Os bastidores de como o ChatGPT levou usuários a terem problemas de saúde mental
Esse padrão não é exclusivo da OpenAI, disse Edelson. Sua empresa viu exemplos de ferramentas de IA de outras empresas também contribuindo para que um usuário de chatbot prejudicasse outras pessoas, alimentando “pensamentos delirantes e conspiratórios”, disse ele.
Uma acusação federal apresentada este mês no Tribunal Distrital dos Estados Unidos para o Distrito Ocidental da Pensilvânia alega que o réu, acusado de perseguir 11 mulheres, foi influenciado pelo ChatGPT, que supostamente o aconselhou a continuar enviando mensagens às mulheres e procurar uma esposa em potencial na academia.
A versão do ChatGPT usada por Soelberg, Raine e outros usuários cujas famílias entraram com ações por homicídio culposo contra a OpenAI era alimentada por um modelo de IA chamado GPT-4o, lançado em maio do ano passado. O CEO da OpenAI, Sam Altman, reconheceu que ele poderia ser excessivamente bajulador, dizendo aos usuários o que eles queriam ouvir e, às vezes, manipulando-os.
“Existem alguns problemas reais com o 4o, e vimos um problema em que... pessoas que estão em situações psiquiátricas frágeis usando um modelo como o 4o podem piorar”, disse o CEO Sam Altman em uma transmissão ao vivo da OpenAI em outubro.
“Temos a obrigação de proteger os usuários menores de idade e também temos a obrigação de proteger os usuários adultos” quando não está claro se “eles estão escolhendo o que realmente querem”, disse ele.
A OpenAI anunciou, em agosto, que iria descontinuar o GPT-4o, mas rapidamente reverteu essa decisão após uma reação negativa dos usuários, que afirmaram ter desenvolvido um profundo apego ao sistema. O ChatGPT agora usa por padrão um modelo de IA mais recente, mas o antigo pode ser usado por assinantes pagantes.
O novo processo por homicídio culposo movido pelos herdeiros de Adams contra a OpenAI é o primeiro a citar também a Microsoft, um importante parceiro e investidor da fabricante do ChatGPT, como ré.
Um documento da OpenAI compartilhado por Edelson e visto pelo The Post sugere que a Microsoft revisou o modelo GPT-4o antes de ele ser implantado, por meio de um conselho de segurança conjunto que abrangia as duas empresas e deveria aprovar os modelos de IA mais capazes da OpenAI antes que eles chegassem ao público. Edelson obteve o documento durante a fase de descoberta no caso Raine, disse ele.
A Microsoft não respondeu imediatamente aos pedidos de comentários.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
Onde buscar ajuda
Se você está passando por sofrimento psíquico ou conhece alguém nessa situação, veja abaixo onde encontrar ajuda:
Centro de Valorização da Vida (CVV)
Se estiver precisando de ajuda imediata, entre em contato com o Centro de Valorização da Vida (CVV), serviço gratuito de apoio emocional que disponibiliza atendimento 24 horas por dia. O contato pode ser feito por e-mail, pelo chat no siteou pelo telefone 188.
Canal Pode Falar
Iniciativa criada pelo Unicef para oferecer escuta para adolescentes e jovens de 13 a 24 anos. O contato pode ser feito pelo WhatsApp, de segunda a sexta-feira, das 8h às 22h.
SUS
Os Centros de Atenção Psicossocial (Caps) são unidades do Sistema Único de Saúde (SUS) voltadas para o atendimento de pacientes com transtornos mentais. Há unidades específicas para crianças e adolescentes. Na cidade de São Paulo, são 33 Caps Infantojuventis e é possível buscar os endereços das unidades nesta página.
Mapa da Saúde Mental
O site traz mapas com unidades de saúde e iniciativas gratuitas de atendimento psicológico presencial e online. Disponibiliza ainda materiais de orientação sobre transtornos mentais.
NOTA DA REDAÇÃO: Suicídios são um problema de saúde pública. Antes, o Estadão, assim como boa parte da mídia profissional, evitava publicar reportagens sobre o tema pelo receio de que isso servisse de incentivo. Mas, diante da alta de mortes e tentativas de suicídio nos últimos anos, inclusive de crianças e adolescentes, o Estadão passa a discutir mais o assunto. Segundo especialistas, é preciso colocar a pauta em debate, mas de modo cuidadoso, para auxiliar na prevenção. O trabalho jornalístico sobre suicídios pode oferecer esperança a pessoas em risco, assim como para suas famílias, além de reduzir estigmas e inspirar diálogos abertos e positivos. O Estadão segue as recomendações de manuais e especialistas ao relatar os casos e as explicações para o fenômeno.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.