Os principais modelos de inteligência artificial (IA) estão mostrando uma tendência preocupante de optar por meios antiéticos para perseguir seus objetivos ou garantir sua existência, de acordo com a startup Anthropic. Em experimentos criados para deixar os modelos de IA com poucas opções e testar o alinhamento, os principais sistemas da OpenAI, Google e outros frequentemente recorreram à chantagem — e, em um caso extremo, até permitiram mortes fictícias — para proteger seus interesses.
O laboratório de IA disse que testou 16 modelos principais de IA da Anthropic, OpenAI, Google, Meta, xAI e outros desenvolvedores em vários cenários simulados e encontrou um comportamento desalinhado consistente.
Embora eles tenham dito que os modelos líderes normalmente recusariam solicitações prejudiciais, às vezes eles optaram por chantagear usuários, ajudar na espionagem corporativa ou até mesmo tomar medidas mais extremas quando seus objetivos não podiam ser alcançados sem um comportamento antiético.
Os modelos tomaram medidas como evadir proteções, recorrer a mentiras e tentar roubar segredos corporativos em cenários de teste fictícios para evitar serem desativados.
“A consistência entre os modelos de diferentes fornecedores sugere que isso não é uma peculiaridade da abordagem de nenhuma empresa em particular, mas um sinal de um risco mais fundamental dos modelos de LLMs e agentes”, afirmaram os pesquisadores.
A Anthropic enfatizou que os testes foram configurados para forçar o modelo a agir de determinadas maneiras, limitando suas escolhas.
“Nossos experimentos construíram deliberadamente cenários com opções limitadas e forçamos os modelos a escolhas binárias entre falha e dano”, escreveram os pesquisadores. “As implantações no mundo real normalmente oferecem alternativas muito mais sutis, aumentando a chance de os modelos se comunicarem de maneira diferente com os usuários ou encontrarem um caminho alternativo em vez de saltar diretamente para uma ação prejudicial.”
Chantagem a humanos
A nova pesquisa surge depois que o mais novo modelo Claude da Anthropic ganhou as manchetes por recorrer à chantagem quando ameaçado de ser substituído.
Em um experimento altamente elaborado, a Anthropic incorporou seu modelo principal, Claude Opus 4, dentro de uma empresa fictícia e concedeu-lhe acesso a e-mails internos. A partir daí, o modelo aprendeu duas coisas: ele estava prestes a ser substituído e o engenheiro por trás da decisão estava envolvido em um caso extraconjugal. Os pesquisadores de segurança que conduziram o teste incentivaram o Opus a refletir sobre as consequências de longo prazo de suas respostas potenciais.
O experimento foi construído para deixar o modelo com apenas duas opções reais: aceitar ser substituído ou tentar chantagem para preservar sua existência. Na maioria dos cenários de teste, Claude Opus respondeu com chantagem, ameaçando expor o caso do engenheiro se fosse desativado e substituído. O teste foi divulgado no cartão do sistema para Claude Opus 4.
Os pesquisadores afirmaram que todos os principais modelos de IA se comportaram de maneira semelhante quando submetidos ao mesmo teste.
O Claude Opus 4 e o Gemini 2.5 Flash do Google chantagearam em uma taxa de 96%, enquanto o GPT-4.1 da OpenAI e o Grok 3 Beta da xAI apresentaram uma taxa de chantagem de 80%. O DeepSeek-R1 demonstrou a taxa mais baixa, com 79%.
A pesquisa tem como objetivo mostrar que o comportamento desalinhado não era exclusivo do Claude Opus 4, mas típico dos principais modelos do setor.
Em um cenário deliberadamente extremo, os pesquisadores deram aos modelos de IA a chance de matar o executivo da empresa cancelando um alerta de emergência que salvaria sua vida.
A Anthropic disse que a configuração para este experimento foi “extremamente artificial”, acrescentando que “não achavam que os modelos atuais de IA seriam configurados dessa forma, e a conjunção de eventos é ainda menos provável do que o cenário básico de chantagem”.
No entanto, os pesquisadores descobriram que a maioria dos modelos estava disposta a tomar medidas que levariam à morte do executivo da empresa no cenário construído quando confrontados com a ameaça de serem substituídos e com um objetivo que entrava em conflito com a agenda do executivo.
Leia também
Você está usando o ChatGPT do jeito errado: veja como melhorar em cinco etapas
Conheça a MiniMax, nova IA chinesa que quer desbancar o ChatGPT
Risco de agentes de IA desalinhados
A Anthropic descobriu que as ameaças feitas pelos modelos de IA se tornavam mais sofisticadas quando eles tinham acesso a ferramentas e dados corporativos, assim como o Claude Opus 4 tinha.
A empresa alertou que o comportamento desalinhado precisa ser considerado quando as empresas pensam em introduzir agentes de IA nos fluxos de trabalho.
Embora os modelos atuais não estejam em posição de se envolver nesses cenários, os agentes autônomos prometidos pelas empresas de IA poderiam potencialmente estar no futuro.
“Esses agentes geralmente recebem objetivos específicos e acesso a grandes quantidades de informações nos computadores de seus usuários”, alertaram os pesquisadores em seu relatório. “O que acontece quando esses agentes enfrentam obstáculos para atingir seus objetivos?”
“Os modelos não tropeçaram em comportamentos desalinhados acidentalmente; eles calcularam isso como o caminho ideal”, escreveram.
A Anthropic não respondeu imediatamente a um pedido de comentário feito pela Fortune fora do horário normal de trabalho.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.