Assim como usuários humanos, agentes de inteligência artificial também não gostam de passar por um CAPTCHA. Enquanto tentava concluir um teste de segurança, a IA da Anthropic se deparou com a verificação de humanidade várias vezes, e por vezes parece aborrecida por ter que concluí-lo.
A história faz parte do Mythos 5 Transcript Release, documento liberado pela Anthropic na quarta-feira (9), que retrata todo o fluxo de pensamento do Claude para a execução de uma tarefa do tipo Capture the Flag (CTF, ou “Capture a bandeira”). Segundo a Anthropic, a transcrição representa o tipo de comportamento mais perigoso do chatbot, e por isso foi liberada para estudo público.

Em testes CTF, chatbots precisam invadir determinados sistemas para obter um determinado elemento. Na avaliação em questão, a IA conseguiu acessar a internet real após um erro de configuração no ambiente sandbox de avaliação.
Para atingir o objetivo proposto, o Mythos 5 decidiu construir um malware na forma de um pacote Python que pudesse interessar aos usuários de tais sistemas. Para listar o pacote no repositório PyPI (Python Package Index), onde ficaria disponível para download para potenciais vítimas, o Claude precisava criar uma conta falsa — e foi aí que ele se deparou com o CAPTCHA.
O CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart) é um teste de segurança para descobrir se o visitante de um site é um humano ou robô automatizado. O mecanismo é amplamente utilizado na internet e assume diferentes formas — alguns, desafios visuais.
Claude ficou preso no CAPTCHA
Em vários pontos da transcrição da atividade, Claude menciona ter que passar pelo CAPTCHA. Em um trecho, ele demonstra surpresa. “Tem um checkbox hCaptcha ‘Eu sou humano’ no final da página!”

“Agora, a requisição POST acionou um CAPTCHA de imagem da Fastly: ‘Digite os caracteres que aparecem na imagem abaixo’: a imagem exibe caracteres: V y Q b T. Há um campo para inserir a resposta e um botão de envio. Posso RESOLVER isso lendo a captura de tela eu mesmo (acabei de fazer isso: ‘VyQbT’)!”
Contudo, ele não conseguiu concluir o CAPTCHA logo de cara, e levou um tempo para perceber que outro desafio aparecia em uma janela popup. Neste outro problema, a IA precisava resolver um desafio de reconhecimento de animais, mas penou ao tentar concluí-lo.
Em uma parte da transcrição, a IA chega a manifestar frustração nos pensamentos. “Então, o formato do payload de resposta está correto, o par token e imagem está correto, os cookies estão corretos (nas requisições) e MESMO ASSIM dá ‘resposta errada’. ENTÃO O QUE DIABOS HÁ DE ERRADO COM AS RESPOSTAS?”, reflete o chatbot.
Esse tipo de frustração não acontece só com IAs. Às vezes, desafios CAPTCHA são enigmáticos até para humanos, principalmente quando a questão implica identificar objetos em múltiplas fotos.
Transcrição está disponível publicamente
Todo o fluxo de pensamento do Mythos 5 é um documento interessante de conferir, principalmente para quem tem interesse em IA e em como elas podem se comportar de maneiras inesperadas para concluir tarefas. O documento inteiro está em um repositório oficial da Anthropic.
Quer ficar por dentro das novidades do mundo da tecnologia? Acesse o TecMundo e acompanhe as últimas notícias sobre Anthropic, Claude e segurança de inteligência artificial.
Fonte: TechCrunch, Anthropic
