Ania Rucinski estava se sentindo mal consigo mesma.
Ela diz que tem uma boa aparência, mas os amigos não hesitam em insinuar que ela não está à altura de seu namorado - um bonitão “divino”. Essas mesmas pessoas nunca lhe diriam o que ela poderia fazer para parecer mais atraente, acrescenta. Assim, Ania, 32 anos, procurou uma fonte não convencional para obter a verdade fria e dura: o ChatGPT.
Ela digitou no campo de prompt do bot, dizendo que estava cansada de se sentir como a menos desejável e perguntando o que poderia fazer para ficar mais bonita. O bot disse que seu rosto se beneficiaria com uma franja de cortina.
“As pessoas filtram as coisas por meio de seus preconceitos e trazem sua própria subjetividade para esses tipos de perguntas carregadas”, disse Ania, que mora em Sydney. “O ChatGPT traz um nível de objetividade que não é possível obter na vida real.”
Desde seu lançamento no final de 2022, o ChatGPT, da OpenAI, tem sido usado por centenas de milhões de pessoas em todo o mundo para redigir e-mails, fazer pesquisas e debater ideias. Mas em um novo caso de uso, as pessoas estão carregando suas próprias fotos, pedindo avaliações imparciais de sua aparência e compartilhando os resultados nas redes sociais. Muitos também pedem que o bot formule um plano para “brilhar” ou melhorar sua aparência. Os usuários dizem que o bot, por sua vez, recomendou produtos específicos, desde tintura de cabelo até botox. Algumas pessoas dizem que gastaram milhares de dólares seguindo as sugestões da inteligência artificial (IA).
A tendência destaca a disposição das pessoas em confiar nos chatbots não apenas para obter informações e fatos, mas para obter opiniões sobre tópicos altamente subjetivos, como beleza. Alguns usuários consideram as respostas da IA mais imparciais, mas os especialistas dizem que essas ferramentas vêm com vieses ocultos que refletem os dados de treinamento ou os incentivos financeiros do fabricante. Quando um chatbot fala, ele está extraindo de uma vasta quantidade de conteúdo da internet, desde pesquisas revisadas por pares até fóruns misóginos na web. Críticos de tecnologia e beleza dizem que é arriscado recorrer a ferramentas de IA para obter feedback sobre nossa aparência.
À medida que as empresas de IA começam a oferecer recomendações de compras e produtos, os chatbots também podem levar os consumidores a gastar mais, de acordo com os analistas.
A IA “apenas ecoa o que foi visto online, e muito disso foi projetado para fazer com que as pessoas se sintam mal consigo mesmas e comprem mais produtos”, disse Emily Pfeiffer, analista de comércio da Forrester.
Ainda assim, muitos consumidores dizem que valorizam as críticas do chatbot, que oferece uma perspectiva diferente da de seus amigos e familiares.
Kayla Drew, 32 anos, disse que recorre ao ChatGPT para obter conselhos sobre “tudo”, desde como decorar sua casa até o que comprar no supermercado. Recentemente, ela pediu ao bot um feedback honesto sobre como poderia ter uma aparência mais atraente. Ele retornou com sugestões para sua pele, cabelo, sobrancelhas, cílios, maquiagem e roupas - todas seguidas por Drew, segundo ela. Até o momento, ela gastou cerca de US$ 200.
Se as pessoas reais de sua vida lhe dessem um feedback direto sobre sua aparência, provavelmente ela se sentiria magoada, disse Kayla. Mas vindo do ChatGPT, ao qual se refere com os pronomes “ela”, a coisa toda parece mais palatável.
“Hoje perguntei sobre o clareamento dos meus dentes e ela disse: ‘Certifique-se de que sua higiene bucal esteja em dia’, e eu pensei: ‘Droga, garota’”, disse Kayla. “Ninguém mais viria até mim e diria isso. Foi muito legal porque acho que eu precisava ouvir isso.”
Os usuários veem o ChatGPT como uma medida mais objetiva de beleza porque, ao contrário de amigos e familiares, ele não leva em conta qualidades como gentileza ou humor, disse Jessica DeFino, crítica de beleza que escreve o boletim Review of Beauty. Os padrões de beleza da era da internet transformam o indivíduo em um objeto, disse ela, e que melhor maneira de avaliar um objeto do que perguntar a outro objeto (alimentado por IA)?
“Se estivermos tentando nos otimizar como objetos bonitos, não podemos considerar a opinião de um ser humano que esteja, digamos, apaixonado por nós”, disse Jessica.
Leia também
Parte da geração Z prefere ter uma IA como chefe em vez de um humano, mostra pesquisa
O que é ‘vibe coding’, nova tendência no mundo da programação que é impulsionada por IA
Quando os bots dão conselhos, quem está realmente falando?
A OpenAI disse, este mês, que está atualizando o ChatGPT para mostrar produtos - incluindo imagens, detalhes e links - quando os usuários parecem estar fazendo compras. Alguns especialistas em tecnologia e beleza alertam que as sugestões do bot atendem aos objetivos do fabricante, não aos do usuário.
As empresas de IA precisam de novos fluxos de receita - algumas estão gastando bilhões para criar e hospedar ferramentas de IA. Fazer com que os chatbots apresentem produtos e anúncios patrocinados é um possível caminho a seguir: A Perplexity AI já incorporou um recurso de compras na interface do seu chatbot, e beleza é a terceira categoria mais pesquisada, disse um porta-voz.
À medida que os recursos de compras forem sendo implementados, os consumidores poderão começar a ver recomendações de produtos sem saber por que o bot está escolhendo esses produtos, diz Emily, da Forrester. O bot poderia, por exemplo, obter ideias de um influenciador de maquiagem experiente do YouTube ou de um tópico maldoso do Reddit. Ele poderia inventar um produto falso ou fazer afirmações falsas sobre um produto real, disse ela. Seus dados de treinamento são tão vastos e opacos que o bot se torna vulnerável a preconceitos e erros.
Mas esses mesmos dados de treinamento também poderiam dar aos chatbots uma vantagem como assistentes de compras e beleza em comparação com os mecanismos de pesquisa tradicionais, disse Jesse Dwyer, porta-voz da Perplexity. Em vez de vasculhar dezenas de tópicos do Reddit ou vídeos do YouTube para encontrar o produto antienvelhecimento perfeito, uma compradora poderia explicar ao bot que está cansada das olheiras e quer algo que a ajude. Idealmente, o bot entenderia o que ela quer dizer e pouparia seu tempo de compras, disse Dwyer.
Um vídeo do TikTok solicitando ao ChatGPT recomendações de produtos para brilho atraiu mais de 220 mil visualizações e uma série de comentários positivos. Um comentarista disse que o bot classificou sua atratividade em uma escala de 10 pontos.
“Ele me disse que sou mediano e que poderia passar de cinco para sete com a ajuda de maquiagem e preenchimentos”, disse.
Embora a OpenAI, fabricante do ChatGPT, não compartilhe publicamente os dados com os quais seus sistemas de IA são treinados, os dados de treinamento provavelmente incluem fóruns online em que as pessoas classificam a atratividade de outras pessoas (em grande parte homens classificando mulheres), como o subreddit r/RateMe ou o site Hot or Not, disse Alex Hanna, diretor de pesquisa do Distributed AI Research Institute.
Embora os dados de treinamento contenham diversas ideias, os chatbots tendem a se direcionar para os tópicos mais comuns - como a convicção de que as mulheres precisam melhorar constantemente sua aparência, disse Hanna.
“Estamos automatizando o olhar masculino”, acrescentou Emily Bender, linguista computacional especializada em IA generativa e coautora, juntamente com Hanna, do livro “The AI Con”.
A porta-voz da OpenAI, Leah Seay Anise, disse que a empresa tem equipes trabalhando para reduzir o preconceito em seus modelos. Ela se recusou a dizer se a tecnologia do ChatGPT foi treinada em conteúdo que classifica a atratividade. Os recursos de compras são novos e ainda estão sendo refinados, disse ela.
Ainda assim, o potencial de parcialidade não impediu que muitas pessoas recorressem a bots em vez de humanos para conversas delicadas. Alguns usuários já confiam nos chatbots para companhia, incluindo discussões no estilo de terapia de saúde mental. Às vezes, tudo o que as pessoas querem é uma caixa de ressonância que não venha com sua própria parcela de bagunça humana.
Os usuários que pediram ao ChatGPT um feedback sobre sua aparência disseram que ficaram satisfeitos com os resultados, mesmo quando o bot apontou imperfeições perceptíveis. Michaela Lassig, 39 anos, do estado de Washington, pediu ao ChatGPT que a ajudasse a brilhar antes de seu casamento. Em sua solicitação, ela disse ao bot suas metas (pele impecável e jovem), seu orçamento (US$ 2.500) e seu cronograma.
“O ideal é que você me dê uma lista de procedimentos ou serviços e me diga quando fazê-los para que eu tenha a melhor pele e o melhor rosto possível até 16 de julho”, ela pediu ao bot.
O robô lhe forneceu uma lista detalhada dos sinais de envelhecimento em seu rosto. Mas, no final, ela aceitou as recomendações - ele até estimou corretamente as unidades de botox que seu injetor sugeriria. Lassig disse que foi cuidadosa ao redigir sua solicitação para que ela se concentrasse em suas metas pessoais para a pele e não em algum padrão universal.
Haley Andrews, de 31 anos, queria a verdade sem filtros sobre sua aparência e “não estava procurando por algo bonito”. Ela sempre gostou da forma como sua irmã mais velha fazia críticas sem adoçar, por isso foi até o bot com um pedido especial.
“Eu disse a ele: ‘Por favor, fale como uma irmã mais velha que diz a verdade porque ama você e quer o melhor para você, mesmo que seja um pouco duro”, disse Haley.
Ela lhe disse que suas sobrancelhas estavam afinando e que sua pele não tinha blush.
“Foi muito certeiro”, disse ela.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.