Mark Zuckerberg tem uma nova maneira de invadir sua privacidade: uma versão mais assustadora do ChatGPT.
Na semana passada, o cofundador do Facebook lançou o aplicativo Meta AI, um local dedicado ao chatbot de inteligência artificial (IA) de sua empresa. O aplicativo, que alcançou o segundo lugar na lista de downloads gratuitos do iPhone, promete aos usuários uma IA mais “personalizada”, com respostas e conselhos sob medida. E inclui uma nova rede social para que as pessoas compartilhem suas conversas e imagens de IA.
Mas a Meta AI também traz algo mais para os chatbots: vigilância. Na primeira vez que abri o aplicativo, pedi que ele “me descrevesse em três emojis”. Ela conseguiu, usando anos de informações pessoais rastreadas por seus aplicativos irmãos, Facebook e Instagram.
Como teste, também conversei com a Meta AI sobre alguns tópicos intencionalmente delicados. Depois disso, descobri que ela criou um arquivo de memória sobre mim que dizia que meus interesses incluíam técnicas naturais de fertilidade, divórcio, custódia dos filhos, empréstimo consignado e leis sobre evasão fiscal.
Na verdade, a Meta AI, por padrão, mantinha uma cópia de tudo o que eu dizia a ela, para adaptar suas respostas a mim, treinar uma versão futura da IA e, posteriormente, me direcionar com anúncios. Mais tarde, consegui excluir sua memória e minhas conversas, com algum esforço. Mas, pelos meus testes, a Meta AI ultrapassa os limites da privacidade de uma forma muito mais ampla do que os rivais ChatGPT, da OpenAI, ou Gemini, do Google.
Seja qual for o assunto do seu bate-papo com a Meta AI, imagine Zuckerberg observando. Minhas conversas eram testes, mas cada vez mais pessoas estão recorrendo à IA para assuntos incrivelmente pessoais, desde problemas médicos até namorados virtuais.
A Meta diz que sua IA dá às pessoas o que elas querem. “Há décadas fornecemos personalização valiosa para as pessoas em nossas plataformas, facilitando a realização do que elas procuram em nossos aplicativos - o aplicativo Meta AI não é diferente”, disse o porta-voz da Meta, Thomas Richards. “Fornecemos transparência e controle em todo o processo, para que as pessoas possam gerenciar sua experiência e garantir que ela seja adequada para elas.”
No entanto, para a maioria dos usuários, a personalização da Meta AI traz um conjunto totalmente novo de riscos à privacidade que eles talvez ainda não conheçam, muito menos saibam como controlar.
“As divulgações e as opções do consumidor em relação às configurações de privacidade são ridiculamente ruins”, diz Ben Winters, diretor de IA e privacidade de dados da Consumer Federation of America. “Eu o usaria apenas para avisos superficiais e divertidos ou coisas que não tenham nada a ver com suas informações pessoais, desejos, preocupações, medos ou qualquer coisa que você não divulgaria na internet.”
Problemas de privacidade da IA personalizada
Um assistente virtual que possa prever suas necessidades - ou até mesmo ser seu terapeuta - é o santo graal da IA. E a Meta não é a única empresa a se aprofundar nos dados pessoais em busca disso.
Recentemente, o Google adicionou uma opção ao Gemini que permite que você escolha usar seu histórico de pesquisa no Google para personalizar suas respostas. O ChatGPT adicionou a capacidade de lembrar detalhes de todas as conversas.
Mas a era da IA personalizada também traz novas complicações de privacidade: como gerenciamos o que queremos que os bots saibam e como eles usam nossas informações? “Só porque essas ferramentas agem como se fossem seus amigos, não significa que sejam”, diz Miranda Bogen, diretora do Center for Democracy & Technology, que pesquisou as compensações de privacidade da personalização da IA.
Durante uma conversa com a Meta AI, Miranda mencionou mamadeiras. Depois disso, segundo ela, o chatbot decidiu que ela deveria ser mãe. Os sistemas de IA, que já são conhecidos por seus estereótipos, podem levar a novos tipos de preconceito quando são personalizados. “Isso pode começar a direcionar as pessoas para caminhos que talvez não sejam os pretendidos e que se baseiem em informações que não lhes agradam”, diz ela.
E imagine o Black Mirror da vida real quando a IA começar a inserir anúncios personalizados em suas respostas e conselhos. Ela está recomendando um restaurante porque acha que eu vou gostar ou porque está sendo paga para isso? A Meta AI não tem anúncios hoje, mas Zuckerberg sinalizou que vê “uma grande oportunidade de mostrar recomendações de produtos ou anúncios” nela durante uma chamada de lucros na semana passada.
A OpenAI afirma que não compartilha o conteúdo do ChatGPT com terceiros para fins de marketing. O Google diz que as conversas do Gemini não estão sendo usadas atualmente para exibir anúncios e que a empresa “comunicaria claramente” uma mudança aos usuários.
“A ideia de um agente é que ele esteja trabalhando em meu nome - e não tentando me manipular em nome de outros”, diz Justin Brookman, diretor de política de tecnologia da Consumer Reports. A publicidade personalizada com tecnologia de IA “é inerentemente contraditória”, diz ele.
Cinco avisos de privacidade sobre a Meta AI
O “compartilhamento” é público
Em cada bate-papo da Meta AI, há um botão Compartilhar no canto superior direito. Ao tocar nele, o conteúdo do bate-papo será publicado em uma guia do aplicativo chamada Discover.
Mas é importante observar: tudo o que você compartilha é público. Não há um botão para compartilhar apenas com seus amigos do Facebook e do Instagram, ou por meio de uma mensagem direta.
Se você se arrepender de ter compartilhado algo, poderá acessar as configurações para ocultar do público todas as suas publicações anteriores.
A Meta AI está conectado ao Facebook e ao Instagram
Se você configurar um perfil para o aplicativo usando sua conta existente do Facebook ou do Instagram, a IA terá acesso às informações do seu perfil. E a Meta AI também pode compartilhar informações derivadas de seus bate-papos com o Facebook e o Instagram.
Não quer que todos esses dados se misturem? Você precisa criar uma conta separada da Meta AI.
A Meta AI se lembra de tudo
A Meta AI mantém uma transcrição ou gravação de voz de cada conversa que você tem com ela. A IA aprende com o que você pergunta e pode fazer referência a isso em conversas futuras. Ela também mantém uma lista do que considera fatos importantes sobre você em um arquivo de memória separado, que pode ser visualizado nas configurações do aplicativo.
Você pode excluir bate-papos e Memórias anteriores, mas não há nenhuma configuração que impeça a Meta AI de gravá-los. O mais próximo que você pode chegar é usar o site da Meta AI sem fazer login.
Seus bate-papos estão treinando a Meta AI
O conteúdo de seus bate-papos - suas palavras, fotos e até mesmo sua voz - acabará sendo alimentado pelos sistemas de treinamento da Meta AI.
A Meta adverte em seus termos de serviço que: “não compartilhe informações que você não queira que as IAs usem e retenham”.
Seus bate-papos podem ser usados para anúncios
Embora a Meta AI não inclua anúncios no momento, Zuckerberg já sinalizou que eles estão chegando.
Nada em sua política de privacidade impede que ele use o conteúdo de suas conversas para personalizar anúncios na Meta AI, no Facebook ou no Instagram.
Leia também
Empresas Meta AI, inteligência artificial de WhatsApp e Insta, fica mais poderosa com atualização; conheça
Meta AI vai se lembrar dos seus gostos e preferências pessoais dentro do WhatsApp
Assumindo o controle de seus dados
Há três aspectos que fazem com que a Meta AI pareça ser uma grande mudança para nossa privacidade.
Primeiro, a Meta AI está conectado ao Facebook e ao Instagram. Se você configurar um perfil para o aplicativo usando sua conta de rede social existente, a IA terá acesso a uma montanha de informações coletadas por esse aplicativo. Tudo isso moldará as respostas que o bot da Meta AI lhe dará, mesmo que algumas das ideias do Facebook ou do Instagram sobre você estejam muito erradas.
Se não quiser que todos esses dados sejam combinados, você terá que configurar uma conta separada da Meta AI.
Em segundo lugar, a Meta AI se lembra de tudo por padrão. Ele mantém uma transcrição ou gravação de voz de todas as conversas que você tem com ele, juntamente com uma lista do que ele considera fatos importantes sobre você - como tópicos nos quais você menciona estar “interessado” - em um arquivo de memória separado. Você pode visualizar suas memórias nas Configurações do aplicativo.
Mas e se houver algo que você não queira que a IA lembre? Isso é compreensível: há muitas coisas - como meu teste envolvendo técnicas de fertilidade e sonegação de impostos - que as pessoas sabem que só devem pesquisar no Google em particular.
A Meta diz que tenta não adicionar tópicos delicados ao seu arquivo de memória, mas meus testes descobriram que ele registrou bastante - como fertilidade e empréstimos para pagamento. O que é pior, o aplicativo da Meta AI não permite que você impeça que ele salve bate-papos ou memórias. (O mais próximo que você pode chegar é usar o site da Meta AI sem fazer login.) A Meta AI também não oferece um modo “temporário”, como faz o ChatGPT, que mantém uma conversa fora do seu histórico.
O aplicativo Meta AI permite que você exclua os bate-papos e o conteúdo do seu arquivo de memória após o fato. Mas quando tentei excluir minhas memórias, o aplicativo avisou que elas não tinham desaparecido totalmente. O bate-papo original que continha as informações permanecia em meu histórico e ainda podia ser usado. Então, eu também tive que vasculhar meu histórico de bate-papo, encontrar o bate-papo original e excluí-lo também. (A opção nuclear era tocar em uma configuração que instruísse o aplicativo a excluir tudo).
E há mais uma preocupação sutil com a privacidade. O conteúdo de seus bate-papos - suas palavras, fotos e até mesmo a voz - acabará sendo alimentado pelos sistemas de treinamento de IA da Meta. O ChatGPT permite que você opte por não participar do treinamento desativando uma configuração chamada “melhorar o modelo para todos”. A Meta AI não oferece uma opção de exclusão.
Por que você não quer contribuir com os dados de treinamento da Meta? Muitos artistas e escritores têm se incomodado com o fato de seu trabalho ser usado para treinar a IA sem compensação ou reconhecimento.
Alguns defensores da privacidade também dizem que devemos nos preocupar com o fato dos sistemas de IA poderem “vazar” dados de treinamento em bate-papos futuros. Esse é um dos motivos pelos quais muitas empresas obrigam seus funcionários a usar apenas sistemas de IA que não utilizem seus dados para treinamento.
A Meta diz que treina e ajusta seus modelos de IA para limitar a possibilidade de informações privadas aparecerem nas respostas a outras pessoas.
Ainda assim, a Meta tem um aviso em seus termos de serviço: “não compartilhe informações que você não queira que as IAs usem e retenham”.
Eu acreditaria na palavra deles.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
