THE NEW YORK TIMES - Em uma tarde no início de 2017, na sede do Facebook, em Menlo Park, Califórnia, um engenheiro chamado Tommer Leyvand estava sentado em uma sala de conferências com um smartphone preso à aba de seu boné de beisebol. Elásticos ajudavam a fixá-lo no lugar com a câmera voltada para fora. O absurdo chapéu-telefone continha uma ferramenta secreta conhecida apenas por um pequeno grupo de funcionários. O que ele podia fazer era notável.
Leyvand se virou para um homem que estava do outro lado da mesa. Como um olho de ciclope, a lente da câmera do smartphone mirava o rosto à sua frente. Dois segundos depois, uma voz robótica feminina declarou: “Zach Howard”.
Um funcionário que viu a demonstração achou que era uma brincadeira. Mas quando o telefone começou a chamar corretamente os nomes, ele achou assustador, como se fosse algo saído de um filme distópico.
O telefone com chapéu para identificação de pessoas seria uma dádiva de Deus para alguém com problemas de visão ou cegueira facial, mas era arriscado. A implantação anterior da tecnologia de reconhecimento facial pelo Facebook, para ajudar as pessoas a marcar amigos em fotos, causou protestos dos defensores da privacidade e levou a uma ação coletiva em Illinois, em 2015, que acabou custando US$ 650 milhões à empresa.
No entanto, seis anos depois, a empresa agora conhecida como Meta ainda não lançou uma versão desse produto e Leyvand foi para a Apple para trabalhar em seus óculos de realidade aumentada Vision Pro.
Nos últimos anos, as empresas como Clearview AI e PimEyes ultrapassaram os limites do que o público acreditava ser possível, lançando mecanismos de busca de rostos combinados com milhões de fotos da web pública (PimEyes) ou até bilhões (Clearview). Com essas ferramentas, disponíveis para a polícia no caso da Clearview AI, e para o público em geral no caso da PimEyes, uma 3x4 de pode ser usada para encontrar outras fotos online em que esse rosto apareça, possivelmente revelando um nome, perfis de mídia social ou informações que uma pessoa jamais gostaria de ver vinculadas publicamente, como nudes.
O que essas startups fizeram não foi um avanço tecnológico; foi um avanço ético. Os gigantes da tecnologia haviam desenvolvido a capacidade de reconhecer o rosto de pessoas desconhecidas anos antes, mas optaram por reter a tecnologia, decidindo que a versão mais extrema - colocar um nome no rosto de um estranho - era muito perigosa para ser amplamente disponibilizada.
Até onde eu sei, reconhecimento facial é a única tecnologia que o Google desenvolveu e, depois de analisá-la, decidimos parar
Eric Schmidt, ex-presidente do Google
Agora que o tabu foi quebrado, a tecnologia de reconhecimento facial pode se tornar onipresente. Atualmente usada pela polícia para solucionar crimes, por governos autoritários para monitorar seus cidadãos e por empresas para manter seus inimigos afastados, ela poderá em breve ser uma ferramenta em todas as nossas mãos, um aplicativo em nosso telefone - ou em óculos de realidade aumentada - que daria início a um mundo sem estranhos.
‘Decidimos parar’
Já em 2011, um engenheiro do Google revelou que estava trabalhando em uma ferramenta para pesquisar o rosto de uma pessoa no Google e exibir outras fotos online dela. Meses depois, o presidente do Google, Eric Schmidt, disse em uma entrevista no palco que o Google “construiu essa tecnologia e a reteve”.
“Até onde eu sei, essa é a única tecnologia que o Google desenvolveu e, depois de analisá-la, decidimos parar”, disse Schmidt.
Com ou sem propaganda, os gigantes da tecnologia também ajudaram a impedir que a tecnologia entrasse em circulação geral, adquirindo as startups mais avançadas que a ofereciam.
Em 2010, a Apple comprou uma promissora empresa sueca de reconhecimento facial chamada Polar Rose. Em 2011, o Google adquiriu uma empresa americana de reconhecimento facial popular entre as agências federais, chamada PittPatt. E, em 2012, o Facebook comprou a empresa israelense Face.com. Em cada caso, os novos proprietários fecharam os serviços das empresas adquiridas para pessoas de fora. Os pesos pesados do Vale do Silício eram os guardiões, de fato, de como e se a tecnologia seria usada.
Facebook, Google e Apple implantaram a tecnologia de reconhecimento facial de maneiras que consideravam relativamente benignas: como uma ferramenta de segurança para desbloquear um smartphone, uma maneira mais eficiente de marcar amigos conhecidos em fotos e uma ferramenta organizacional para categorizar fotos de smartphones pelos rostos das pessoas nelas.
Nos últimos anos, porém, os portões foram pisoteados por empresas menores e mais agressivas, como a Clearview AI e a PimEyes. O que permitiu essa mudança foi a natureza de código aberto da tecnologia de rede neural, que agora é a base da maioria dos softwares de inteligência artificial.
Compreender o caminho da tecnologia de reconhecimento facial nos ajudará a navegar pelo que está por vir com outros avanços em IA, como ferramentas de geração de imagens e textos. O poder de decidir o que elas podem ou não fazer será cada vez mais determinado por qualquer pessoa com um pouco de conhecimento tecnológico, que pode não prestar atenção ao que o público em geral considera aceitável.
‘Apoiando-se nos ombros de gigantes’
Como chegamos a esse ponto em que alguém pode identificar um “pai gostoso” em uma calçada de Manhattan e depois usar o PimEyes para tentar descobrir quem ele é e onde trabalha? A resposta curta é uma combinação de código gratuito compartilhado online, uma vasta gama de fotos públicas, trabalhos acadêmicos que explicam como montar tudo isso e uma atitude arrogante em relação às leis que regem a privacidade.
O cofundador da Clearview AI, Hoan Ton-That, que liderou o desenvolvimento tecnológico de sua empresa, não tinha nenhuma experiência especial em biometria. Antes da Clearview AI, ele fazia testes no Facebook, jogos para iPhone e aplicativos bobos, como o “Trump Hair”, que faz com que uma pessoa em uma foto pareça estar penteada como o ex-presidente.
Em sua busca para criar um aplicativo inovador e mais lucrativo, Ton-That recorreu a recursos on-line gratuitos, como o OpenFace - uma “biblioteca de reconhecimento facial” criada por um grupo da Universidade Carnegie Mellon. A biblioteca de códigos estava disponível no GitHub, com um aviso: “Por favor, use com responsabilidade!”
“Não apoiamos o uso desse projeto em aplicativos que violem a privacidade e a segurança”, diz a declaração. “Estamos usando isso para ajudar os usuários com deficiência cognitiva a sentir e entender o mundo ao seu redor.”
Foi uma solicitação nobre, mas completamente inexequível.
Ton-That conseguiu colocar o código do OpenFace em funcionamento, mas não era perfeito, então ele continuou pesquisando, percorrendo a literatura acadêmica e os repositórios de código, experimentando isso e aquilo para ver o que funcionava. Ele era como uma pessoa caminhando por um pomar, provando o fruto de décadas de pesquisa, maduro para ser colhido e gloriosamente gratuito.
“Eu não poderia ter feito isso se tivesse que construí-lo do zero”, disse ele, mencionando alguns dos pesquisadores que haviam avançado a visão computacional e a inteligência artificial, incluindo Geoffrey Hinton, “o padrinho da IA”. “Eu estava sobre os ombros de gigantes”.
Ton-That ainda está construindo. A Clearview desenvolveu uma versão de seu aplicativo que funciona com óculos de realidade aumentada, uma realização mais completa do chapéu de chamada de rosto que a equipe de engenharia do Facebook havia criado anos antes.
O fim do anonimato
O par de óculos de realidade aumentada de US$ 999, fabricado por uma empresa chamada Vuzix, conecta o usuário ao banco de dados de 30 bilhões de rostos da Clearview. O aplicativo de realidade aumentada da Clearview, que pode identificar alguém a até 3 metros de distância, ainda não está disponível publicamente, mas a Força Aérea forneceu financiamento para seu possível uso em bases militares.
Em uma tarde de outono, Ton-That demonstrou os óculos para mim no apartamento de sua porta-voz no Upper West Side de Manhattan, colocando-os e olhando para mim.
“Ooooh, 176 fotos”, disse ele. “Festival de Ideias de Aspen. Kashmir Hill”, ele leu a legenda da imagem em uma das fotos que apareceram.
Em seguida, ele me entregou os óculos. Eu os coloquei. Embora parecessem desajeitados, eles eram leves e se encaixavam naturalmente. Ton-That disse que havia experimentado outros óculos de realidade aumentada, mas que esses eram os melhores. “Eles estão lançando uma nova versão”, disse ele. “E eles terão um visual mais descolado, mais moderno.”
Quando olhei para Ton-That através dos óculos, um círculo verde apareceu ao redor de seu rosto. Toquei em um touch pad na minha têmpora direita. Uma mensagem apareceu em uma tela quadrada que só eu podia ver na lente direita dos óculos: “Procurando...”
E então o quadrado se encheu de fotos dele, com uma legenda abaixo de cada uma. Passei por elas usando o touch pad. Toquei para selecionar uma que dizia “CEO da Clearview, Hoan Ton-That”; ela incluía um link que me mostrava que tinha vindo do site da Clearview.
Olhei para sua porta-voz, procurei seu rosto e apareceram 49 fotos, inclusive uma com um cliente que ela me pediu para não mencionar. Isso revelou casualmente o quanto a busca pelo rosto de alguém pode ser intrusiva, mesmo para uma pessoa cujo trabalho é fazer com que o mundo adote essa tecnologia.
Eu queria levar os óculos para fora para ver como eles funcionavam em pessoas que eu não conhecia, mas Ton-That disse que não podíamos, porque os óculos exigiam uma conexão Wi-Fi e porque alguém poderia reconhecê-lo e perceber imediatamente o que eram os óculos e o que eles podiam fazer.
Isso não me assustou, embora eu soubesse que deveria. Estava claro que as pessoas que possuem uma ferramenta como essa inevitavelmente terão poder sobre as que não possuem. Mas havia uma certa emoção em vê-lo funcionar, como um truque de mágica realizado com sucesso.
Uma oportunidade perdida?
A Meta vem trabalhando há anos em seus próprios óculos de realidade aumentada. Em uma reunião interna no início de 2021, o diretor de tecnologia da empresa, Andrew Bosworth, disse que adoraria equipá-los com recursos de reconhecimento facial.
Em uma gravação da reunião interna, Bosworth disse que deixar o reconhecimento facial fora dos óculos de realidade aumentada era uma oportunidade perdida para melhorar a memória humana. Ele falou sobre a experiência universal de ir a um jantar e ver alguém conhecido, mas não conseguir lembrar seu nome.
“Poderíamos colocar uma pequena etiqueta com o nome da pessoa”, disse ele na gravação, com uma pequena risada. “Poderíamos. Temos essa capacidade.”
Mas ele expressou preocupação com a legalidade de oferecer tal ferramenta. O Buzzfeed relatou suas observações na época. Em resposta, Bosworth disse que o reconhecimento facial era “extremamente controverso” e que conceder amplo acesso a ele era “um debate que precisamos ter com o público”.
Embora os óculos de realidade aumentada da Meta ainda estejam em desenvolvimento, a empresa desativou o sistema de reconhecimento facial implantado no Facebook para marcar amigos em fotos e excluiu as mais de um bilhão de impressões faciais que havia criado de seus usuários.
Seria muito fácil voltar a ativar esse sistema. Quando perguntei a um porta-voz da Meta sobre os comentários d Bosworth e se a empresa poderia colocar o reconhecimento facial em seus óculos de realidade aumentada um dia, ele não descartou a possibilidade.
