PUBLICIDADE

China usa Inteligência Artificial para monitorar atividades e prever crimes e protestos

Informações a respeito de atividades diárias de chineses são investigadas com o objetivo de encontrar padrões de comportamento

Por Paul Mozur , Muyi Xiao e John Liu
Atualização:

THE NEW YORK TIMES - As mais de 1,4 bilhão de pessoas que vivem na China são constantemente vigiadas. Suas imagens são gravadas por câmeras da polícia instaladas por todo lado. Seus telefones são rastreados, suas compras são monitoradas e suas conversas online, censuradas. Agora, até o futuro dos chineses está sob vigilância.

PUBLICIDADE

As tecnologias de última geração escarafuncham vastas quantidades de dados coletados dos chineses a respeito de suas atividades diárias com o objetivo de encontrar padrões e aberrações, prometendo prever a ocorrência de crimes ou de protestos antes que os incidentes ocorram.

Elas colocam na mira potenciais causadores de problemas segundo os olhos do governo chinês – não apenas pessoas com antecedentes criminais, mas também grupos vulneráveis, incluindo minorias étnicas, trabalhadores migrantes e indivíduos com histórico de doenças mentais

Trabalhadores chineses instalam câmeras de vigilância em área residencial na provícia de Heilongjiang, na China. Imagem é do dia 14 de abril de 2022 Foto: China Daily / via Reuters

Essas tecnologias são capazes de alertar a polícia se alguma vítima de fraude tenta viajar para Pequim para pressionar o governo por indenização ou sobre um usuário de drogas telefonando insistentemente para o mesmo número. São capazes de avisar policiais toda vez que uma pessoa com histórico de doença mental se aproxima de uma escola.

Fugindo no rastreamento

Extensas manobras evasivas são necessárias para evitar o rastreamento digital. No passado, Zhang Yuqiao, um homem de 74 anos que tem questionado o governo ao longo da maior parte de sua vida adulta, conseguia evitar as autoridades simplesmente não utilizando as principais rodovias quando seguia para Pequim para lutar por compensação pela tortura que seus pais sofreram durante a Revolução Cultural. Agora, ele tem de desligar seus telefones, pagar tudo em dinheiro e comprar diferentes passagens de trem para destinos falsos.

Autoritarismo

Ainda que em grande parte não tenham tido a existência confirmada, as novas tecnologias chinesas, detalhadas em contratos de aquisição e outros documentos analisados pelo New York Times, ampliam consideravelmente as fronteiras dos controles políticos e sociais – e passam a integrar ainda mais profundamente as vidas das pessoas. No mínimo, elas comprovam uma vigilância sufocante e violações de privacidade; e no extremo, arriscam promover discriminação automática sistêmica e repressão política.

Funcionária demonstra como o sistema de reconhecimento facial da China opera, durante evento em Pequim, China, no dia 10 de fevereiro deste ano Foto: Florence Lo / REUTERS

Para o governo, a estabilidade social é primordial, e qualquer ameaça a ela deve ser eliminada. Durante uma década como líder máximo da China, Xi Jinping tem endurecido e centralizado a segurança de Estado, lançando políticas tecno-autoritárias para coibir distúrbios étnicos na região de Xinjiang, no oeste do país, e impor alguns dos lockdowns para controle do coronavírus mais severos do mundo. O espaço para dissidência, desde sempre limitado, está desaparecendo rapidamente.

Publicidade

Os detalhes dessas novas tecnologias de segurança estão descritos em artigos de pesquisa de políticas, patentes de empresas terceirizadas de vigilância, apresentações corporativas e centenas de documentos de aquisição analisados e confirmados pelo Times. Muitos dos documentos de aquisição foram compartilhados pela ChinaFile, uma revista online publicada pela Asia Society, que reuniu sistematicamente anos de registros nos websites do governo. Outro conjunto de documentos – descrevendo a compra de um software por parte das autoridades, na cidade portuária de Tianjin, destinado a impedir peticionários de chegar à vizinha Pequim – foi fornecido pela IPVM, uma publicação da indústria de sistemas de vigilância.

O ministério chinês de Segurança Pública não respondeu a pedidos de comentários enviados por fax para sua sede em Pequim e a outros seis departamentos locais no país.

Racismo no código

A nova abordagem em relação à vigilância tem base, em parte, em softwares de policiamento orientado por dados dos EUA e da Europa, tecnologias que grupos de defesa de direitos afirmam conter racismo em seu código, influenciando decisões sobre qual bairro deve ser mais policiado e quais detentos devem receber liberdade condicional. A China leva isso ao extremo, grampeando grandes reservatórios nacionais de dados que permitem à polícia operar com opacidade e impunemente.

Com frequência, as pessoas não sabem que estão sendo vigiadas. A polícia sofre pouco monitoramento independente a respeito da eficiência das tecnologias ou das ações que elas ocasionam. As autoridades chinesas não precisam de nenhum tipo de mandado para coletar informações pessoais.

Patrulha policial em Kashgar, na China, em imagem do dia 4 de maio de 2021 Foto: Thomas Peter / Reuters

PUBLICIDADE

Em sua expressão mais aguda, os sistemas engendram enigmas perenes na ficção científica: como é possível saber se o futuro foi previsto acuradamente se a polícia intervém antes que ele aconteça?

Mesmo quando o software fracassa em deduzir o comportamento humano, ele pode ser considerado bem-sucedido, já que a vigilância em si inibe distúrbios e criminalidade, afirmam especialistas.

“Trata-se de uma cela invisível de tecnologia imposta sobre a sociedade”, afirmou Maya Wang, pesquisadora sênior sobre China na ONG Human Rights Watch. “Isso é sentido de maneira desproporcionalmente mais pesada por grupos de pessoas que já sofrem severa discriminação na sociedade chinesa.”

Publicidade

Prever crimes

Em 2017, um dos mais conhecidos empreendedores da China teve uma visão ousada do futuro: um sistema computacional capaz de prever crimes.

O empresário, Yin Qi, que fundou a Megvii, uma startup de Inteligência Artificial, disse aos meios de comunicação estatais chineses que seu sistema de vigilância poderia prover uma ferramenta de busca de crimes para a polícia, por meio da análise de enormes quantidade de gravações em vídeo, intuindo padrões e alertando as autoridades a respeito de comportamentos suspeitos. Ele explicou que, se as câmeras detectassem uma pessoa passando tempo demais em uma estação de trem, o sistema poderia sinalizar para um possível batedor de carteiras.

Neutralidade

Loading...Loading...
Loading...Loading...
Loading...Loading...

“Seria assustador se houvesse realmente pessoas assistindo as imagens, mas por trás das câmeras há um sistema”, afirmou Yin. “É como a ferramenta de busca que usamos diariamente para navegar na internet – é muito neutro.” Ele acrescentou que, com esse sistema de vigilância, “os bandidos não têm onde se esconder”.

Cinco anos depois, a visão de Yin está gradualmente virando realidade. Apresentações internas da Megvii analisadas pelo Times mostram como os produtos da startup elaboram dossiês digitais completos para a polícia.

“Construa um banco de dados multidimensional, que armazena rostos, fotografias, carros, casos e registros de incidentes”, afirma a descrição de um produto chamado “busca inteligente”. O software analisa dados para “revelar pessoas que parecem inocentes” e “reprimir ações ilegais ainda em gestação”.

Um porta-voz da Megvii afirmou em um comunicado transmitido por e-mail que a empresa é comprometida com o desenvolvimento responsável de IA e se preocupa em trazer mais segurança e conveniência para a vida das pessoas – e “não trata de monitorar qualquer grupo ou indivíduo em particular”.

Tecnologias similares já estão em uso. Em 2022, a polícia de Tianjin comprou um software fabricado pela Hikvision, uma competidora da Megvii, projetado para prever protestos. O sistema coleta dados de multidões de chineses peticionários, termo genérico na China para descrever pessoas que tentam abrir queixas a respeito de autoridades locais em instâncias superiores.

Publicidade

Graduação

O software então gradua os peticionários segundo a probabilidade de que eles viajem para Pequim. No futuro, esses dados serão usados para treinar modelos de aprendizagem de máquina, de acordo com os documentos de aquisição dos programas.

Autoridades locais querem evitar essas viagens para prevenir-se de constrangimentos políticos ou exposição por irregularidades. O governo central não quer que grupos de cidadãos insatisfeitos se reúnam na capital. Um representante da Hikvision se recusou comentar o sistema.

Preconceito

Quando a polícia de Zhouning, um distrito rural da Província de Fujian, comprou um novo sistema de 439 câmeras em 2018, a corporação listou as coordenadas de onde cada uma seria instalada. Algumas ficaram em cruzamentos, outras perto de escolas, de acordo com um documento de aquisição.

Nove delas foram instaladas diante de casas de pessoas com uma característica em comum: doenças mentais.

Enquanto alguns softwares tentam descobrir novas ameaças, um programa mais comum tem como base noções preconcebidas da polícia. Em mais de cem documentos de aquisição analisados pelo New York Times, os sistemas miravam listas de “indivíduos-chave”.

Essas listas, segundo alguns documentos de aquisição, incluíam portadores de doenças mentais, criminosos condenados, fugitivos, usuários de drogas, peticionários, suspeitos de terrorismo, agitadores políticos e ameaças à estabilidade social. Outros sistemas miram trabalhadores migrantes, jovens ociosos (adolescentes fora da escola ou desempregados), minorias étnicas, estrangeiros e portadores de HIV.

As autoridades decidem quem entra na mira, e com frequência não existe nenhum tipo de processo de notificação para as pessoas colocadas na lista. Uma vez que indivíduos entram no banco de dados, raramente são removidos, afirmam especialistas preocupados com a possibilidade das novas tecnologias reforçarem disparidades dentro da China, impondo vigilância sobre os setores mais desafortunados de sua população.

Publicidade

Alerta

Em muitos casos, o software vai além de vigiar populações específicas, permitindo que as autoridades instalem disparadores digitais de alerta que indicam alguma possível ameaça. Em uma apresentação da Megvii que detalha um produto da Yitu, uma empresa rival, a interface do sistema permitia à polícia configurar os próprios alertas precoces.

Com um simples menu de preenchimento de nichos de informação na tela, a polícia é capaz de determinar parâmetros específicos para cada alerta que pretenda configurar. As opções de parâmetros incluem pessoas na lista de alvos, momentos em que um certo indivíduo se movimente, se ele ou ela se encontraram com pessoas dessa lista e a frequência de determinadas atividades. A polícia pode configurar o sistema para enviar um alerta toda vez que duas pessoas com histórico de uso de drogas se hospedarem no mesmo hotel ou quando pessoas com histórico de protestar entram no mesmo parque. A Yitu não respondeu a pedidos de comentários enviados por e-mail.

Mesmo que sistemas policiais não sejam capazes de prever o comportamento das pessoas de maneira acurada, as autoridades podem considerá-los bem-sucedidos por causa da ameaça que eles representam, afirmou o economista Noam Yuchtman, professor da London School of Economics que estudou o impacto da vigilância na China.

“Num contexto em que não existe uma real prestação de contas da política”, ter um sistema que aciona com frequência forças policiais “pode funcionar muito bem” para desencorajar a agitação, afirmou. /TRADUÇÃO DE GUILHERME RUSSO

Comentários

Os comentários são exclusivos para assinantes do Estadão.