A enxurrada de informações a que estamos submetidos muitas vezes nos rouba a clareza necessária para avaliar não apenas a importância de determinada medida, mas também seus possíveis efeitos colaterais. Aliás, até parece proposital que temas importantes de debate sejam enfraquecidos por meio do desvio de foco para assuntos subsidiários.
Veja-se como exemplo a discussão sobre a existência de “viés” no uso de inteligência artificial em dispositivos equipados para reconhecimento de imagens. É muito razoável assumir que, nos conjuntos de dados usados para a montagem de um sistema de reconhecimento automático de indivíduos, existam significativos desequilíbrios quanto à homogênea e equitativa participação de amostras das diferentes etnias a culturas.
Mas seria esse o ponto principal de discussão? Se faltam amostras de determinada etnia, o sistema deveria captar imagens adicionais para resolver essa carência? Ou, e até com a nova LGPD, luta-se exatamente no sentido de diminuir a sanha de captura de dados e imagens nossas na rede? A ordem de discussão que parece prioritária seria, antes, debater a validade das intromissões que existem ao se procurar identificar automaticamente cada pessoa com base em sua imagem previamente armazenada.
Se a conclusão for de que, sim, é útil e traz benefícios que sejam identificados em cada ambiente em que nos encontramos pelas onipresentes câmaras, daí deveríamos buscar que essa aplicação tenha alcance global e atinja a todos igualmente. Se a decisão for, porém, em sentido contrário quanto ao uso da identificação de imagem automática obrigatória, parece contrassenso buscar expandir a todos algo que foi considerado não benéfico ou abusivo. Ou seja, não haveria por que corrigir qualquer viés aqui...
Ainda no mesmo tema, a decisão recente da Apple de, sob o argumento eventualmente honesto de combate à pornografia infantil, passar a examinar todas as fotos que usuários guardam na nuvem deve ser examinada de forma muito cuidadosa. Argumenta-se que um dos problemas técnicos que poderiam ocorrer são os “falsos positivos”, dado que a base de fotos que seria usada como parâmetro já possui cerca de 20% de incorreções. Mas valeria a pena lutar para limpar essas imperfeições da base (o viés), de forma a eliminar os “falsos positivos”? Ou o sistema em si, seja ele falho ou perfeito, já representa uma intromissão indevida em nossa privacidade?
Isso não cai muito longe de se implantarem câmaras em todas as casas com a finalidade de monitorar comportamentos adequados ou não de seus moradores! Os detalhes técnicos sobre possíveis ou prováveis vieses e erros de detecção não podem obliterar o que deveria ser o fulcro de discussão sobre a principal característica do sistema, que é buscar acesso direto ao conteúdo do que enviamos, colocando-nos como suspeitos em potencial. Mesmo com todas as promessas de uso adequado e não vazamentos de dados parece um abuso que, unilateralmente, alguém se meta a espionar o que enviamos.
Essa possível intromissão remete ao sempre citado 1984, onde está postulado que “se alguém quer manter um segredo, deve escondê-lo até a si mesmo”. Afinal, a “polícia do pensamento” estará sempre atenta para detectar os que praticam “crimes de pensamento” e puni-los adequadamente...
Antes de se discutirem os detalhes técnicos de “como” algo deveria ser feito, parece importante que se avalie se aquilo deveria mesmo ser feito ou se os riscos e abusos que poderia acarretar a direitos fundamentais bastariam para que a proposta seja banida.
*É ENGENHEIRO ELÉTRICO
