PUBLICIDADE

Foto do(a) blog

Notícias e artigos do mundo do Direito: a rotina da Polícia, Ministério Público e Tribunais

Opinião|IA não deve se sobrepor aos direitos humanos

PUBLICIDADE

convidados

A Inteligência Artificial (IA) tem protagonizado intensos debates mundo afora. Incontestável já é a importância do tema diante da sociedade, mas os limites da utilização desta tecnologia ainda nos oferecem consideráveis interrogações. Há uma mobilização mundial pela regulamentação da IA, isso ocorre pelo universo de possibilidades que ela traz e seu potencial de geração de benefícios em diversos campos. Entretanto, de outro lado, a IA também apresenta os riscos de uma potente arma destrutiva.

PUBLICIDADE

De forma indevida, a tecnologia tem sido utilizada, por exemplo, para propagação de fake news, em ataques cibernéticos bem como no design de armas biológicas. Se usada sob a perspectiva da deturpação de dados, fatos e informações, a IA pode perpetuar e intensificar práticas embasadas em preconceitos sociais, desigualdades econômicas, problemas éticos, de privacidade, de falta de transparência, violação de direitos autorais e, portanto, diversas manipulações de cunho sociopolítico.

Esta discussão, no entanto, não se encerra na tecnologia por si, mas por quem a usa e como. Em um mundo digitalizado onde algoritmos exercem papel decisório nas relações entre indivíduos, como verdadeiras instituições, é fundamental que seja respeitado o princípio da dignidade humana, bem como novos parâmetros éticos da Inteligência Artificial Responsável como os princípios da transparência algorítmica e da explicabilidade, por exemplo.

Não se pode pensar em inteligência artificial sem trazer à baila direitos humanos já reconhecidos internacionalmente como o direito à vida e os fundamentos do Estado Democrático de Direito. Para tanto, é crucial que a IA seja desenvolvida dentro de parâmetros de algoritmos imparciais, equilibrados e que não ultrapassem o limite da ética nos processos de programação, treinamento e aplicação.

No âmbito internacional, a Recomendação da UNESCO sobre a Ética na Inteligência Artificial é uma referência importante. Aprovado em 2021, o instrumento está em plena fase de implementação. O Brasil tem buscado desenvolver políticas públicas para se destacar em um ator relevante para a governança internacional da Inteligência Artificial de forma ética e responsável no marco do cumprimento dos Objetivos do Desenvolvimento Sustentável (ODS). Atualmente, o país participa da iniciativa de construção de um Conselho Regional sobre Ética em Inteligência Artificial para a América Latina e Caribe.

Publicidade

Com a Presidência do G20 durante 2024, o Brasil tem liderado os debates sobre a aplicação da Inteligência Artificial e a integridade da informação nas plataformas digitais por meio do Grupo de Trabalho em Economia Digital.

Trata-se, evidentemente, de um desafio global, transversal e complexo com longo caminho a ser percorrido. Se observarmos experiências internacionais, a União Europeia saiu na frente quando, em março de 2024, aprovou o primeiro conjunto regulatório do mundo sobreo assunto.

No Brasil, alguns projetos de leis tramitam no Congresso, com diretrizes gerais para a IA com o objetivo de proteger direitos fundamentais e garantir sistemas seguros e confiáveis. Nesse mesmo sentido, o Presidente Lula solicitou, em reunião do Conselho Nacional de Ciência e Tecnologia, que fosse elaborado um plano sobre as políticas e estratégias para a aplicação da IA no país. A Estratégia Brasileira de Inteligência Artificial (EBIA) tem avançado no diálogo multissetorial para a construção.

No âmbito regional, as discussões sobre inteligência artificial no marco dos Direitos Humanos deram um passo importante em novembro de 2023. Durante a 42ª Reunião de Altas Autoridades sobre Direitos Humanos do Mercosul (RAADH), realizada na capital brasileira, e sob a coordenação da Assessoria de Comunicação do Ministério dos Direitos Humanos e da Cidadania, foi aprovada a “Declaração de Princípios de Direitos Humanos no âmbito da Inteligência Artificial no Mercosul.

O documento, elaborado com apoio técnico do Instituto de Políticas Públicas em Direitos Humanos do Mercosul (IPPDH), elenca 17 princípios que abarcam o desenvolvimento responsável da inteligência artificial, a garantia de igualdade e não-discriminação, a promoção da educação e formação digital, a eliminação de segmentos étnico-raciais na inteligência artificial (por propagarem modos de discriminação étnica) e a utilização de tecnologias de reconhecimento facial com transparência, privacidade e sem parâmetros raciais.

Publicidade

A Declaração é inovadora e inédita não apenas no contexto do Mercosul como, sobretudo, no âmbito global, por enfrentar temas como o racismo algorítmico, soberania digital, infraestrutura de conectividade e o combate à discriminação da programação ao uso dos sistemas algorítmicos.

CONTiNUA APÓS PUBLICIDADE

Em sua redação, o instrumento reforça que a tecnologia seja mais equitativa, destacando a importância da preservação das culturas e do reconhecimento das particularidades dos povos, sem deixar de lado conhecimentos históricos e tradicionais, como as línguas das comunidades indígenas e tradicionais, por exemplo, demonstrando a sua perspectiva decolonial e reconhecendo as peculiaridades dos impactos das tecnologias emergentes no sul global.

O documento contempla um elemento fundamental para que sejam evitadas violações de direitos humanos: as plataformas digitais não devem usar os algoritmos de recomendação para criar “caixinhas” de informações capazes de influenciar a realidade de um determinado grupo de usuários. É neste ponto que a Declaração evidencia a necessidade de que sejam desenvolvidas formas claras e objetivas de responsabilização e também que sejam criados mecanismos de incentivos às empresas que programam e desenvolvem esses sistemas. Essa diretriz estratégica busca, de forma propositiva, sincronizar o combate às violações com a promoção dos direitos humanos por meio das ferramentas digitais.

Por outro lado, a Declaração também responde à preocupação de que todos tenham acesso às novidades da tecnologia. A fim de eliminar a exclusão digital na região e garantir o direito fundamental à conectividade, os Estados-membros se comprometeram a criar condições de universalizar a internet nos países do bloco. A ideia é permitir que os cidadãos do Mercosul possam usufruir dos benefícios econômicos que o mundo digital proporciona de forma equitativa e justa.

As políticas de direitos humanos são um instrumento necessário para a redução da desigualdade social na região diante dos desafios e tendências inerentes à era digital. Nesse sentido, é importante formular ações e políticas voltadas à capacitação e formação em cidadania digital. As pessoas precisam estar prontas para dialogar com as novas tecnologias. Nesse sentido, a Declaração regional pontua a necessidade de promover uma educação digital mais eficiente que corresponda às constantes atualizações que a economia digital carrega.

Publicidade

A inteligência artificial é um caminho sem volta e estamos todos interconectados em redes informacionais em um cenário em que somos, em maior ou menor medida, influenciados ou influenciadores. Por isso, é necessário afirmar o princípio da dignidade humana; para que a convivência nas plataformas digitais não viole direitos fundamentais como a vida, e não sobreponha direitos básicos pelos quais lutamos ao longo dos séculos para que fossem conquistados e que, atualmente, se veem ameaçados.

É preciso consignar que o problema não reside na inovação, na tecnologia e suas ferramentas, mas está nos interesses escusos de quem ase controla, domina e utiliza.

Para preservação da cidadania de todos, a IA deve não apenas observar os direitos fundamentais, mas também servir de mola propulsora para a construção de um mundo mais justo e solidário para todos com respeito à diversidade dos povos do nosso país e da nossa região. Para isso, é preciso defender os princípios democráticos e a IA não deve se sobrepor aos direitos humanos.

Convidados deste artigo

Foto do autor Ruy Conde
Ruy Condesaiba mais
Foto do autor Atahualpa Blanchet
Atahualpa Blanchetsaiba mais

Ruy Conde
Jornalista e assessor especial de Comunicação Social do Ministério dos Direitos Humanos e da Cidadania. Foto: Arquivo pessoal
Conteúdo

As informações e opiniões formadas neste artigo são de responsabilidade única do autor.
Este texto não reflete, necessariamente, a opinião do Estadão.

Comentários

Os comentários são exclusivos para assinantes do Estadão.