Vaticano chama IA de ‘sombra do mal’ e pede por supervisão constante da tecnologia

Novo documento examina as oportunidades e os riscos da IA e pede que ‘considerações morais e éticas’ sejam incluídas em todas as suas aplicações

PUBLICIDADE

Por Elisabetta Povoledo (The New York Times)

O Vaticano pediu uma supervisão constante da inteligência artificial (IA) na terça-feira, 28, alertando sobre o potencial para “a sombra do mal” na tecnologia, que, segundo ele, oferece “uma fonte de oportunidades tremendas, mas também riscos profundos”.

Em um novo documento destinado a aconselhar os fiéis católicos, a igreja alertou que a tecnologia deve ser usada para complementar a inteligência humana, “em vez de substituir sua riqueza”. O documento foi aprovado pelo Papa Francisco, que advertiu repetidamente que a aplicação da inteligência artificial deve ser fundamentada em considerações éticas e morais.

Papa Francisco advertiu repetidamente que a aplicação da inteligência artificial deve ser fundamentada em considerações éticas e morais Foto: Ivor Prickett/NYT

PUBLICIDADE

“Em todas as áreas em que os seres humanos são chamados a tomar decisões, a sombra do mal também aparece aqui”, disse o Vaticano no documento. E acrescentou: “A avaliação moral dessa tecnologia precisará levar em conta como ela é dirigida e usada”.

O documento “é uma síntese de muitos dos materiais existentes que vêm se desenvolvendo organicamente nos últimos tempos”, com base nas declarações e escritos anteriores de Francisco para analisar o efeito da IA nos relacionamentos, na educação, na guerra e no trabalho, disse o reverendo Paul Tighe, uma das pessoas que trabalharam no documento. O documento foi escrito ao longo de seis meses por uma equipe do Vaticano em consulta com vários especialistas, incluindo os da IA.

Publicidade

O documento tenta mapear “uma compreensão do que é ser humano que, de certa forma, dá forma às preocupações éticas”, disse o padre Tighe, que é o porta-voz do departamento de cultura e educação do Vaticano.

O documento alertou sobre o potencial da IA de destruir a confiança sobre a qual as sociedades são construídas, devido ao seu potencial de disseminar informações errôneas. “A mídia falsa gerada pela IA pode gradualmente minar as bases da sociedade”, diz o documento. “Essa questão exige uma regulamentação cuidadosa, pois a desinformação - especialmente por meio da mídia controlada ou influenciada pela IA - pode se espalhar involuntariamente, alimentando a polarização política e a agitação social.

“Esse engano generalizado não é uma questão trivial; ele atinge o âmago da humanidade, desmantelando a confiança fundamental sobre a qual as sociedades são construídas.”

A comissão criticou a “sensação prejudicial de isolamento” que a IA poderia gerar, bem como os “desafios específicos” para as crianças, “potencialmente incentivando-as a desenvolver padrões de interação que tratam as relações humanas de forma transacional, como se relacionariam com um chatbot”.

Publicidade

O documento citou preocupações de que a IA poderia ser usada para promover o que o papa descreveu como o “paradigma tecnocrático”, uma crença de que os problemas do mundo poderiam ser resolvidos apenas por meios tecnológicos. “Os desenvolvimentos tecnológicos que não melhoram a vida de todos, mas criam ou pioram as desigualdades e os conflitos, não podem ser chamados de verdadeiro progresso”, afirmou o documento, citando a mensagem de Francisco para o Dia Mundial da Paz de 2024.

No que diz respeito ao trabalho, o documento afirma que “o objetivo não deve ser que o progresso tecnológico substitua cada vez mais o trabalho humano, pois isso seria prejudicial à humanidade”. Ele também nunca deve “reduzir os trabalhadores a meras ‘engrenagens de uma máquina’”, pois a “dignidade dos trabalhadores e a importância do emprego para o bem-estar econômico dos indivíduos, famílias e sociedades, para a segurança do emprego e salários justos, devem ser uma alta prioridade para a comunidade internacional”, conforme a IA se espalha.

O documento também reiterou as preocupações sobre o uso da tecnologia em armas controladas remotamente que resultam em “uma percepção reduzida da devastação” de seu uso e “uma abordagem ainda mais fria e distante da imensa tragédia da guerra”.

O documento alertou sobre “a concentração do poder sobre os principais aplicativos de IA nas mãos de algumas empresas poderosas”. Essas empresas poderiam exercer “formas de controle tão sutis quanto invasivas, criando mecanismos para a manipulação das consciências e do processo democrático”, afirmou o documento, citando um documento de 2019 de Francisco.

Publicidade

Em um discurso para líderes políticos, econômicos e empresariais no Fórum Econômico Mundial em Davos, na Suíça, na semana passada, Francisco escreveu que a IA levantou “grandes preocupações sobre seu impacto no papel da humanidade”. E em uma reunião do Grupo dos 7 na Itália, no ano passado, Francisco disse aos líderes mundiais que a IA “representa uma verdadeira revolução cognitivo-industrial, que contribuirá para a criação de um novo sistema social caracterizado por complexas transformações de época”.

Este mês, o Vaticano divulgou um documento com diretrizes para o uso da IA dentro de seus próprios muros, regulamentando sua aplicação.

Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.

Comentários

Os comentários são exclusivos para cadastrados.