ROMA — Antes do amanhecer, o Padre Paolo Benanti subiu à torre sineira do seu mosteiro do século 16, admirou o nascer do sol sobre as ruínas do Fórum Romano e refletiu sobre um mundo em constante mudança.
“Foi uma meditação maravilhosa sobre o que está acontecendo por dentro”, disse ele, pisando na rua em seu hábito de frade. “E também por fora.”
Há muita coisa acontecendo para Benanti, especialista em ética em inteligência artificial tanto do Vaticano quanto do governo italiano
Nas últimas semanas, o professor de ética, padre ordenado e autoproclamado geek esteve em encontro com Bill Gates e a primeira-ministra italiana Giorgia Meloni. Ele presidiu uma comissão em busca de salvar a mídia italiana das autorias de ChatGPT e da obliteração geral pela IA, e reuniu-se com oficiais do Vaticano para avançar na missão do papa Francisco de proteger os vulneráveis da iminente tempestade tecnológica.
Em uma conferência organizada pela antiga Ordem dos Cavaleiros de Malta, ele disse a uma multidão de embaixadores que “é necessária governança global, caso contrário, o risco é de colapso social”, e promoveu o Chamado de Roma — esforço do Vaticano, do governo italiano, do Vale do Silício e das Nações Unidas frente ao problema.
Autor de vários livros (Homo Faber: A Condição Tecno-Humana) e presença constante em painéis internacionais de IA, Benanti, 50, é professor na Gregoriana, a “Harvard” das universidades pontifícias de Roma, onde ensina teologia moral, ética e um curso chamado “A Queda de Babel: Os Desafios do Digital, Redes Sociais e Inteligência Artificial”.
Para uma igreja e um país que buscam dominar e sobreviver à iminente revolução da IA, seu trabalho é darr conselhos de uma perspectiva ética e espiritual.
Ele compartilha suas ideias com Francisco, que em sua mensagem anual para o Dia Mundial da Paz, em 1º de janeiro, pediu um tratado global para garantir o desenvolvimento ético e uso da IA para prevenir um mundo desprovido de misericórdia humana, onde algoritmos inescrutáveis decidam quem recebe asilo; quem consegue empréstimo; ou quem, no campo de batalha, vive ou morre.
Essas preocupações refletem as de Benanti, que não acredita na capacidade da indústria de se autorregular e pensa que algumas regras de conduta são necessárias em um mundo onde deepfakes e desinformação podem corroer a democracia.
Ele está preocupado que os senhores dos universos da IA estejam desenvolvendo sistemas que ampliarão abismos de desigualdade. E teme que a transição seja tão abrupta que campos profissionais inteiros sejam relegados a trabalhos menores ou a nada, despojando as pessoas de dignidade e desencadeando ondas de “desespero”. Isso, disse, levanta enormes questões sobre redistribuição de riqueza em um universo dominado pela IA.
Mas ele também vê o potencial da inteligência artificial.
Para a Itália, com uma das populações mais envelhecidas e em declínio do mundo, Benanti pensa seriamente sobre como a IA pode manter a produtividade. E todo o tempo ele aplica sua perspectiva sobre o que significa estar vivo, quando as máquinas parecem mais vivas e humanas. “Esta é uma questão espiritual.”
Seu escritório na Gregoriana é decorado com gravuras emolduradas — imagens de romanos desfavorecidos fumando, um casal entediado preferindo seus celulares ao bebê — e fotos dele e de Francisco apertando as mãos. Sua vocação religiosa, explicou, veio depois da científica.
O escoteiro que migrou da engenharia para a ética
Nascido em Roma, seu pai era engenheiro mecânico e sua mãe ensinava Ciências no ensino médio. Crescendo, ele amava O Senhor dos Anéis e Dungeons and Dragons, mas não era um recluso em jogos, pois também era um escoteiro que colecionava insígnias de fotografia, navegação e culinária.
Quando seu grupo de jovens de 12 anos visitou Roma para fazer caridade, ele conheceu Monsenhor Vincenzo Paglia, então sacerdote paroquial, mas que, como ele, iria trabalhar para o governo italiano — como membro da comissão do país sobre envelhecimento — e para o Vaticano.
Agora Paglia é superior de Benanti na Academia Pontifícia Para a Vida, encarregada de lidar com o desafio de promover a ética da Igreja Católica sobre a vida em meio a turbulências bioéticas e tecnológicas.
Por volta da época em que Benanti conheceu Paglia, um tio lhe deu um computador doméstico da Texas Instruments de Natal. Ele tentou reprogramá-lo para jogar videogames. “Nunca funcionou.”
Ele frequentou uma escola secundária que enfatizava os clássicos — para provar sua credibilidade antiga, declamou, enquanto caminhava para o trabalho, a abertura da Odisseia em grego antigo — e um professor de filosofia achava que ele tinha um futuro refletindo sobre o significado das coisas.
Mas a mecânica das coisas exercia uma atração maior, e ele seguiu uma graduação em Engenharia na Universidade Sapienza em Roma. Não foi suficiente.
“Comecei a sentir que faltando algo”, disse ele, explicando que avançar em engenharia apagou o mistério que as máquinas tinham para ele. “Simplesmente quebrei a mágica.”
Em 1999, sua então namorada achou que ele precisava de mais Deus em sua vida. Foram a uma igreja franciscana em Massa Martana, na Úmbria, onde o plano dela funcionou bem demais porque ele percebeu que precisava de um espaço sagrado onde ele pudesse “não parar de questionar a vida”.
Até o fim do ano, ele havia dispensado a namorada e se juntou à ordem franciscana, para consternação de seus pais, que perguntaram se ele estava exagerando em reação ao término de um relacionamento.
Ele deixou Roma para estudar em Assis, a casa de São Francisco, e, na próxima década, fez seus votos finais como frade, foi ordenado padre e defendeu sua dissertação sobre aprimoramento humano e ciborgues. Conseguiu seu emprego na Gregoriana e, depois, como o responsável pela ética de TI do Vaticano.
“Ele é convocado por muitas instituições”, disse o cardeal Gianfranco Ravasi, que antes comandava o departamento de cultura do Vaticano, onde Benanti era assessor científico.
Em 2017, Ravasi organizou um evento na Embaixada Italiana junto à Santa Sé onde Benanti deu palestra sobre a ética da IA. Oficiais da Microsoft presentes ficaram impressionados e pediram para manter contato.
Naquele mesmo ano, o governo italiano pediu-lhe para contribuir para documentos políticos sobre IA, e no ano seguinte, ele se inscreveu com sucesso para integrar a comissão do governo para desenvolver uma estratégia nacional de inteligência artificial.
Em 2018, ele reconectou-se com o agora cardeal Paglia, um favorito de Francisco, e disse-lhe: “Olhe, algo grande está se movendo.” Pouco tempo depois, seus contatos na Microsoft pediram-lhe para ajudar a organizar uma reunião entre Francisco e Brad Smith, presidente da empresa de tecnologia.
Benanti, como parte da delegação do Vaticano, traduziu termos técnicos durante o encontro de 2019. Francisco, disse ele, inicialmente não percebia bem o que a Microsoft realmente fazia, mas gostou que Smith tirou do bolso um dos discursos do papa sobre mídias sociais e mostrou ao pontífice as preocupações que o executivo tinha destacado.
Francisco — que Benanti disse ter se tornado mais letrado em IA, especialmente após uma imagem de sua santidade usando um casaco “puffer” branco desenhado pela inteligência artificial viralizar — se animou. O papa gostou quando a discussão foi menos sobre a tecnologia, disse Benanti, e mais sobre “o que ele pode fazer” para proteger os vulneráveis.
No mês passado, Benanti, que disse não receber pagamento da Microsoft, participou de uma reunião entre Gates, co-fundador da empresa, e Meloni, que está preocupada com o impacto da IA na força de trabalho.
Ela agora nomeou Benanti para substituir o líder da comissão de IA na mídia italiana com quem ela estava insatisfeita.
“A obediência à autoridade é um dos votos”, disse Benanti, enquanto brincava com os nós do cinto de corda de seu hábito, significando a promessa de obediência, pobreza e castidade de sua ordem franciscana.
Essa comissão estuda maneiras de proteger os escritores da Itália. Benanti acredita que as empresas de IA devem ser responsabilizadas pelo uso de fontes protegidas por direitos autorais para treinar seus chatbots, embora ele se preocupe que seja difícil provar porque as empresas são “caixas-pretas”.
Mas, para Benanti, esse mistério também imbuiu novamente a tecnologia com magia, mesmo que seja do tipo sombrio. Dessa forma, não era tão novo, argumentando que, assim como os antigos adivinhos romanos observavam o voo das aves em busca de direção, a IA, com seu enorme domínio de nossos dados físicos, emocionais e preferenciais, poderia representar novos oráculos, tomando decisões e substituindo Deus por ídolos falsos.
“É algo antigo que provavelmente pensamos que havíamos deixado para trás”, disse o frade, “mas que está voltando.”
Este artigo foi publicado originalmente no The New York Times.
“Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.”
