A Inteligência Artificial é um dos assuntos do momento. Seu desenvolvimento e uso estão na boca do povo. Fotos do Papa Francisco usando jaqueta branca esportiva e outras montagens inundam os noticiários e as redes sociais. Tudo parece mera diversão, um Wikipedia e Photoshop bombados, um imenso papagaio que imita o que encontra na própria rede mundial de internet, um singelo modelo de linguagem. Ledo engano! Observando de perto todo esse desabrochar da IA, sinto o cheiro de muita encrenca no ar, e olha que já passamos por isso antes. Mas, para variar, não aprendemos nada com o passado. Como disse um pensador: “A tecnologia é a resposta, mas qual mesmo é a pergunta?”
Lembra da empolgação dos jovens criadores das redes sociais que iriam tornar o mundo mais democrático e acessível a todos, irradiando amor por todos os cantos do mundo? Procure e leia o que esses jovens falavam no começo da revolução dessas redes. Não é muito diferente do que alguns vêm falando sobre a IA. Vimos no que deu esse amor todo pelo mundo.
Podemos ir mais longe em nossa reflexão. A revolução atômica prometia mudar o mundo para melhor, mas esqueceram de levar em conta a natureza humana. Aliás, Oppenheimer, ao dar-se conta do que havia criado, citou Baghavad-Gita: “Agora eu me tornei a morte, a destruidora dos mundos.” Mas, para não falar do passado, Putin também não acha que o poder atômico seja uma ferramenta para melhorar o mundo. Ou talvez ache, mas para melhorar o mundo dele próprio.
Os casos de tecnologias que se voltaram contra nós são extensos. Lembro de um que é pouco conhecido e que tem a ver com o primeiro ataque a gás da história e que dizimou as tropas francesas na Primeira Guerra Mundial (1914-1918) que estavam nas trincheiras de Ypres, na Bélgica. O homem que planejou o ataque a gás e que foi o criador dessa nova ferramenta de combate foi o químico alemão Fritz Haber (1868-1934), o mesmo que anos antes faria uma das descobertas mais revolucionárias da história, o fertilizante industrial. Isso fez com que milhões fossem alimentados. Sua descoberta foi chamada de “o pão do céu”, já que retirava nitrogênio do ar para produção de fertilizantes.
Chega do passado. Vamos falar do presente e do futuro. Já vimos que as tecnologias precisam ser debatidas e, em alguns casos, reguladas. Mas, ao mesmo tempo, sabemos como isso foge do controle. No caso da IA, o que vem me alarmando é a possibilidade real e bem próxima de que todos os conhecimentos já gerados pela humanidade teriam a curadoria de máquinas e que seriam geridas pelas próprias máquinas!
Imagine este cenário hipotético: a IA decide que conhecer as histórias de massacres do passado causa tristeza, raiva, divisão de etnias e povos, sentimentos ruins que não levam a nada. Pronto, essas histórias desaparecerão das pesquisas (para citar algumas das tragédias humanitárias mais próximas, poderíamos mencionar o genocídio congolês (1885-1908), o Holodomor, a grande fome ucraniana (1932-1933), o Holocausto (1939-1945), os massacres do Khmer Vermelho (1975-1979), o genocídio em Ruanda (1994)... A lista é longa e ainda teríamos que falar dos grandes ditadores genocidas que já existiram em nosso pequeno planeta.
Por isso, guarde os livros de papel para as próximas gerações e siga o exemplo de Alexandre, o Grande, que carregava consigo uma caixa cheia de pedras preciosas e, um dia, quando lhe perguntaram o que havia dentro dela, respondeu que era o maior tesouro do mundo! Quando abriu a caixa, lá estavam a Odisseia e a Ilíada de Homero. A IA, pelo menos por enquanto, não pode mexer nos livros de papel e talvez eles contenham uma parte significativa da preservação de nossa memória coletiva e individual, histórica e simbólica.
Ilan Brenman é autor de mais de 70 livros infantis, entre os quais Até as Princesas Soltam Pum e Desligue e Abra.
