Inteligência artificial (IA) continua provocando acaloradas discussões, tanto entre os que quem é mais aprofundado no tema quanto entre os atraídos pelo imenso ruído. Um artigo no Financial Times traz uma descrição bastante preocupante sobre que aspectos da IA recebem hoje mais atenção. E são os gigantes da tecnologia que desenvolvem IA e impulsionam esses aspectos.
O autor, ele mesmo envolvido com IA, alega que são sistematicamente ignorados os riscos que ela pode trazer, e segue-se na corrida de quem primeiro atingirá a inteligência artificial geral (AGI), o ponto em que a IA adquire características ainda mais humanas, como criatividade e prospecção, e eventualmente ultrapassando o homem também em sofisticadas atividades intelectuais. O autor, Ian Hogarth, chama a AGI de “God-like”, no sentido de “sobrehumana” ou “divina”, por ser capaz de exibir criatividade, iniciativa e, mesmo, buscar poder para si.
Na linha de preocupações éticas, autênticas ou não, diversos figurões assinaram um documento pedindo uma trégua de 6 meses no desenvolvimento da IA. Há dúvidas se tais declarações tem alguma possibilidade de amenizar a velocidade, ou se são apenas um posicionamento perfunctório, protetor da própria imagem quanto à ética. Hogarth considera que os recursos aplicados em IA “para estudar seu alinhamento com valores humanos” são muito menores que os usados no desbragado desenvolvimento, sem ponderações além de se manter à frente dos competidores.
Há muitos casos reais de comportamento inesperado e inexplicável dos sistemas, visto que, agora eles não são mais “programados”, mas “criados”. Aliás não são poucos os exemplos na literatura de criações/criaturas que escapam do seu projeto inicial de desenvolvimento à la Frankenstein. IA certamente não é o primeiro caso de desenvolvimentos que podem trazer riscos.
Lembremos, por exemplo, a tecnologia nuclear que, mesmo com tensões que periodicamente irrompem, tem-se mantido sob controle. E há a bioengenharia, cujas consequências também podem ser imprevisíveis. Norbert Wiener, o criador do verbete “cibernética” e notável pesquisador do tema, diz que “o sentido da tragédia é que o mundo não é um ninho acolhedor e protetor, mas um vasto ambiente bastante hostil, no qual só se alcançam grandes coisas desafiando os deuses. Tal desafio inevitavelmente acarreta punição. Um mundo no qual a punição atinge não apenas quem peca com arrogância consciente, mas também aquele cujo único crime é ignorar os deuses e o mundo que o cerca.”
