Foto: Divulgação/Roger SpitzNos últimos anos, o avanço da inteligência artificial (IA) levantou preocupações sobre o risco que a tecnologia representa para a humanidade — os cenários discutidos quase sempre parecem saídos de distopias retratadas na ficção científica. Para o sul-africano Roger Spitz, o perigo é bem mais sútil e está bem mais próximo da realidade: a capacidade da tecnologia de afetar a liberdade de escolha.
Spitz é CEO do Disruptive Futures Institute, futurista e quase um filósofo da tecnologia: tem como função principal apontar como organizações devem navegar pelas transformações que estão por vir e refletir sobre seus impactos. Mas mesmo para quem vive de olhar para frente, nunca foi tão difícil ter certezas. Em sua conversa com o Estadão, ele explica como a tecnologia ajuda tornar complexos e não lineares cenários futuros — para piorar, ele argumenta que é impossível deixar nas mãos de máquinas a capacidade de prever eventos futuros e de tomar decisões sobre eles.
Spitz passou as últimas semanas no Brasil, onde tratou de conceitos como tecexistencialismo, metadisrupções e imprevisibilidade. Na conversa, também discutiu o impacto da IA e da tecnologia no mundo. Veja abaixo os melhores momentos.
O que é 'tecexistencialismo'?
Futurista Roge Spitz explica conceito que trata do impacto de algoritmos na condição da existência humana. Crédito: Isabel Lima\Estadão
O sr. cunhou o termo ‘tecexistencialismo’ para tratar das implicações existenciais da tecnologia. Como esse conceito se conecta com líderes, governos e cidadãos, especialmente na era da IA?
Tecexistencialismo é uma palavra que eu inventei, em parte porque estou interessado em filosofia existencialista, sobre a qual falariam filósofos, como Camus, Heidegger, Kierkegaard. Nela a tomada de decisão era exclusivamente humana. Nossa condição existencial era ser humano no mundo. O tecistencialismo é como o existencialismo 2.0. No século 21, a tomada de decisão humana e algorítmica não são mais separáveis. Então, a condição existencial é quase uma condição existencial e tecnológica, em que a existência é a existência em um mundo tecnológico. A questão é o quanto permitimos que os algoritmos subam na cadeia de valor da tomada de decisão e onde os algoritmos são realmente eficazes. E é aqui que as coisas se tornam importantes para a condição humana: você existe no mundo e você cria o seu ser. Então, na verdade, a incerteza é um presente, porque as coisas não estão predeterminadas. Isso é realmente muito positivo.
Agora, o desafio é o seguinte. Você tem áreas onde os algoritmos podem ser úteis. Estes são o que chamamos de domínios complicados. Você tem incógnitas conhecidas. É linear, portanto, é previsível. E há uma variedade de respostas corretas. Você pode confiar em especialistas, e aqui a IA é muito poderosa. É como a descoberta de medicamentos com plataformas de IA, porque você pode ter reconhecimento de padrões em escala, e há uma variedade de respostas corretas. Quando as coisas são complicadas, lineares, previsíveis, incógnitas conhecidas, a IA é ótima e útil. Requer as salvaguardas certas, mas tem sua utilidade.
Leia também
‘Teremos um mundo quase irreconhecível até 2038′, diz fundador da Singularity University
‘Quanto mais complexa a IA se tornar, mais iremos confiar nela’, diz futurista Amy Webb
‘Críticos da IA são o Anticristo’: o que o bilionário Peter Thiel diz em suas palestras secretas
Porém, existem o que chamamos de domínios complexos. E quando as coisas são complexas, você tem incógnitas desconhecidas. Elas não são lineares, portanto, são assimétricas. Assim, os resultados são desproporcionais aos inputs. Isso pode ser bom, pode ser ruim, mas significa que é não linear, o que significa que é imprevisível. Nesse momento, você não tem uma variedade de respostas corretas. Você não pode confiar em especialistas. Duas coisas acontecem quando você delega a máquinas resultados de tomada de decisão em domínios complexos e imprevisíveis: Uma é que não há dados sobre o futuro, e a IA não é melhor em adivinhar o que é inestimável ou prever o que é imprevisível. Ela não pode fazer isso melhor do que os humanos. Não há dados sobre o futuro. Mas, mais importante ou igualmente importante, é que nós, como humanos, estamos basicamente ficando menos qualificados. Estamos nos tornando menos versáteis em dar sentido e tomar decisões, interpretar e compreender ambientes complexos, onde as coisas são emergentes. É tentativa e erro, porque é um processo de descoberta.
Agora, aqui o perigo, voltando ao tecexistencialismo, é que os humanos estão se tornando mais parecidos com máquinas, porque você está apenas automatizando. Você deixa de ser bom em interpretar o que é muito complexo ou inventar um modo de descoberta de tentativa e erro. Para humanos, tomadores de decisão, empresas e governos, é importante entender a diferença de onde a IA pode ser útil.
A IA é usada em domínios lineares há um certo tempo. Mas nos últimos anos está se movendo em direção aos domínios complexos. Essa é uma tendência que deve permanecer? É algo necessariamente ruim?
Há uma série de coisas que precisam ser gerenciadas e compreendidas em relação à IA, mas eu não diria que há algo errado. Temos desafios complexos no mundo, e por que não usar máquinas para isso, Mas há um problema é duplo. Um é delegar esses resultados de decisão à exclusão de outras coisas. Em outras palavras, estamos contando com isso como uma espécie de solução utópica, e o risco de fazer isso é ignorar caminhos alternativos. O segundo risco é que, quanto mais você faz isso em detrimento do nosso próprio pensamento, criatividade ou inovação, maior é o risco de nos tornarmos menos hábeis na resolução de alguns desses desafios. A resposta é trabalhar de ambas as maneiras.
Mas deixe-me dar um exemplo concreto. Pense em alguns dos problemas de clima, alguns dos problemas sociais, alguns dos problemas potencialmente de biotecnologia, e alguns dos problemas da própria IA. Se esses são desafios muito significativos para a humanidade tivessem uma solução pontual rápida, talvez tivéssemos chegado a ela. A natureza desses problemas é dinâmica, emergente, múltipla em ambientes não lineares. Eles têm características pelas quais você não pode usar exclusivamente a IA, e você certamente não pode permitir que a humanidade tire o pé do acelerador e delegue inteiramente a resolução para as máquinas.
Nos últimos dois anos, tem havido conversas sobre as ameaças existenciais da IA, traçando cenários que soam como ficção científica. De que maneiras o senhor considera que a IA pode ser um problema para a humanidade, especialmente em cenários que não são ficção científica?
Muitas das narrativas, tanto de empresas e centros de tecnologia quanto da mídia, estão focadas em cenários binários, entre distopia e utopia. Ou vai salvar o mundo, ou vai ser um resultado distópico. Acho que a expressão risco existencial foi ligeiramente sequestrada para significar uma coisa específica, que é o risco de extinção humana. Para mim, risco existencial também tem um impacto na agência e liberdade de escolha da humanidade. E, portanto, qualquer coisa que esteja se movendo para restringir nossa capacidade de exercer essa agência, liberdade e escolha, é um risco existencial.
O risco existencial da IA está em como ela afeta nossa liberdade de escolha, diz futurista
Roger Spitz ignora cenários distópicos e aponta para aquilo que considera riscos reais da tecnologia. Crédito: Isabel Lima\Estadão
Mas eu acho que mais perigosa é a ideia de “Black Mirror”, em que é tão familiar que, na verdade, poderia ser hoje. É o que eu chamo de água-viva negra (black jellyfish), que é tangível. Está lá, e estamos ignorando. Então, deixe-me dar alguns exemplos. O sistema educacional e as estruturas de incentivo não estão ajustados ao mundo de hoje da IA, onde você precisa de pensamento crítico, onde você precisa de julgamento, onde você precisa exercer liberdade, agência e escolha, onde você precisa reconhecer o que é a verdade. Aprender sobre isso é tão importante quanto aprender um idioma ou matemática. Há outras coisas como cibersegurança ou biotecnologia, mas o comentário final que eu faria é que muitas coisas são arriscadas e são boas ou ruins]. Há a dualidade disso. Então, eu não estou dizendo que não devemos explorar a tecnologia. Precisamos entender que podemos atingir um ponto irreversível com algumas dessas tecnologias. E irreversível significa que é impossível ou muito caro se desvencilhar dessa situação.
O sr. considera que é necessário regulamentar a IA? De que forma?
A resposta curta é sim. Claro que é preciso pensar na regulamentação, mas os desafios são muitos. Como qualquer sistema adaptativo complexo, você não pode abordá-los com soluções pontuais, pois ela pode não alcançar os resultados que se deseja. Você pode ter consequências inesperadas ou perversas. Você pode ter maneiras de contorná-las. Você pode ter outras implicações. Então, eu acho que em nossos sistemas complexos, e a tecnologia é um sistema complexo, você não pode confiar exclusivamente na tecnologia como uma solução pontual. Mas o desafio atual é como a pandemia. Quando você está pensando em algo sistemicamente, se uma determinada região ou país ou faz a coisa certa para a pandemia, em última análise, a menos que você seja coeso, isso não vai resolvê-la. O problema é que hoje estamos passando de um mundo multilateral para um mundo multipolar, onde você tem diferentes visões de mundo e diferentes interesses que podem ser irreconciliáveis. Além disso, eu não tenho certeza se realmente entendemos essas tecnologias, não apenas os legisladores, então você corre o risco de delegar algo a uma máquina muito lenta, uma máquina muito limitada com poderes limitados. Você então ainda precisa monitorá-la, torná-la eficaz. Você precisa incentivá-la adequadamente. Você precisa governá-la. Talvez precisemos reinventar a educação. Talvez precisemos reinventar como as pessoas pensam sobre a verdade, a realidade, sua própria agência. E talvez isso não aconteça apenas por meio da regulamentação. Então há muito que pode ser feito que talvez não dependa da legislação, no qual também devemos estar pensando como sociedade.
O problema é que hoje estamos passando de um mundo multilateral para um mundo multipolar, onde você tem diferentes visões de mundo e diferentes interesses que podem ser irreconciliáveis.
A tecnologia tem papel na construção de um mundo multipolar ou ela é um instrumento de um mundo multipolarizado?
A tecnologia tem dois ou três papéis em relação a essa pergunta. Eu acho que o primeiro é simplesmente a facilidade com que se pode alcançar e competir por influência como ator estatal ou não estatal de uma forma assimétrica. Em outras palavras, você pode ter um garoto de 16 anos nos arredores de Moscou que pode ter armas de desinformação em massa. Isso é muito poderoso. Por que as eleições em diversos países são quase sempre divididos? A desinformação tem um papel nisso. A segunda coisa é que você tem o que Parag Khanna chama de cortina de silício (silicon curtain). Então, durante a analogia com as guerras frias, você está chegando a batalhas de tecnologia entre código aberto, código fechado, Vale do Silício e tecnologia chinesa. Então, você tem cortinas de silício e uma espécie de guerra fria nesse ambiente. E a terceira coisa é que, se você pegar alguns dos riscos existenciais, como biotecnologia e IA, ambos estão relacionados à tecnologia. Tudo isso aprimora a multipolarização, porque torna mais fácil para esses atores convencer e impulsionar sua influência e suas narrativas e suas visões de mundo.
Existe algum paralelo na história de desenvolvedores de tecnologia ocuparem um papel de imenso poder global, como ocorre hoje com as big techs? Isso é algo que preocupa?
Esta é uma pergunta muito poderosa, e eu vou respondê-la não como um historiador, mas como alguém que tenta ler o que historiadores e pessoas mais inteligentes do que eu dizer sobre disrupção sistêmica e mudança . O que eu acho que o mundo não está enfatizando o suficiente é que é a primeira vez que a humanidade se depara com uma série de riscos existenciais individuais que também podem interagir e se combinar sem uma ordem mundial. Porque se você pega o risco nuclear, é pós-Segunda Guerra Mundial. Mas se você pegar biotecnologia e o que ela é capaz, isso é mais recente. Se você pegar os efeitos do clima que estão atingindo pontos de inflexão, isso é algo mais recente. Se você está olhando para os impactos da IA, isso é algo recente. Estes são riscos existenciais que cada um, por si só, pode causar estragos muito significativos para a humanidade, incluindo a extinção. Portanto, isso não é a mesma coisa que um asteroide atingindo a Terra, porque são coisas criadas pelo homem. Todas elas são recentes, e nenhuma existiu individualmente fora da ordem mundial dos pós 80 anos. E no mundo complexo sistêmico, eles podem interagir. Nenhum vai operar de forma isolada. Eles vão ter efeitos interativos em cascata. Esse é um novo desafio para a humanidade.
Regulação de IA não pode ter soluções pontuais, diz futurista
Roger Spitz aponta para os desafios de regular uma tecnologia que está em mudança constante. Crédito: Isabel Lima\Estadão
Seu livro, “Disrupt With Impact: Achieve Business Success in an Unpredictable World” (Disrupção com impacto: alcance o sucesso nos negócios em um mundo imprevisível, em tradução literal), foca na imprevisibilidade e na disrupção sistêmica. O que mudou no mundo desde que o sr. escreveu?
Por um lado, não mudou muita coisa, porque o fundamental do livro é a imprevisibilidade, a mudança sistêmica e o fato de que a mudança é uma constante O que eu acho revelador e realmente assustador é que a mudança é lenta até que não seja. Então, o que está acontecendo agora é que algumas das coisas sobre as quais alguns de nós no mundo temos pensado, escrito, nos preocupado para construir resiliência e preparação para o futuro, estão agora atingindo pontos de inflexão.
Quando você começa a filmar com seu iPhone sua casa pegando fogo na Califórnia, você pode negar as mudanças climáticas, você pode chamar do que quiser, mas no final do dia, sua casa está queimando, e provavelmente não é uma coincidência. Quando o chanceler da Alemanha, diz “nós não estamos realmente em guerra, mas também não estamos em paz” em relação às invasões de drones, você entende a natureza híbrida e liminar de algumas dessas dinâmicas. Quando o raro está se tornando menos raro e o extremo está se tornando o normal, temos que nos perguntar se é possível fazer uma distinção entre presente e o futuro sobre o qual costumávamos falar como uma distância. Desde que escrevi o livro, as dinâmicas estão lá e estão realmente começando a se manifestar com mais frequência.
Quando o raro está se tornando menos raro e o extremo está se tornando o normal, temos que nos perguntar se é possível fazer uma distinção entre presente e o futuro sobre o qual costumávamos falar como uma distância.
Qual é a conexão entre essa imprevisibilidade e “metadisrupções”, termo que o sr. passou a usar recentemente?
Todo começo de ano, você recebe milhares de páginas de relatórios e análises de tendências. E eu acho que foi John Naisbitt na década de 1980 quem cunhou o termo megatendências. O problema com isso é que você está extrapolando ligeiramente o passado em direção ao futuro. Também presume que as diferentes tendências interagem de uma maneira confiável e previsível. Isso dá uma falsa sensação de conforto e de confiança. Então, metadisrupções é para provocar: Não confie em algo que é compreensível, que é controlável, onde você está procurando a resposta. Quais são as perguntas que você deve se fazer? Quais são as implicações de segunda ou terceira ordem? O que você deve considerar em virtude de a mudança ser constante. Talvez precisemos fazer as perguntas sobre o que está além do que podemos ver.
A humanidade enfrenta um novo desafio com a interação entre diferentes riscos existenciais
Futurista Roger Spitz explica como o novo cenário mundial se tornou complexo para a compreensão do futuro. Crédito: Isabel Lima\Estadão
Que tipo de trabalho o sr. realiza com empresas e governos para que se preparem para o imprevisível?
Uma vez que você vê o mundo de uma maneira diferente, isso informa como você pode se preparar e como você pode ser capaz de responder. Algumas das coisas que eu falo hoje são mais fáceis de entender do que há cinco anos. Eles percebem que o mundo talvez seja mais sistêmico. Então, a coisa principal é construir capacidade para preparação futura e resiliência. Criamos uma estrutura que chamamos AAA. O primeiro A é antifrágil (antifragile), que significa que a organização realmente se beneficia e aprende com os choques e eventos. A segunda coisa é ser antecipatório (anticipatory). Então, se as coisas se manifestarem em cascata, quais são as implicações de segunda ou terceira ordem? Quais são as coisas que podem parecer não relacionadas? Como elas podem se conectar? E o terceiro A é simplesmente reconhecer (acknowledge) que apenas o presente existe. Que sim, você pode ser antecipatório, mas você está no aqui e agora como um processo de descoberta. E em nossos sistemas complexos e imprevisíveis, você não tem um manual de instruções para seguir. É um processo de descoberta. Então, você precisa da agilidade cognitiva, emergente e estratégica para amplificar o que parece funcionar e amortecer o que não parece funcionar.
