Nas últimas semanas, algum amigo seu deve ter te recomendado o documentário "O dilema das redes", disponível na Netflix. O vídeo tem sido tema de debates na imprensa e nas redes sociais de todo o mundo por tratar dos impactos das redes sociais na vida das pessoas e sua capacidade de influenciar até mesmo grandes democracias. O impacto do documentário é tão grande que após a repercussão houve uma explosão nos buscadores por orientação de como excluir contas das principais redes sociais.
E tem sentido para isso. O filme vai na veia de problemas super importantes. E cumpre uma função social até de as pessoas terem mais consciência do que há por trás de tecnologias aparentemente inofensivas.
Porém, o documentário fez uma escolha narrativa de dramatizar determinadas situações que podem levar às pessoas a distorcerem um pouco a realidade de como os algoritmos realmente funcionam. Do jeito em que foi exposto, com três pessoas manipulando um usuário tal qual um boneco, por meio de meros cliques em botões, fica a sensação de que algoritmos são intencionalmente maus e tem a missão natural de escravizar as pessoas. E, obviamente, não é bem assim.
No fundo, a questão é que esses algoritmos são puramente calibrados para gerar sempre mais e mais engajamento, fazendo com que os usuários fiquem mais imersos e dependentes de alguma forma destes mecanismos. E todas as dinâmicas e novos features das plataformas têm essa missão. Claro que isso é feito com fins comerciais e lucrativos, como qualquer empresa faz com seus produtos e serviços. Então, alguns até poderiam se perguntar o que há de errado nessa história toda.
O grande problema é que já há diversos estudos mostrando cientificamente como isso faz mal para as pessoas - e para a sociedade - em diversos aspectos. De um lado, cria bolhas sociais de gente, formando apenas uma concepção enviesada de mundo. Do outro, gera transtornos de ansiedade e mexe com a auto estima, especialmente de adolescentes, levando a um crescimento inédito de taxas de suicídio. Além disso, radicaliza as pessoas com conteúdos cada vez mais extremos. Tudo em nome do engajamento.
Então, sim, há um problema. Mas o problema não é que o algoritmo é malvado por natureza como o filme nos induz a pensar, e sim que ele não cria nenhuma espécie de barreira, freio ou contrapeso ao impulso por engajamento. O Youtube recentemente divulgou iniciativas para conter a recomendação de conteúdos chamados "borderline", que tendem a levar as pessoas aos extremismos, porém é algo ainda em desenvolvimento.
Da mesma forma que o algoritmo foi criado por humanos pensando apenas em engajamento, ele pode ser modificado para criar barreiras e mitigar seu impacto social. E, se não é interesse das empresas fazerem isso porque o nível de engajamento vai necessariamente cair, os Estados precisam intervir. Como os ex-executivos das plataformas dizem a todo tempo no filme, sem regulamentação ética e transparente dos algoritmos, esse problema está longe de acabar e pode ser um dos mais críticos da humanidade. Sem nenhum exagero.
*Felipe Senise é Partner & Head of Strategy da Ilumeo e sócio-diretor na Sandbox Escola de Estratégia
