O vídeo começa mostrando uma sala com um sofá vermelho, uma planta num vaso e o um quadro de arte moderna sem graça. No sofá, está Michelle Obama – ou alguém que se parece muito com ela. Usando um top curto com um sutiã preto por baixo, ela se contorce languidamente ante a câmera e exibe seu sorriso inconfundível. Então, a cópia da ex-primeira-dama dos EUA começa a se despir.
O filme, que surgiu no fórum online Reddit, é um exemplar do que se conhece como deepfake – um vídeo falso ultrarrealista feito com software de inteligência artificial. Mais especificamente, o programa se chama FakeApp e sobrepôs o rosto da senhora Obama no corpo de uma atriz pornô. O resultado era estranho – quem não prestar atenção até poderia achar que era mesmo Michelle tirando a roupa.
Até outro dia, fazer vídeos realistas por computador era um trabalho complexo acessível só para Hollywood. Mas, nos últimos meses, uma comunidade de amadores começou a testar o FakeApp, um programa criado por um desenvolvedor anônimo usando software de código aberto escrito pelo Google. Gratuito e baixado mais de 120 mil vezes, o FakeApp torna fácil alterar rostos de forma realista e deixar poucos vestígios de manipulação.
Os deepfakes são uma das formas mais recentes de manipulação de mídia digital, e uma das mais propensas a serem utilizadas com fins maliciosos. Não é difícil imaginar que esta tecnologia seja usada para difamar políticos, criar pornografia falsa por vingança ou incriminar pessoas. Nos EUA, legisladores já começam a se preocupar com a forma como os deepfakes podem ser usados para sabotagem política e propaganda.
Criador. A reportagem do jornal entrou em contato por e-mail com o criador anônimo do FakeApp. A ideia era saber como ele se sentiu ao criar uma ferramenta de ponta só para vê-la sendo usada para pornografia.
Um homem respondeu identificando-se como N., um desenvolvedor de software de Maryland. Sem fornecer seu nome completo, N. disse que criou o FakeApp como experimento criativo e ficou decepcionado, ao ver a comunidade deepfake do Reddit usá-lo para o mal.
“Assim que eu vi os resultados dessa tecnologia, sabia que era algo brilhante e que deveria ser acessível para quem quisesse”, escreveu. “Achei que seria uma boa ideia montar um pacote fácil de usar.” Apesar do uso controverso, N. defendeu seu produto. “Pensei no assunto”, disse, “e decidi que não acho correto condenar a tecnologia – mas sim os usos que fazem dela”.
Para Hao Li, professor assistente de computação da University of Southern California (USC), não há escolha. “Para mim, os vídeos falsos são a próxima forma de comunicação”, disse. “Eu me preocupo com o fato de que as pessoas vão usá-lo para chantagear os outros. É preciso explicar às pessoas que isso é possível”.
Ou seja, lá vamos nós: existe um programa de inteligência artificial poderoso o suficiente para transformar Michelle Obama em uma atriz pornô. Em breve, esses vídeos manipulados serão mais comuns. E provavelmente não há nada que possamos fazer, exceto derrubar os fakes assim que surgirem, pressionar as redes sociais para combater agressivamente a desinformação e confiar, cada dia menos, nos nossos olhos. / TRADUÇÃO DE CLAUDIA BOZZO
