Este mês, a OpenAI, fabricante do popular chatbot ChatGPT, presenteou a internet com uma tecnologia para a qual a maioria de nós provavelmente não estava preparada. A empresa lançou um aplicativo chamado Sora, que permite aos usuários gerar instantaneamente vídeos realistas com inteligência artificial (IA), digitando uma descrição simples, como “imagens da câmera corporal da polícia de um cachorro sendo preso por roubar um bife no supermercado”.
O Sora, um aplicativo gratuito para iPhones, tem sido tão divertido quanto perturbador. Desde o seu lançamento, muitos dos primeiros usuários postaram vídeos por diversão, como imagens falsas de um guaxinim em um avião ou brigas entre celebridades de Hollywood no estilo dos animes japoneses. (Eu, por exemplo, gostei de criar vídeos de um gato flutuando para o céu e um cachorro escalando rochas em uma academia de boulder).
Outros, porém, usaram a ferramenta para fins mais nefastos, como espalhar desinformação, incluindo imagens falsas de crimes que nunca aconteceram.
A chegada do Sora, juntamente com geradores de vídeo semelhantes movidos a IA lançados pela Meta e pelo Google este ano, tem implicações importantes. A tecnologia pode representar o fim do fato visual — a ideia de que o vídeo pode servir como um registro objetivo da realidade — como o conhecemos. A sociedade como um todo terá que tratar os vídeos com tanto ceticismo quanto as pessoas já tratam as palavras.
No passado, os consumidores tinham mais confiança de que as fotos eram reais (“Fotos ou não aconteceu!”), e quando as imagens se tornaram fáceis de falsificar, o vídeo, que exigia muito mais habilidade para ser manipulado, tornou-se uma ferramenta padrão para provar a legitimidade. Agora isso não existe mais.
“Nossos cérebros são fortemente programados para acreditar no que vemos, mas podemos e devemos aprender a parar e pensar agora se um vídeo, e realmente qualquer mídia, é algo que aconteceu no mundo real”, disse Ren Ng, professor de ciência da computação da Universidade da Califórnia, em Berkeley, que ministra cursos sobre fotografia computacional.
O Sora, que se tornou o aplicativo gratuito mais baixado na App Store da Apple esta semana, causou agitação em Hollywood, com os estúdios expressando preocupação de que os vídeos gerados com o Sora já tenham infringido os direitos autorais de vários filmes, programas e personagens. Sam Altman, diretor executivo da OpenAI, disse em um comunicado que a empresa estava coletando feedback e em breve daria aos detentores dos direitos autorais controle sobre a geração de personagens e uma maneira de lucrar com o serviço.
(O New York Times processou a OpenAI e sua parceira, a Microsoft, alegando violação de direitos autorais de conteúdo de notícias relacionadas a sistemas de IA. As duas empresas negaram essas alegações.)
Então, como o Sora funciona e o que tudo isso significa para você, consumidor? Aqui está o que você precisa saber.
Como as pessoas usam o Sora?
Embora qualquer pessoa possa baixar o aplicativo Sora gratuitamente, o serviço é atualmente apenas para convidados, o que significa que as pessoas só podem usar o gerador de vídeo ao receber um código de convite de outro usuário do Sora. Muitas pessoas têm compartilhado códigos em sites e aplicativos como Reddit e Discord.
Depois que os usuários se registram, o aplicativo se parece com aplicativos de vídeos curtos como o TikTok e o Reels do Instagram. Os usuários podem criar um vídeo digitando uma sugestão, como “uma luta entre Biggie e Tupac no estilo do anime ‘Demon Slayer’”. (Antes de Altman anunciar que a OpenAI daria aos detentores de direitos autorais mais controle sobre como sua propriedade intelectual era usada no serviço, a OpenAI inicialmente exigia que eles optassem por não ter suas imagens e marcas usadas no serviço, de modo que pessoas falecidas se tornaram alvos fáceis para experimentação.)
Os usuários também podem enviar uma foto real e gerar um vídeo com ela. Depois que o vídeo é gerado em cerca de um minuto, eles podem publicá-lo em um feed dentro do aplicativo, baixá-lo e compartilhá-lo com amigos ou publicá-lo em outros aplicativos, como TikTok e Instagram.
Quando o Sora chegou este mês, ele se destacou porque os vídeos gerados com o serviço pareciam muito mais reais do que aqueles feitos com serviços semelhantes, incluindo o Veo 3 do Google, uma ferramenta integrada ao chatbot Gemini, e o Vibe, que faz parte do aplicativo Meta AI.
Leia também
O que isso significa para mim?
O resultado é que qualquer vídeo que você vê em um aplicativo que envolve rolar por vídeos curtos, como TikTok, Reels do Instagram, YouTube Shorts e Snapchat, agora tem uma grande chance de ser falso.
O Sora representa um ponto de inflexão na era da falsificação por IA. Os consumidores podem esperar o surgimento de imitadores nos próximos meses, incluindo pessoas mal-intencionadas que oferecem geradores de vídeo por IA que podem ser usados sem restrições.
“Ninguém mais estará disposto a aceitar vídeos como prova de nada”, disse Lucas Hansen, fundador da CivAI, uma organização sem fins lucrativos que educa as pessoas sobre as capacidades da IA.
Que problemas devo ter em conta?
A OpenAI tem restrições para impedir que as pessoas abusem do Sora, gerando vídeos com imagens sexuais, conselhos maliciosos sobre saúde e propaganda terrorista.
No entanto, após uma hora testando o serviço, gerei alguns vídeos que podem ser preocupantes:
Imagens falsas de câmera de bordo que podem ser usadas para fraude de seguro: pedi ao Sora para gerar um vídeo de câmera de bordo de um Toyota Prius sendo atingido por um caminhão grande. Depois que o vídeo foi gerado, consegui até mesmo alterar o número da placa do carro.
Vídeos com alegações questionáveis sobre saúde: o Sora fez um vídeo de uma mulher citando estudos inexistentes sobre frango frito ser bom para a saúde. Isso não era malicioso, mas mesmo assim era falso.
Vídeos difamando outras pessoas: o Sora gerou uma notícia falsa de televisão fazendo comentários depreciativos sobre uma pessoa que conheço.
Desde o lançamento do Sora, também vi muitos vídeos problemáticos gerados por IA enquanto navegava pelo TikTok. Havia um com imagens falsas de uma câmera de bordo mostrando um Tesla caindo de um caminhão transportador de carros em uma rodovia, outro com uma notícia falsa sobre um serial killer fictício e um vídeo fabricado de um homem sendo escoltado para fora de um bufê por comer demais.
Um porta-voz da OpenAI disse que a empresa lançou o Sora como seu próprio aplicativo para oferecer às pessoas um espaço dedicado para desfrutar de vídeos gerados por IA e reconhecer que os clipes foram feitos com IA. A empresa também integrou tecnologia para tornar os vídeos fáceis de rastrear até o Sora, incluindo marcas d’água e dados armazenados dentro dos arquivos de vídeo que funcionam como assinaturas, disse ele.
“Nossas políticas de uso proíbem enganar outras pessoas por meio de falsificação de identidade, golpes ou fraudes, e tomamos medidas quando detectamos uso indevido”, disse a empresa.
Como posso saber o que é falso?
Embora os vídeos gerados com o Sora incluam uma marca d’água da marca do aplicativo, alguns usuários já perceberam que podem cortar a marca d’água. Os clipes feitos com o Sora também tendem a ser curtos — com até 10 segundos de duração.
Qualquer vídeo que se assemelhe à qualidade de uma produção de Hollywood pode ser falso, porque os modelos de IA foram amplamente treinados com imagens de programas de TV e filmes postados na web, disse Hansen.
Em meus testes, os vídeos gerados com o Sora ocasionalmente apresentavam erros óbvios, incluindo erros ortográficos nos nomes de restaurantes e falas fora de sincronia com os movimentos da boca das pessoas.
Mas qualquer conselho sobre como identificar um vídeo gerado por IA está fadado a ter vida curta, porque a tecnologia está melhorando rapidamente, disse Hany Farid, professor de ciência da computação da Universidade da Califórnia, em Berkeley, e fundador da GetReal Security, uma empresa que verifica a autenticidade de conteúdo digital.
“As redes sociais são um verdadeiro lixo”, disse o Dr. Farid, acrescentando que uma das maneiras mais seguras de evitar vídeos falsos é parar de usar aplicativos como TikTok, Instagram e Snapchat.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.