Ilyasah Shabazz não queria assistir aos vídeos gerados por inteligência artificial (IA) de seu pai, Malcolm X. Os clipes aparentemente realistas — criados pelo novo criador de vídeos, Sora 2, da OpenAI — mostram o lendário ativista dos direitos civis fazendo piadas de mau gosto, lutando com o reverendo Martin Luther King Jr. e falando sobre defecar em si mesmo.
A velocidade e o realismo assustador da Sora ajudaram a impulsionar o aplicativo para o topo das paradas de downloads, e os vídeos que reanimam os mortos estão entre os clipes mais virais. Vídeos produzidos pela Sora de Michael Jackson, Elvis Presley e Amy Winehouse inundaram as redes sociais, com muitos espectadores dizendo que têm dificuldade em distinguir se os vídeos são reais ou falsos.
Alguns clipes foram feitos para causar risadas, como um vídeo do apresentador do programa “Mr. Rogers’ Neighborhood”, Fred Rogers, escrevendo uma música rap com o artista de hip-hop Tupac Shakur. Outros abordaram temas mais sombrios. Um vídeo mostrava imagens da câmera corporal da polícia de Whitney Houston parecendo embriagada. Em alguns clipes, King faz barulhos de macaco durante seu discurso “Eu tenho um sonho”, o jogador de basquete Kobe Bryant voa a bordo de um helicóptero, refletindo o acidente que matou ele e sua filha em 2020, e John F. Kennedy faz uma piada sobre o recente assassinato do influenciador de direita Charlie Kirk.
A OpenAI afirmou que a ferramenta de conversão de texto em vídeo só representaria pessoas reais com o seu consentimento. No entanto, durante o seu lançamento na semana passada, isentou as “figuras históricas” destas restrições, permitindo que qualquer pessoa criasse vídeos falsos ressuscitando figuras públicas, incluindo ativistas, celebridades e líderes políticos — e deixando alguns dos seus familiares horrorizados.
“É profundamente desrespeitoso e doloroso ver a imagem do meu pai usada de maneira tão arrogante e insensível, quando ele dedicou sua vida à verdade”, disse Shabazz, cujo pai foi assassinado na frente dela em 1965, quando ela tinha 2 anos, ao The Washington Post. Ela questionou por que os desenvolvedores não estavam agindo “com a mesma moralidade, consciência e cuidado... que eles gostariam para suas próprias famílias”.
Os vídeos da Sora provocaram agitação e repulsa em muitos dos entes queridos das celebridades retratadas, incluindo a filha do ator Robin Williams, Zelda Williams, que recentemente pediu em uma postagem no Instagram para que as pessoas “parassem de me enviar vídeos de IA do meu pai”.
“Ver o legado de pessoas reais ser reduzido a... horríveis marionetes do TikTok é enlouquecedor”, disse ela.
À medida que o rápido desenvolvimento da IA dá às pessoas comuns o poder de criar imagens e chatbots realistas, ele também desafia noções antigas sobre quem controla as memórias, a identidade e o legado de uma pessoa após sua morte. A maioria das empresas não pode usar a imagem de Robin Williams para fins comerciais sem a permissão de sua família. Mas na Sora, estranhos renderizaram Williams, que morreu em 2014, como bem entenderam.
“Comercialmente, se você criar conteúdo de memes de pessoas famosas que são reconhecíveis, isso vai gerar mais cliques”, disse Henry Ajder, especialista em IA que estuda deepfakes e cunhou o termo “ressurreição sintética” para descrever a criação de cópias digitais de pessoas falecidas. “Com indivíduos falecidos, isso abre uma questão enorme sobre a propriedade da imagem e muda fundamentalmente o contrato social em torno do que significa ser você online.”
À medida que a tecnologia avança, a visão de Ajder está se tornando uma realidade cada vez mais comum. A perspectiva de clonar digitalmente pessoas falecidas já está gerando questões incômodas sobre a incapacidade das famílias de controlar como seus entes queridos são retratados.
“A quantidade e o volume desse tipo de conteúdo de ressurreição sintética são enormes agora”, disse ele. “E isso não está sendo feito por agências criativas em parceria com os herdeiros... ou por um estúdio de Hollywood como uma homenagem a um ator ou atriz muito amado, com o consentimento de sua família. Está sendo feito por trolls, criadores de memes, racistas e todos os outros.”
A OpenAI afirmou que sua política se baseava em “fortes interesses de liberdade de expressão na representação de figuras históricas”. Mas, após reações negativas, a empresa anunciou, na quarta-feira, que passaria a permitir que os representantes de figuras públicas “falecidas recentemente” solicitem que suas imagens sejam bloqueadas dos vídeos da Sora.
“Acreditamos que as figuras públicas e suas famílias devem, em última instância, ter controle sobre como suas imagens são utilizadas”, afirmou uma porta-voz da OpenAI. Ela se recusou a definir o termo “falecidas recentemente”.
A OpenAI descreveu sua ferramenta de vídeo como uma fonte de criatividade — alimentada em parte por suas representações de pessoas reais. Um executivo, Varun Shetty, disse ao blog de tecnologia Newcomer que os funcionários da empresa tinham sido permissivos com a criação de vídeos para evitar uma “desvantagem competitiva” em relação aos rivais laissez-faire. E o CEO Sam Altman disse em um podcast que alguns detentores de direitos autorais — em vez de ficarem furiosos por sua propriedade intelectual estar sendo roubada — disseram à empresa que estavam preocupados que “vocês não colocassem meu personagem o suficiente”.
Em declarações públicas, no entanto, algumas das maiores empresas de Hollywood têm sido muito menos generosas. O chefe da Motion Picture Association disse que a OpenAI precisava “tomar medidas imediatas e decisivas” para proteger os direitos dos criadores. E a agência de talentos Creative Artists Agency disse que a Sora 2 expôs seus “clientes e sua propriedade intelectual a um risco significativo”.
Na internet, a ferramenta gerou críticas consideráveis. Bernice King, filha de Martin Luther King Jr., compartilhou os comentários de Zelda Williams e pediu às pessoas que “por favor, parassem”. Hank Green, um popular YouTuber e criador de conteúdo, compartilhou um vídeo da Sora sobre King e disse: “Isso deve ser ilegal de alguma forma. ... A OpenAI lançou um ímã de processos judiciais no mundo”.
Joan Kowalski, presidente da empresa proprietária das obras e da imagem do pintor Bob Ross, disse que lidar com reproduções não autorizadas do artista é um problema antigo. Mas a Sora trouxe um novo desafio, disse ela, já que vídeos do manso Ross, que morreu em 1995, obtiveram milhões de visualizações ao mostrar o artista tendo um surto de gritos em seu estúdio ou pintando o World Trade Center em chamas.
Os fãs de Ross não conseguem mais distinguir o que é real do que é falso, disse Kowalski, e alguns escreveram para a empresa alarmados. A reputação de Ross de gentileza e incentivo, disse ele, parecia tornar o artista um ímã para representações irreverentes.
“As pessoas querem pegar a pessoa mais pura e íntegra e estragá-la”, disse Kowalski. “Existe uma espécie de condição humana estranha em que elas querem pegar a coisa mais adorável e inocente e destruí-la.”
Ajder, que assessorou empresas e governos sobre políticas de mídia sintética, disse que os deepfakes já causaram polêmica nos últimos anos, à medida que os anunciantes procuram usar clones de celebridades falecidas em promoções. Entre eles está um vídeo de 2021 em que um dublê e um software de mapeamento facial foram usados para fazer Ross pintar um retrato cênico da Mountain Dew com a permissão da Bob Ross Inc.
Mas o debate foi intensificado pela IA, que pode criar imagens mais realistas mais rapidamente e com menos considerações de estilo ou gosto. A lei oferece poucos recursos.
Reid Kress Weisbord, professor da Rutgers Law School que estuda testamentos e patrimônios, disse que a lei de difamação se refere a danos à reputação dos vivos, e a reclamação geralmente “morre com a pessoa que está sendo difamada”.
As famílias podem entrar com uma ação judicial pelo direito de publicidade pós-morte da pessoa, o que impede a exploração comercial do nome ou da imagem de alguém sem o seu consentimento. Muitos estados agora permitem que esses direitos sejam transferidos para o patrimônio da pessoa falecida, incluindo a Califórnia, onde o prazo de prescrição dura 70 anos após a morte.
A OpenAI poderia argumentar que os vídeos representam um “uso transformador”, um conceito jurídico para proteger paródias, críticas e outras formas de expressão que se baseiam no valor do trabalho de outra pessoa. E alguns defensores da tecnologia há muito argumentam que as obras geradas por IA devem ser protegidas pela Primeira Emenda.
Mas as questões jurídicas atingem um aspecto da lei que a IA tem tornado cada vez mais incerto a cada ano, disse Weisbord. Concentrar-se na questão financeira pode fazer com que se perca de vista a verdadeira questão: quem pode moldar a imagem ou a memória de uma pessoa após sua morte?
Leia também
‘Pai do ChatGPT’ diz que sente inveja dos jovens que abandonam a faculdade atualmente; entenda
Nano Banana, GPT ou Midjourney: saiba qual IA escolher para fotos, montagens e imagens do zero
Em relação ao impacto emocional de uma criança ver uma imagem de seu pai ou mãe fazendo coisas que nunca fez, Weisbord disse: “Não tenho certeza se a perspectiva da exploração comercial realmente captura a natureza desse dano”.
Para figuras políticas, há o risco adicional de pessoas usarem sua imagem para espalhar informações erradas ou incitar a indignação. Vídeos da Sora de Winston Churchill, por exemplo, mostraram o falecido primeiro-ministro britânico promovendo a companhia aérea JetBlue ou fazendo referência a memes grosseiros da internet.
À medida que uma nova geração aprende sobre grandes figuras históricas, seus primeiros encontros devem ser baseados na realidade e não em retratos falsos da IA, disse Adam Howard, CEO da International Churchill Society.
“O nome, a imagem e as palavras de Churchill não são um estoque gratuito para manipulação sintética”, acrescentou Randolph Churchill, presidente da sociedade e bisneto de Winston Churchill. “Winston Churchill pertence à história, e seu legado merece precisão, dignidade e administração legal.”
Leia também
OpenAI anuncia plano de US$ 25 bi para data centers na Argentina
Como funcionam as novas IAs de vídeo: a ciência por trás da ilusão perfeita
Ao permitir conteúdos controversos, mas atraentes, como celebridades de IA, a OpenAI está seguindo um manual aperfeiçoado por empresas de mídia social como a Meta: faça o que for preciso para atrair usuários para o aplicativo e peça perdão depois, disse Thales Teixeira, professor de administração da Universidade da Califórnia, em San Diego. “Primeiro você cresce e depois tenta resolver os problemas”, disse ele.
Enquanto isso, familiares como Shabazz ficam com o fardo emocional. Durante dias, Shabazz deixou as mensagens falsas em seu celular sem ler. Só depois de voltar para casa de uma viagem de trabalho é que ela as abriu, pronta para lidar com o que quer que elas contivessem.
“Tenho pessoas que dependem do meu apoio”, disse ela. “Não quero ficar sobrecarregada pelo ato irresponsável de outra pessoa.”
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.