Durante grande parte da última década, os guerreiros culturais partidários dos Estados Unidos lutaram pelo território disputado das redes sociais — discutindo se as regras do Facebook e do Twitter eram muito rígidas ou muito brandas, se o YouTube e o TikTok censuravam demais ou de menos e se as empresas de tecnologia do Vale do Silício estavam sistematicamente silenciando as vozes da direita.
Essas batalhas não acabaram. Mas uma nova já começou.
Essa luta é sobre inteligência artificial (IA) e se os resultados dos principais chatbots de IA, como ChatGPT, Claude e Gemini, são politicamente tendenciosos.
Os conservadores vêm mirando as empresas de IA há meses. Em março, os republicanos da Câmara dos Deputados americana intimaram um grupo de desenvolvedores líderes de IA, investigando-os para obter informações sobre se eles conspiraram com o governo Biden para suprimir o discurso da direita. E este mês, o procurador-geral republicano do Missouri, Andrew Bailey, abriu uma investigação para apurar se o Google, a Meta, a Microsoft e a OpenAI estão liderando uma “nova onda de censura” ao treinar seus sistemas de IA para dar respostas tendenciosas a perguntas sobre o presidente Trump.
Na quarta-feira, 23, o próprio Donald Trump entrou na briga, emitindo uma ordem executiva sobre o que chamou de “IA woke”.
“Estamos nos livrando do woke”, disse ele em um discurso na quarta-feira. “O povo americano não quer a loucura marxista woke nos modelos de IA, e outros países também não.”
A ordem foi anunciada juntamente com um novo plano de ação da Casa Branca para a IA, que exigirá que os desenvolvedores de IA que recebem contratos federais garantam que os resultados de seus modelos sejam “objetivos e livres de preconceitos ideológicos impostos de cima para baixo”.
Os republicanos vêm reclamando do preconceito da IA desde pelo menos o início do ano passado, quando uma versão do sistema de IA Gemini do Google gerou imagens historicamente imprecisas dos fundadores americanos, retratando-os como racialmente diversos. Esse incidente provocou a fúria dos conservadores online e levou a acusações de que as principais empresas de IA estavam treinando seus modelos para repetir a ideologia liberal.
Desde então, os principais republicanos montaram campanhas de pressão para tentar forçar as empresas de IA a divulgar mais informações sobre como seus sistemas são construídos e ajustar os resultados de seus chatbots para refletir um conjunto mais amplo de visões políticas.
Agora, com a ordem executiva da Casa Branca, Trump e seus aliados estão usando a ameaça de retirar contratos federais lucrativos — a OpenAI, a Anthropic, o Google e a xAI receberam recentemente contratos do Departamento de Defesa no valor de até US$ 200 milhões — para tentar forçar as empresas de IA a abordar suas preocupações.
Se esse manual parece familiar, é porque reflete a maneira como os republicanos têm perseguido as empresas de mídia social há anos — usando ameaças legais, audiências hostis no Congresso e exemplos selecionados para pressionar as empresas a mudar suas políticas ou remover conteúdos de que não gostam.
Os críticos dessa estratégia a chamam de “jawboning” (pressão verbal), e ela foi objeto de um caso de grande repercussão na Suprema Corte no ano passado. Nesse caso, Murthy v. Missouri, foram os democratas que foram acusados de pressionar plataformas de mídia social como Facebook e Twitter a remover postagens sobre temas como a vacina contra o coronavírus e fraude eleitoral, e os republicanos contestaram suas táticas como inconstitucionais. (Em uma decisão de 6 a 3, o tribunal rejeitou a contestação, alegando que os demandantes não tinham legitimidade.)
Agora, os partidos trocaram de lado. Autoridades republicanas, incluindo vários funcionários do governo Trump com quem conversei e que estiveram envolvidos na ordem executiva, argumentam que pressionar as empresas de IA por meio do processo de aquisição federal é necessário para impedir que os desenvolvedores de IA influenciem o resultado.
Isso é hipocrisia? Claro. Mas a história recente sugere que influenciar os árbitros dessa forma pode ser eficaz. A Meta encerrou seu programa de verificação de fatos de longa data este ano, e o YouTube mudou suas políticas em 2023 para permitir mais conteúdo negacionista sobre as eleições. Os críticos de ambas as mudanças as viram como uma capitulação aos críticos de direita.
Desta vez, os críticos citam exemplos de chatbots de IA que aparentemente se recusam a elogiar Trump, mesmo quando solicitados a fazê-lo, ou chatbots fabricados na China que se recusam a responder perguntas sobre o massacre da Praça da Paz Celestial em 1989. Eles acreditam que os desenvolvedores estão deliberadamente incorporando uma visão de mundo de esquerda em seus modelos, que será perigosamente amplificada à medida que a IA for integrada a áreas como educação e saúde.
Existem alguns problemas com esse argumento, de acordo com especialistas em direito e política tecnológica com quem conversei.
Leia também
O primeiro, e mais evidente, é que pressionar as empresas de IA a alterar os resultados de seus chatbots pode violar a Primeira Emenda. Em casos recentes, como Moody v. NetChoice, a Suprema Corte confirmou os direitos das empresas de mídia social de aplicar suas próprias políticas de moderação de conteúdo. E os tribunais podem rejeitar o argumento do governo Trump de que está tentando aplicar um padrão neutro para os contratados do governo, em vez de interferir na liberdade de expressão protegida.
“O que parece que eles estão fazendo é dizer: ‘Se você está produzindo resultados que não gostamos, que chamamos de tendenciosos, não vamos lhe dar o financiamento federal que você receberia normalmente’”, disse-me Genevieve Lakier, professora de direito da Universidade de Chicago. “Isso parece um ato inconstitucional de intimidação.”
Há também o problema de definir o que exatamente é um sistema de IA “neutro” ou “imparcial”. Os chatbots de IA atuais são sistemas complexos, baseados em probabilidades, treinados para fazer previsões, não para dar respostas codificadas. Dois usuários do ChatGPT podem ver respostas totalmente diferentes para as mesmas perguntas, dependendo de variáveis como seus históricos de bate-papo e quais versões do modelo estão usando. E testar um sistema de IA quanto a preconceitos não é tão simples quanto alimentá-lo com uma lista de perguntas sobre política e ver como ele responde.
Samir Jain, vice-presidente de políticas do Center for Democracy and Technology, um grupo sem fins lucrativos de liberdades civis, disse que a ordem executiva do governo Trump estabeleceria “um padrão realmente vago que será impossível para os provedores cumprirem”.
Há também um problema técnico em dizer aos sistemas de IA como se comportar. Ou seja, eles nem sempre obedecem.
Basta perguntar a Elon Musk. Durante anos, Musk tentou criar um chatbot de IA, o Grok, que incorporasse sua visão de um buscador da verdade rebelde e “anti-woke”.
Mas o comportamento do Grok tem sido errático e imprevisível. Às vezes, ele adota uma personalidade agressiva e de extrema direita, ou profere linguagem antissemita em resposta às solicitações dos usuários. (Por um breve período na semana passada, ele se referiu a si mesmo como “Mecha-Hitler”.) Outras vezes, ele age como um liberal — dizendo aos usuários, por exemplo, que as mudanças climáticas causadas pelo homem são reais, ou que a direita é responsável por mais violência política do que a esquerda.
Recentemente, Musk lamentou que os sistemas de IA tenham um viés liberal que é “difícil de remover, porque há muito conteúdo politicamente correto na internet”.
Nathan Lambert, pesquisador científico do Allen Institute for AI, me disse que “controlar as muitas respostas sutis que uma IA dará quando pressionada é um problema técnico de ponta, muitas vezes governado na prática por interações confusas feitas entre algumas decisões anteriores”.
Em outras palavras, não é tão simples quanto dizer a um chatbot de IA para ser menos politicamente correto. E embora existam ajustes relativamente simples que os desenvolvedores poderiam fazer em seus chatbots — como alterar a “especificação do modelo”, um conjunto de instruções dadas aos modelos de IA sobre como eles devem agir —, não há garantia de que essas mudanças produzirão consistentemente o comportamento que os conservadores desejam.
Mas perguntar se as novas regras do governo Trump podem sobreviver a desafios legais, ou se os desenvolvedores de IA podem realmente construir chatbots que as cumpram, pode ser irrelevante. Essas campanhas são projetadas para intimidar. E diante da perda potencial de lucrativos contratos governamentais, as empresas de IA, assim como suas antecessoras nas redes sociais, podem achar mais fácil ceder do que lutar.
“Mesmo que a ordem executiva viole a Primeira Emenda, é bem possível que ninguém a conteste”, disse Lakier. “Estou surpresa com a facilidade com que essas empresas poderosas se renderam.”
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial.Saiba mais em nossa Política de IA.