Tucker Carlson, o conhecido jornalista conservador americano, queria ver Sam Altman “cheio de angústia”: ele queria ouvi-lo admitir que estava atormentado pelo poder que detém. Após cerca de meia hora expressando seus medos com linguagem técnica e advertências cautelosas, o CEO da OpenAI finalmente o fez.
“Não tive uma boa noite de sono desde que o ChatGPT foi lançado”, disse Altman a Carlson, ex-âncora da Fox News. Ele riu ironicamente.
Em sua ampla entrevista com Tucker Carlson, o CEO da OpenAI descreveu o peso de supervisionar uma tecnologia que centenas de milhões de pessoas agora usam diariamente. Não se trata tanto de cenários ao estilo Exterminador do Futuro ou robôs rebeldes. Para Altman, trata-se mais das pequenas alterações e concessões que sua equipe faz todos os dias, quase invisíveis. É quando o modelo recusa uma pergunta, como ele formula uma resposta, quando decide recusar e quando deixa algo passar.
Essas pequenas escolhas de design, explicou Altman, são replicadas bilhões de vezes em todo o mundo, moldando a forma como as pessoas pensam e agem de maneiras que ele não consegue acompanhar totalmente.
“O que me tira o sono é que as pequenas decisões que tomamos sobre como um modelo pode se comportar de maneira ligeiramente diferente provavelmente afetam centenas de milhões de pessoas”, disse ele. “Esse impacto é muito grande.”
Um exemplo que pesa muito: o suicídio. Altman observou que cerca de 15 mil pessoas tiram a própria vida todas as semanas em todo o mundo e, se 10% delas forem utilizadoras do ChatGPT, cerca de 1500 pessoas com pensamentos suicidas podem ter falado com o sistema — e depois terem-se suicidado na mesma. (Os dados da Organização Mundial da Saúde confirmam que cerca de 720 mil pessoas por ano em todo o mundo tiram a própria vida).
“Provavelmente não salvamos suas vidas”, admitiu ele. “Talvez pudéssemos ter dito algo melhor. Talvez pudéssemos ter sido mais proativos.”
A OpenAI foi recentemente processada por pais que alegam que o ChatGPT encorajou seu filho de 16 anos, Adam Raine, a se matar. Altman disse a Carlson que o caso foi uma “tragédia” e afirmou que a plataforma agora está explorando opções para que, se um menor conversar com o ChatGPT sobre suicídio de forma séria e o sistema não conseguir entrar em contato com seus pais, ele ligue para as autoridades.
Altman acrescentou que essa não era a “posição final” da OpenAI e que isso entraria em conflito com a privacidade do usuário.
Em países onde o suicídio assistido é legal, como no Canadá ou na Alemanha, Altman disse que poderia imaginar o ChatGPT dizendo a adultos terminais e sofredores que o suicídio estava “dentro de suas opções”. Mas o ChatGPT não deveria ser a favor ou contra nada, acrescentou.
Essa troca entre liberdade e segurança permeia todo o pensamento de Altman. De modo geral, ele disse que os usuários adultos devem ser tratados “como adultos”, com ampla liberdade para explorar ideias. Mas há limites.
“Não é do interesse da sociedade que o ChatGPT ajude as pessoas a construir armas biológicas”, afirmou categoricamente. Para ele, as questões mais difíceis são aquelas nas áreas cinzentas, quando a curiosidade se confunde com o risco.
Carlson pressionou-o sobre qual estrutura moral rege essas decisões. Altman disse que o modelo básico reflete “o coletivo da humanidade, bom e mau”.
A OpenAI então acrescenta um código de comportamento — o que ele chamou de “especificação do modelo” — baseado em informações fornecidas por filósofos e especialistas em ética, mas decidido, em última instância, por ele e pelo conselho.
“A pessoa a quem você deve responsabilizar sou eu”, disse Altman. Ele enfatizou que seu objetivo não é impor suas próprias crenças, mas refletir uma “média ponderada da visão moral da humanidade”.
Ele admitiu que esse é um equilíbrio impossível de se alcançar com perfeição.
A entrevista também abordou questões relacionadas ao poder. Altman disse que antes se preocupava com a possibilidade de a IA concentrar influência nas mãos de poucas empresas, mas agora acredita que a adoção generalizada “elevou” bilhões de pessoas, tornando-as mais produtivas e criativas. Ainda assim, ele reconheceu que a trajetória pode mudar e que é necessário estar atento.
No entanto, apesar de todo o foco atual nos empregos ou nos efeitos geopolíticos de sua tecnologia, o que mais incomoda Altman são as incógnitas: as mudanças culturais sutis, quase imperceptíveis, que se espalham quando milhões de pessoas interagem com o mesmo sistema todos os dias. Ele apontou algo tão trivial quanto a cadência do ChatGPT ou o uso excessivo de travessões, que já se infiltraram nos estilos de escrita humanos. Se tais peculiaridades podem se espalhar pela sociedade, o que mais pode acontecer?
Leia também
Isso foi o que minha filha disse ao ChatGPT antes de tirar a própria vida
O que é ‘psicose de IA’? Entenda como o ChatGPT pode afetar sua saúde mental
Altman, de cabelos grisalhos e frequentemente com o olhar baixo, parecia um personagem à la Frankenstein, assombrado pela magnitude do que ele desencadeou.
“Tenho que manter essas duas ideias simultâneas na minha cabeça”, disse Altman. “Uma é que tudo isso está acontecendo porque um grande computador, muito rapidamente, está multiplicando grandes números nessas matrizes enormes, e esses números estão correlacionados com palavras que estão sendo produzidas de uma forma ou de outra.
“Por outro lado, a experiência subjetiva de usar isso parece ir além de uma calculadora realmente sofisticada, e é surpreendente para mim de maneiras que vão além do que a realidade matemática parece sugerir.”
A OpenAI não respondeu imediatamente ao pedido de comentário da Fortune.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
c.2024 Fortune Media IP Limited
Distribuído por The New York Times Licensing Group