SÃO FRANCISCO — Numa noite de 2007, Dario Amodei entreteve um amigo que o visitava na Universidade Princeton com suas reflexões sobre A Singularidade Está Próxima, tratado de 2005 do cientista da computação Ray Kurzweil. Amodei acabara de ler o livro, no qual Kurzweil previa que a inteligência artificial um dia superaria o cérebro humano, em um momento conhecido como Singularidade. Enquanto enrolava o cabelo nos dedos, Amodei disse ao amigo, Colin Heckman, que o marco poderia acontecer ainda em vida dos dois.
“Ele ficou obcecado”, disse Heckman, que estudou com Amodei no ensino médio em São Francisco. “Ele dizia que a IA tinha de ser construída do jeito certo, ou estaríamos acabados.”
Amodei, então com 24 anos e doutorando em Física, vivia um período de absorção de informação. Tinha se embrenhado nos blogs obscuros “Accelerating Future” e “Overcoming Bias”, onde os autores discutiam o potencial da IA de exterminar a humanidade. E havia mergulhado nos fóruns online do GiveWell, organização que buscava maximizar a eficácia das doações filantrópicas, onde intelectuais debatiam como gerar o máximo de dinheiro para a filantropia.
Esses livros, blogs e comunidades online influenciam Amodei até hoje, segundo entrevistas com mais de duas dezenas de colegas de classe, amigos, professores e colaboradores. Eles ajudam a explicar as ideias que movem o CEO de 43 anos da Anthropic, empresa prestes a realizar uma das maiores aberturas de capital do mundo neste mês, e oferecem uma compreensão de como o homem na vanguarda da revolução da IA de fato pensa sobre a IA.
No centro da visão de mundo de Amodei, disseram amigos e colegas, estão duas filosofias entrelaçadas que compartilham a crença inflexível de que o raciocínio matemático pode mudar o futuro da humanidade. Uma é o “racionalismo”, que busca aplicar um pensamento desapaixonado ao mundo. Defendida por gente como Eliezer Yudkowsky, pesquisador autodidata de IA, sustenta que a inteligência artificial se tornará poderosa o bastante para destruir a sociedade. A outra é o “altruísmo eficaz”, que evoluiu ao lado do racionalismo e procura maximizar o bem social com precisão matemática.
Essas escolas de pensamento se fundiram, para Amodei, em uma convicção inabalável de que a IA poderia ser tão perigosa que apenas ele e tecnólogos com visão semelhante poderiam ser incumbidos de construí-la. Isso catalisou seu esforço declarado de criar IA antes que o fizessem pessoas sem preocupações com a segurança da humanidade, e alimentou um desejo de controlar a tecnologia, disseram amigos e colegas.
Com a IA, “os benefícios só serão alcançados se construirmos a tecnologia do jeito certo e — desde que usemos bem o tempo que ganharmos — vale a pena ter um cuidado excepcionalmente deliberado para acertar”, escreveu Amodei em um ensaio de setembro que defendia uma desaceleração no desenvolvimento da tecnologia.
Essas ideias formaram a base da Anthropic, que Amodei fundou em 2021 com sua irmã, Daniela Amodei, e outras cinco pessoas que haviam circulado pelas comunidades racionalistas e do altruísmo eficaz. E, à medida que a empresa cresceu, essas visões — que Amodei defende de forma vocal e incansável — foram ganhando proeminência.
Amodei opinou em debates geopolíticos e disse que os Estados Unidos deveriam restringir a venda de chips à China para limitar a capacidade do país de competir em IA. Proclamou que a inteligência artificial deve ser regulada para impedir que a tecnologia saia do controle. E, em disputas com o Departamento de Defesa, declarou que ela não deve ser usada para vigilância em massa de americanos nem empregada em armas autônomas.
“Ele realmente enxerga que há um enorme risco existencial em jogo aqui”, disse Nathan Avery, que correu no time de cross-country do ensino médio com Amodei e teve muitas conversas profundas com ele ao longo dos anos, embora tenham se distanciado. “E ele precisa se colocar em posição de fazer algo a respeito.”
Amodei, um bilionário cujo patrimônio deve crescer com a abertura de capital da Anthropic, recusou, por meio de um representante da empresa, o pedido de entrevista.
Seu pensamento lhe rendeu apoiadores, especialmente entre alguns que trabalham com segurança em IA e dizem que Amodei desenvolve a tecnologia de forma responsável. Também lhe rendeu inimigos no Vale do Silício e em Washington, com críticos — incluindo Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia — atacando-o por ser um “doomer” (os que preveem catástrofe) e por tentar centralizar o poder na IA. Em setembro, o Departamento de Defesa publicou nas redes sociais: “Americanismo, não altruísmo eficaz.”
Amodei, que parece ciente de que suas ideias irritaram outros, tentou diferenciar publicamente suas crenças do racionalismo e do altruísmo eficaz. Em 2023, disse ao podcast Hard Fork, do New York Times, que não se considerava um altruísta eficaz.
“Sou simpático a várias das ideias”, afirmou, mas é contra “dividir as pessoas em tribos”.
“Dario, relaxa!”
Amodei e sua irmã mais nova, Daniela, cresceram no Mission District, em São Francisco. O pai, Riccardo Amodei, era artesão de couro, e a mãe, Elena Engel, gerenciava reformas de bibliotecas públicas. O casal se separou em 1991, segundo documentos do divórcio.
Já na oitava série, na Lawton Alternative School, Dario Amodei se destacava. Em 1997, ele e um colega foram eleitos “os mais propensos a vencer na vida” e apareceram no anuário escolar segurando notas de dólar.
Na Lowell High School, a melhor escola pública de São Francisco, Amodei era um aprendiz voraz, que fazia disciplinas na Universidade da Califórnia em Berkeley. Refletia sobre ideias como o utilitarismo — que defende que as pessoas devem maximizar a felicidade do maior número de seres vivos — e se preocupava com questões como o bug do milênio e seu potencial de arruinar os computadores do mundo, disseram colegas.
Richard Shapiro, então professor de física na Lowell, disse que Amodei frequentemente achava que tinha ido mal nas provas. “Eu gritava com ele: ‘Dario, relaxa!’”, contou Shapiro.
Em 2001, Amodei ingressou no Instituto de Tecnologia da Califórnia (Caltech), em Pasadena, mas voltava com frequência a São Francisco para ver amigos e família. Em uma dessas viagens, foi com Avery e Heckman a um restaurante de sushi, onde debateram utilitarismo. Amodei era vegetariano, mas argumentou que não havia problema em comer caranguejos, por serem invertebrados.
Em 2004, Amodei se transferiu para a Universidade Stanford, no coração do Vale do Silício. A mudança o aproximou de Daniela Amodei, que cursava o ensino médio ali perto.
“Sempre quisemos salvar o mundo juntos”, disse ele sobre a irmã em um podcast de 2023.
A finitude do tempo
Depois de se formar em Stanford, em 2006, Dario Amodei entrou para um programa de doutorado em física em Princeton, acabando por se concentrar na aplicação da física à biologia e à neurociência computacional. Naquele ano, seu pai, que sofria de hepatite C, morreu. Amodei mergulhou na pesquisa sobre células da retina e passou a se interessar pelo desenvolvimento de tecnologias capazes de acelerar o progresso científico.
Jade Wang, que namorou Amodei e criou com ele um grupo de discussão científica, disse que os dois costumavam conversar sobre como cientistas que dedicam a vida ao estudo de uma única doença teriam impacto maior desenvolvendo tecnologia ou métodos para todo o seu campo. Ele citava o pai, que morreu antes da descoberta de um medicamento que tornou tratável a maioria dos casos de hepatite C, contou ela.
Nessa época, Amodei já abraçava os escritos de Kurzweil e de Yudkowsky, uma liderança dos racionalistas. Ficou especialmente intrigado com a ideia de Kurzweil de que tecnologias avançadas permitiriam aos humanos existir além dos limites naturais — crença conhecida como transumanismo.
Durante a visita de Heckman a Princeton, em 2007, Amodei lhe disse que a Singularidade aconteceria até 2040 e que os humanos talvez um dia fundissem suas mentes com máquinas. “Com o tempo, nos tornaríamos a nova IA superinteligente, ou um híbrido IA-humano”, disse Amodei, segundo Heckman.
Amodei ficou tão fascinado por esse pensamento que incentivou amigos e a irmã a participar da conferência anual do Singularity Institute, de Yudkowsky. (O grupo hoje se chama Machine Intelligence Research Institute.)
Yudkowsky era “um dos pensadores mais profundos que já encontrei” e estava “explicitamente tentando provocar uma singularidade que seja benéfica à humanidade”, escreveu Amodei a amigos em um e-mail de 2008 a que o Times teve acesso.
Em e-mail ao Times, Yudkowsky disse que Amodei “não pede nem segue meus conselhos atualmente, e não me lembro de nenhuma ocasião em que tenha feito isso”.
Por volta da mesma época, Amodei também começou a se corresponder com Elon Musk, que havia fundado a empresa de foguetes SpaceX. Amodei disse a amigos que admirava o magnata da tecnologia e que havia considerado trabalhar para ele, mas nunca o fez na startup espacial, segundo duas pessoas com conhecimento das comunicações entre os dois.
Em 2008, Amodei descobriu o GiveWell lendo o blog do economista Tyler Cowen, que publicou que a organização oferecia “dicas interessantes” sobre instituições de caridade. Amodei se tornou ativo nas listas de e-mail e nos fóruns do GiveWell, onde discutia uma abordagem de altruísmo eficaz para a filantropia e a ciência.
Em 2011, iniciou o pós-doutorado em Stanford, estudando células cancerígenas. Na vida pessoal, experimentou suplementos antienvelhecimento, manteve um regime rigoroso de natação e passou a se interessar pela redução calórica, que em alguns estudos se mostrou capaz de prolongar a vida de camundongos de laboratório, disseram amigos.
“Ele falava com frequência sobre a finitude do tempo e sobre como aquele era o único recurso não renovável”, disse Avery, acrescentando que Amodei era “implacável com seu tempo”.
Isso foi agravado por um diagnóstico de câncer de testículo em 2014, segundo duas pessoas que o conhecem. Amodei passou por quimioterapia e se recuperou completamente.
A essa altura, havia se aproximado de Holden Karnofsky, um dos fundadores do GiveWell. A organização começara a trabalhar com a Good Ventures, a filantropia do cofundador do Facebook Dustin Moskovitz e de sua mulher, Cari Tuna, que financiam causas do altruísmo eficaz. Amodei passou a assessorar a parceria, chamada GiveWell Labs, em financiamentos na área de ciências da vida.
Na época, Karnofsky namorava Daniela Amodei. O casal se mudou para uma casa compartilhada em São Francisco, que acabou incluindo Dario Amodei; Jared Kaplan, físico teórico; e Christopher Olah, que havia abandonado a faculdade e fora tutorado em matemática por Amodei.
Kaplan e Olah viriam a cofundar a Anthropic com Dario e Daniela Amodei. Em 2025, Karnofsky também passou a trabalhar na empresa.
Um renascimento da IA
No início da década de 2010, avanços no aprendizado de máquina — algoritmos de computador que aprendem a executar tarefas por conta própria analisando dados — levaram a novos investimentos das empresas de tecnologia em IA.
Uma das que entraram no jogo foi a gigante chinesa da internet Baidu, que abriu um laboratório em Sunnyvale, na Califórnia, e contratou um pioneiro da IA, Andrew Ng, vindo do Google, como cientista-chefe. Dario Amodei entrou na Baidu em 2014 e rapidamente ficou conhecido por passar noites no escritório e por expor suas opiniões.
“O Dario discutia de forma muito agressiva em praticamente toda oportunidade”, disse Gregory Diamos, pesquisador que trabalhou com ele na Baidu.
Mesmo nos primórdios desse período da IA, Amodei foi impactado pelos perigos potenciais da tecnologia. Disse a colegas em 2015 que a inteligência artificial poderia em breve igualar ou superar as capacidades do cérebro humano e que, portanto, as empresas que a desenvolviam não deveriam se esquivar da possibilidade de que algo desse errado, lembrou Diamos.
Naquele mesmo ano, Amodei ingressou em um laboratório de IA do Google chamado Google Brain, onde se concentrou em segurança da inteligência artificial. Ele e outros cinco pesquisadores — incluindo seu colega de casa, Olah — publicaram em 2016 o artigo “Concrete Problems in A.I. Safety” (problemas concretos na segurança da IA), que expunha como a tecnologia poderia se comportar mal se fosse desenvolvida de forma equivocada.
Em 2016, Amodei entrou em uma nova empreitada de IA: uma organização sem fins lucrativos chamada OpenAI. Ele liderou a equipe de segurança e outra que estudava as “leis de escala”, a ideia de que modelos de IA se tornam mais capazes à medida que são treinados com mais dados.
(O Times processou a OpenAI e a Microsoft alegando violação de direitos autorais de conteúdo jornalístico relacionado a sistemas de IA. As duas empresas negaram as acusações.)
Veja também
A IA está descobrindo milhares de falhas na internet. O que virá depois do caos?
Quais são os riscos ‘catastróficos’ da IA apontados pela empresa que pode fazer maior IPO do mundo
Anthropic prepara IPO trilionário e coloca em xeque a rentabilidade da IA
Construindo a OpenAI
Na OpenAI, as convicções de Amodei sobre a maneira correta de desenvolver IA se enrijeceram, disseram sete pessoas que trabalharam com ele. Ele se tornou mais vocal sobre o poder e os danos potenciais da tecnologia e agiu para impregnar o desenvolvimento dela com seu pensamento.
Três dias depois de Donald Trump ser eleito presidente, em novembro de 2016, por exemplo, Amodei escreveu no aplicativo de mensagens interno da OpenAI que estava preocupado com o fato de os Estados Unidos estarem deslizando para o autoritarismo. Disse que não se sentia “confortável conduzindo pesquisa sobre tecnologias militarmente poderosas em um país autoritário”, segundo mensagens a que o Times teve acesso.
Amodei também escreveu que o investidor Peter Thiel, que havia doado US$ 1,25 milhão à campanha de Trump, era “moralmente digno de condenação” por aquele apoio, e que a OpenAI não deveria mais aceitar seu dinheiro, segundo as mensagens internas. (A Founders Fund, firma de venture capital criada por Thiel, viria a investir na Anthropic.)
Amodei também ajudou a articular um acordo entre a OpenAI e financiadores alinhados ao seu pensamento. Em 2017, conectou a OpenAI à filantropia dirigida por Karnofsky, da qual Amodei era consultor técnico, segundo três pessoas a par do arranjo.
A organização de Karnofsky, hoje conhecida como Coefficient Giving, doou US$ 30 milhões à OpenAI. Karnofsky também passou a integrar o conselho da empresa.
Mais tarde naquele ano, Karnofsky e Daniela Amodei se casaram. Na festa, os convidados ganharam bichos de pelúcia e eram premiados por armar “os encontros mais românticos entre os diferentes personagens”, segundo o site de casamento do casal.
Dario Amodei usou uma cabeça de panda no casamento, cujo código de vestimenta para a recepção era “formal bobo”. Em uma foto vista pelo Times, ele aparece fantasiado ao lado de Olah, que usava uma cabeça de girafa, e de Cami Clark, com quem namorava. Os dois se casaram em 2022.
Em 2018, Daniela Amodei entrou para a OpenAI, tornando-se mais tarde vice-presidente de segurança e políticas. Alguns funcionários logo levantaram questionamentos sobre a crescente influência dos irmãos.
Naquele dezembro, Joshua Achiam, pesquisador da OpenAI, disse a Sam Altman, o CEO, que seria imprudente nomear Dario Amodei diretor de ética da empresa, segundo três pessoas com conhecimento das discussões. Achiam citou o poder crescente dos Amodei e afirmou que a supervisão da IA deveria ser compartilhada por pessoas com perspectivas diferentes.
Quando Achiam insistiu que um especialista externo fosse nomeado diretor de ética, Dario Amodei o confrontou. Amodei elevou a voz e disse que ninguém era mais adequado para o cargo do que ele, afirmaram essas pessoas.
Em 2018, Dario e Daniela Amodei assumiram o comando de um projeto da empresa chamado GPT, sigla para generative pretrained transformer. Eles exploraram uma técnica de segurança que buscava ensinar a IA a executar tarefas a partir de instruções humanas, disseram seis pessoas que trabalhavam na companhia.
Essa abordagem — empurrar a IA para mais perto de perigos potenciais e então testá-la com técnicas de segurança — viria a definir a carreira de Dario Amodei.
Greg Brockman, presidente da OpenAI, tentou ajudar no GPT. Mas Dario e Daniela Amodei resistiram, segundo duas pessoas com conhecimento da empresa. Dario Amodei disse repetidamente a Altman que, se ele não mantivesse Brockman afastado do trabalho, iria embora, afirmaram essas pessoas.
Para Altman, os ultimatos foram longe demais, segundo uma pessoa a par de seu pensamento. Ele recusou as exigências dos Amodei.
Em dezembro de 2020, Dario Amodei, Daniela Amodei e outros colegas deixaram a OpenAI. Quatro semanas depois, fundaram a Anthropic.
Este artigo foi publicado originalmente no The New York Times.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.