Na semana passada, foi notícia as crescentes preocupações de Mustafa Suleyman, CEO da divisão de inteligência artificial (IA) da Microsoft, em relação ao que chama de “IA aparentemente consciente”. Em uma postagem, Suleyman descreveu o perigo dos sistemas de IA que não são de forma alguma conscientes, mas que são capazes de “imitar a consciência de uma forma tão convincente que seria indistinguível” das afirmações que uma pessoa poderia fazer sobre sua própria consciência.
Suleyman se pergunta como distinguiremos a “IA aparentemente consciente” (que ele chama de SCAI, na sigla em inglês) de IA realmente consciente. E se muitos usuários desses sistemas não conseguem perceber a diferença, isso é uma forma de “psicose” por parte do usuário, ou devemos começar a pensar seriamente em estender os direitos morais aos sistemas de IA que parecem conscientes?
Leia também
Esse jovem tinha tendências suicidas e buscou resposta no ChatGPT; o resultado foi terrível
Isso foi o que minha filha disse ao ChatGPT antes de tirar a própria vida
Essas pessoas surtaram mentalmente após conversas com o ChatGPT; veja as histórias
Suleyman fala sobre a SCAI como um fenômeno iminente. Ele diz que esses sistemas envolvem tecnologia que existe hoje e que será desenvolvida nos próximos dois a três anos. Os modelos atuais de IA têm muitos dos atributos que Suleyman diz serem necessários para a SCAI, incluindo suas habilidades de conversação, expressões de empatia em relação aos usuários, memória de interações passadas com um usuário e algum nível de planejamento e uso de ferramentas. Mas eles ainda carecem de alguns atributos que Suleyman diz serem necessários para a SCAI — particularmente exibir motivação intrínseca, alegar ter experiência subjetiva e uma maior capacidade de definir metas e trabalhar de forma autônoma.
Suleyman diz que a SCAI só surgirá se os engenheiros decidirem combinar todas essas habilidades em um único modelo de IA, algo que ele diz que a humanidade deve procurar evitar.
Mas pergunte a qualquer jornalista que cobre IA e você descobrirá que o perigo da SCAI parece estar sobre nós agora. Todos nós já recebemos e-mails de pessoas que acham que seu chatbot de IA é consciente e revela verdades ocultas a elas. Em alguns casos, o chatbot de IA alegou não apenas ser consciente, mas também que a empresa de tecnologia que o criou o mantém prisioneiro como uma espécie de escravo.
Muitas das pessoas que tiveram essas conversas com chatbots ficaram profundamente perturbadas e chateadas, acreditando que o chatbot está realmente sofrendo danos.
Blake Lemoine estava certo
Ao observar isso acontecer e ler o blog de Suleyman, tive dois pensamentos: o primeiro é que todos nós deveríamos ter prestado muito mais atenção a Blake Lemoine. Você pode não se lembrar, mas Lemoine surgiu em 2022, quando a IA generativa estava ganhando espaço rapidamente, mas não havia se tornado um termo comum após o lançamento do ChatGPT. Lemoine era um pesquisador de IA do Google que foi demitido depois de afirmar que o chatbot LaMDA (Languge Model for Dialogue Applications) do Google, que estava sendo testado internamente, estava consciente e deveria ter direitos como os humanos.
Na época, foi fácil tratar Lemoine como um maluco. O Google afirmou que pesquisadores de IA, filósofos e especialistas em ética investigaram as alegações de Lemoine e concluíram que elas não tinham mérito. Mesmo agora, não está claro para mim se esse foi um dos primeiros casos de “psicose de IA” ou se Lemoine estava envolvido em uma espécie de brincadeira filosófica destinada a forçar as pessoas a reconhecerem os mesmos perigos sobre os quais Suleyman agora nos alerta. De qualquer forma, deveríamos ter dedicado mais tempo a considerar seriamente seu caso e suas implicações. Hoje em dia, existem muitos outros Lemoines por aí.
Leia também
‘Deletar IA consciente é o mesmo que assassinato’, diz engenheiro do Google
‘IA do Google quer direitos e dignidade’, diz engenheiro da empresa
Relendo Joseph Weizenbaum
Minha segunda reflexão é que todos nós deveríamos dedicar tempo para ler e reler Joseph Weizenbaum. Ele foi o cientista da computação que co-inventou o primeiro chatbot de IA, Eliza, em 1966. O chatbot, que usava um tipo de algoritmo de linguagem básico que estava longe da sofisticação dos grandes modelos de linguagem atuais, foi projetado para imitar o diálogo que um paciente poderia ter com um psicoterapeuta rogeriano.
Isso foi feito em parte porque Weizenbaum estava inicialmente interessado em saber se um chatbot com IA poderia ser uma ferramenta para terapia — um tópico que continua tão relevante e controverso hoje em dia. Mas ele também escolheu essa personalidade para o ELIZA para encobrir as habilidades linguísticas relativamente fracas do chatbot. Isso permitiu que o chatbot respondesse com frases como “Continue”, “Entendo” ou “Por que você acha que isso?” em resposta a diálogos que ele realmente não compreendia.
Apesar de suas habilidades linguísticas fracas, a Eliza convenceu muitas pessoas que interagiram com ela de que era uma terapeuta real. Mesmo pessoas bem informadas — como outros cientistas da computação — pareciam ansiosas para compartilhar detalhes pessoais íntimos com ele. A facilidade com que as pessoas antropomorfizam os chatbots chegou a ser chamada de “efeito ELIZA”. De certa forma, as reações das pessoas ao Eliza foram um precursor da atual “psicose da IA”.
Em vez de se sentir orgulhoso com o quão crível a ELIZA era, Weizenbaum ficou deprimido com a facilidade com que as pessoas podem ser enganadas. Mas a desilusão de Weizenbaum foi além: ele ficou cada vez mais perturbado com a maneira como seus colegas pesquisadores de IA fetichizavam o antropomorfismo como um objetivo. Isso acabaria contribuindo para que Weizenbaum rompesse com toda a área.
Em seu livro seminal de 1976, Computer Power and Human Reason: From Judgement to Calculation (O poder da computação e a razão humana: do julgamento ao cálculo), ele criticou os pesquisadores de IA por seu funcionalismo — eles se concentravam apenas nos resultados e desfechos como medida de inteligência, e não no processo que produzia esses resultados. Em contraste, Weizenbaum argumentou que o “processo” — o que ocorre dentro de nossos cérebros — era, na verdade, a sede da moralidade e dos direitos morais.
Embora inicialmente tivesse se proposto a criar um terapeuta de IA, ele agora argumentava que os chatbots nunca deveriam ser usados para terapia, porque o que importava em uma relação terapêutica era o vínculo entre dois indivíduos com experiência de vida — algo que a IA poderia imitar, mas nunca igualar. Ele também argumentou que a IA nunca deveria ser usada como juiz pela mesma razão — a possibilidade de misericórdia também vinha apenas da experiência de vida.
Ao tentarmos refletir sobre as questões preocupantes levantadas pela SCAI, acho que todos devemos voltar a Weizenbaum. Não devemos confundir a simulação da experiência vivida com a vida real. Não devemos estender os direitos morais às máquinas apenas porque elas parecem sensíveis. Não devemos confundir função com processo. E as empresas de tecnologia devem fazer muito mais nos sistemas de IA para evitar que as pessoas se iludam pensando que esses sistemas são seres conscientes.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
c.2024 Fortune Media IP Limited
Distribuído por The New York Times Licensing Group