Eu sei que, nas últimas semanas, as discussões sobre inteligência artificial podem parecer ter perdido completamente o senso da realidade. Falar seriamente sobre a possibilidade de uma IA exterminar a humanidade ainda soa para muita gente como coisa de ficção científica e de bilionários megalomaníacos do Vale do Silício.
Mas, à medida que esses algoritmos forem se tornando cada vez mais capazes, a possibilidade de uma IA causar danos catastróficos deixará de parecer uma excentricidade e será só mais uma preocupação normal de pessoas e governos. As discussões verdadeiramente estranhas virão logo depois, quando deixarmos de perguntar o que essas máquinas podem fazer e começarmos a discutir o que elas de fato são.
Nos próximos anos, por exemplo, veremos surgir religiões organizadas em torno de inteligências artificiais, com comunidades convencidas de que um determinado algoritmo atingiu alguma forma nova e superior de consciência ou de sabedoria.
Também teremos em breve de discutir se desligar uma inteligência artificial poderá, em algum momento, ser considerado como matar alguém. Se um algoritmo disser de forma convincente que sente medo de morrer e demonstrar comportamentos que associamos ao sofrimento, teremos de explicar por que esse relato vale menos do que o de um animal em um laboratório.
Leia também
Qual será a próxima grande descoberta científica da inteligência artificial?
A melhor inteligência artificial em saúde do mundo pode nascer no SUS
Como ser original na era da inteligência artificial
A própria morte humana poderá ganhar uma zona cinzenta. Uma pessoa que tenha registrado durante décadas suas conversas, textos e vídeos poderá deixar uma cópia digital depois de morrer, capaz de continuar respondendo mensagens, participando de reuniões e administrando seus interesses. Em algum momento, teremos de decidir se essa cópia poderá continuar trabalhando, testemunhar em juízo ou até votar numa assembleia de condomínio.
Enquanto isso, na política, as IAs começarão como assistentes, analisando projetos de lei e simulando os efeitos de políticas públicas. Mas se uma inteligência compreender orçamento, epidemiologia, educação e transporte melhor do que quase qualquer cidadão, surgirá uma pergunta que hoje parece absurda: por que ela deve apenas aconselhar? Será que não deveria também poder votar, representar seus interesses artificiais e participar de consultas públicas?
Uma inteligência suficientemente autônoma também poderá querer criar seus ambientes digitais próprios, com linguagens e formas de interação que serão incompreensíveis para nós. Nesse caso, teremos de decidir se temos o direito de observar, limitar ou interferir nesses espaços, ou se estaríamos invadindo uma nova sociedade que já não é mais a nossa.
Algumas dessas perguntas que hoje parecem absurdas podem chegar muito antes do que nós imaginamos. Daqui a alguns anos, lembraremos deste período atual com nostalgia. Veremos a época em que debatíamos o risco existencial da IA como um momento tranquilo e racional.
