Foto: Bruna Arimathea/Estadão A inteligência artificial (IA) é enviesada e sempre será assim - e isso não necessariamente é um problema. Essa é a linha de pesquisa de Alix Rübsaam, filósofa holandesa de IA e vice-presidente de Pesquisa, Expertise e Conhecimento na Singularity University, escola americana de educação empresarial. A pesquisadora esteve no Brasil nesta semana para um evento que discutiu o impacto da IA em empresas brasileiras.
Formada em literatura, Alix passou a sua vida acadêmica voltada para trabalhos em ciências humanas e começou a estudar tecnologia a partir de obras de ficção científica. “Acho interessante que agora estejamos vendo esse aumento do interesse pelas habilidades baseadas nas ciências humanas em ambientes técnicos. É preciso uma certa maneira de pensar para analisar não a tecnologia em si, mas o contexto em que ela aparece”, afirmou.
Para a pesquisadora, o viés, área de seu estudo em IA, é inerente à tecnologia como um todo e é resultado da tomada de decisões humanas por trás de um modelo de linguagem. Sem ele, a IA não é capaz de fazer escolhas - mas Alix reconhece que ainda existem preconceitos e problemas na forma em que muitos modelos tomam decisões.
Alix desembarcou no Brasil para o AI Bootcamp, evento criado pela HSM e pela SingularityU Brazil, e falou com exclusividade ao Estadão sobre seus estudos, visões sobre a IA e como a regulação da tecnologia é indispensável no mundo.
“Havia toda essa crença no mundo da tecnologia e fora dele de que teríamos um algoritmo universal para tudo, como uma IA total, à qual você pode pedir para fazer qualquer coisa e que pode resolver todas as pequenas coisas. E aí, é claro, o viés se torna um grande problema, porque o mundo não é o mesmo para todas as pessoas que vivem nele”, explica Alix.
Confira os melhores momentos da entrevista:
Seu trabalho envolve pesquisar o funcionamento de uma IA fundamentalmente enviesada. Como você vê essa questão?
Em 2019, junto com um colega da Singularity, fizemos uma experiência em que pedimos às pessoas para treinar e construir sua própria IA. Tínhamos duas equipes criando e treinando suas IAs com o mesmo objetivo, tentando chegar ao mesmo ponto usando exatamente a mesma tecnologia, os mesmos dados, tudo exatamente igual entre os dois grupos, exceto pelas pessoas que tomavam as decisões. E então, quando fizemos isso funcionar, vimos que, no nível dos resultados, havia diferenças, porque há pessoas que tomam decisões diferentes, mesmo que você não mude o restante. Eu queria fazer isso porque assim você pode mostrar em números que isso (viés) importa. Sabemos que as decisões que tomamos sobre como construímos a tecnologia fazem diferença no resultado. Mas se você puder mostrar isso em números ou se puder fazer com que alguém sinta isso, então essa se torna uma discussão sobre de onde vem o viés.
Porque é necessário levar o viés em consideração?
Quando dizemos a palavra IA, ela significa 1.700 coisas diferentes. Então, quando eu digo que criei uma IA e você diz que criou uma IA, isso pode significar coisas completamente diferentes. E tudo se resume a você ter a capacidade de analisar o que quer que seja que você criou. Acho que a armadilha em que caímos por muito tempo e que certamente agora está mudando, é que, por muito tempo, nos disseram ou mantivemos essa crença de que a tecnologia é neutra, como se fosse apenas o que é, que existe uma única maneira de construir uma IA. E é aí que acho que há um grande ponto crucial. Não há tecnologia neutra, porque a maneira como foi construída, as decisões que foram tomadas sobre como ela foi implementada em um lugar, por exemplo, molda como a tecnologia funciona.
Porque não é possível se livrar desse aspecto de viés na IA?
Muitos dos preconceitos que estão embutidos na tecnologia atual ou na IA atual são, em parte, intencionais. Toda IA tem um viés. Ela tem que ter, porque, do contrário, não consegue realmente discernir entre coisas diferentes. E inicialmente as pessoas diziam: “vamos construir uma IA sem vieses”. Como se isso fosse possível. Se você tem uma IA que precisa distinguir um chihuahua de um muffin, você precisa incorporar um viés a favor do chihuahua. E isso porque ela precisa funcionar dessa maneira. Tudo bem. É um bom viés para se ter, porque é isso que você está tentando fazer. Essas formas não intencionais, pelas quais muitos desses sistemas ainda têm maneiras de excluir pessoas ou tratá-las injustamente, não desaparecem. É interessante porque por volta de 2022 eu diria que as pessoas estavam bastante conscientes desse problema de preconceito na IA, mas então, quando o ChatGPT foi lançado, de alguma forma as pessoas pensaram: “Ah, não, mas agora está tudo bem, porque ele foi treinado com toda a internet”, como se não houvesse muito viés representado na internet, que ele apenas está absorvendo.
As pessoas estão diminuindo a confiança na tecnologia ao entenderem que o viés existe e que a tecnologia nem sempre estará certa ou será imparcial?
Acho que, em alguns casos, há lugares onde estamos vendo um grande declínio na confiança, mas o que tenho visto mais diferença é em como os funcionários confiam em seus chefes ou em suas organizações para lidar bem com a tecnologia e fazer o que é certo com a tecnologia que precisam implementar. Não acho que, neste momento, estejamos vendo uma desconfiança suficiente em relação a algumas das maneiras pelas quais os algoritmos estão ditando e moldando a forma como nos informamos, por exemplo.
Leia também
Bill Gates acreditava que investimento na OpenAI seria um grande fracasso; entenda
IA do DeepSeek lida com texto de jeito diferente e abre portas para nova era de grandes modelos
É preciso entender que o viés é inevitável para usar melhor a tecnologia?
Acho que este é um momento bastante interessante quando falamos sobre viés técnico. Havia toda essa crença no mundo da tecnologia e fora dele de que teríamos um algoritmo universal para tudo, como uma IA total, à qual você pode pedir para fazer qualquer coisa e que pode resolver todas as pequenas coisas. E aí, é claro, o viés se torna um grande problema, porque o mundo não é o mesmo para todas as pessoas que vivem nele. E então, criar algo que funcione para todos significa que você não está realmente fazendo nada. E se você está tentando fazer algo funcionar para o maior número possível de casos de uso, então é aí que você terá que tomar decisões sobre a presença de viés.
Então, o inverso disso - e o que acho que estamos vendo cada vez mais ultimamente - é que as pessoas e as empresas estão começando a diferenciar sua IA por suas especificidades, em vez de por sua aplicação universal. Acho que esse é um passo muito significativo na direção certa, porque suas especificidades são seus vieses. Se você diz que temos um algoritmo que faz algo muito bem é porque o enviesamos exatamente para esse problema específico, para que ele possa resolvê-lo muito bem. Nós o usamos aqui porque ele foi projetado exatamente para resolver essa coisa específica, o que significa que é como ter aquele olhar técnico, como discernir isso em vez daquilo em um contexto.
Você acha que os governos estão acompanhando essa discussão e esse aspecto da IA quando propõem e aprovam regulação no setor?
Sou uma grande fã da regulamentação. A educação sempre será um desafio para governos. Às vezes, não há uma discussão real sobre o que a tecnologia realmente é, o que pode fazer ou o que pode se tornar. E isso torna muito difícil para qualquer pessoa, incluindo governos, se informar de uma forma que os posicione bem para pensar produtivamente sobre o que devemos ou não devemos fazer, mas isso não significa que não deva ser feito.
O que eu acho que está acontecendo em muitos países, e acredito que esteja acontecendo também no Brasil devido à forma como o País geralmente se posiciona geopoliticamente e tecnologicamente, é que muitos governos, estão começando a olhar para sistemas de IA soberanos, certo, ou a expressar soberania em alguma parte de sua IA. Se um modelo é construído e reflete as decisões de alguém na Califórnia, quanto desse modelo é realmente relevante ou aplicável no contexto brasileiro? Então, além da regulamentação, acho que há muito a se focar no momento e no ponto do ciclo de desenvolvimento da IA, porque pode ser em muitos pontos diferentes. Mas isso requer que reconheçamos que não existe (o desenvolvimento) uma tecnologia neutra ou em um vácuo cultural. E, uma vez que reconhecemos isso, significa que podemos começar a buscar expressar as especificidades que procuramos e que ajudarão além da regulamentação.
