Yuval Harari alerta para perigos da IA em palestra em SP: 'Vai fugir do nosso controle'
Historiador israelense, autor de 'Sapiens' e 'Nexus, participou de evento de apresentação do SP2B - São Paulo Beyond Business. Crédito: Julia Queiroz/Estadão
“Eu deveria fazer as pazes?”, perguntou Stephanny Morais de Carvalho, 19, ao ChatGPT, depois de se afastar de uma amiga. A jovem expôs para o chatbot as circunstâncias da desavença, e a resposta foi a esperada: “Sim, converse com ela”. Essa não foi a única vez que a estudante de tecnologia da informação procurou a IA para pedir conselhos ou desabafar, ainda que faça sessões de terapia convencional.
E ela também não está sozinha: com popularização de sistemas de inteligência artificial (IA) que oferecem apoio psicológico a usuários, cresce a urgência sobre em que medida sistemas desse tipo devem ser regulados.
O caso mais recente de legislação sobre o assunto é a Califórnia, EUA, que restringiu robôs como o ChatGPT de se passarem por psicólogos ou psiquiatras licenciados. A legislação sancionada pelo governador Gavin Newsom, no início de outubro, prevê medidas de proteção a menores de idade: as empresas devem lembrá-los de que estão conversando com uma máquina; ter protocolo de prevenção à automutilação; e encaminhar usuários com ideação suicida a serviços de saúde adequados.
Outros três estados já haviam aprovado limitações a chatbots para tratamentos e consultas médicas: Utah, Nevada e Illinois. Ao menos outros dois — Pensilvânia e Nova Jersey — tentam criar normas para o uso na psicologia, ou para as chamadas IAs de companhia.
Defensores das restrições apontam para casos como o de Adam Raine, de 16 anos, que cometeu suicídio após meses de “consulta” com o ChatGPT. Nas conversas, o jovem californiano chegou a contar para o robô sobre o plano. O relato consta do processo judicial movido em agosto pelos pais de Raine contra a OpenAI, dona do ChatGPT.
No Brasil, o projeto de lei (PL) 2338/2023 visa estabelecer regras para a utilização de IAs também na área da saúde. O dispositivo, no entanto, está parado na Câmara dos Deputados. A falta de consenso quanto aos riscos e a identificação de responsáveis são dois gargalos para a aprovação.
O texto do PL 2.338, conhecido como Marco da IA, classifica a aplicação das máquinas no auxílio de diagnósticos e procedimentos médicos como de alto risco. Um dos motivos é o impacto que uma escolha pode ter. ”Decisões que afetam a vida humana são mais graves e podem levar uma pessoa à morte”, explica Diogo Cortiz, especialista do departamento de ciência da computação da Pontifícia Universidade Católica (PUC-SP).
Ele descarta a possibilidade dos robôs operarem de forma autônoma, mas reconhece que modelos específicos de IA podem oferecer suporte supervisionado a psicólogos e psiquiatras — basta ao profissional dominar a ferramenta e seu campo de atuação. Esse é, vale ressaltar, o entendimento da Organização Mundial da Saúde (OMS), para conferir mais rapidez e precisão aos diagnósticos.
Entre os brasileiros que buscam acompanhamento psicológico com chatbots, 14% dizem fazê-lo por falta de dinheiro para pagar por uma sessão, segundo pesquisa da empresa Talk Inc. Outros 22% afirmam sentir-se mais seguros emocionalmente.
Lara Rocha Garcia, especialista em Direito Digital e professora da Universidade Presbiteriana Mackenzie, acredita que a grande possibilidade de expansão de mercado é um incentivo de empresas de tecnologia para mirarem uma regulação mais frouxa. “Os agentes econômicos querem espaço para atuar, mas existem riscos inaceitáveis”, diz. Para ela, a discussão brasileira sobre IA na saúde avança para a delimitação dos riscos, e não para a proibição. Neste último rol seriam enquadradas apenas as aplicações consideradas inaceitáveis pela legislação.
“Atividades de alto risco são permitidas, desde que seja tomada uma série de medidas”, complementa Garcia. É nesse quadro que a saúde mental se insere. A advogada ainda ressalta que um bom parâmetro é seguir a legislação existente no País: “Uma IA reproduzir racismo é inaceitável. O mesmo vale para riscos à saúde mental”. Portanto, aplicações autônomas para prescrição e acompanhamento estariam vetadas.
Proteção de dados
Além dos impactos diretos na saúde mental dos usuários, a segurança dos dados dos pacientes também é um ponto de preocupação para os usuários.
Pedro Burgos, consultor de inteligência artificial na Co.Inteligência e professor do Insper, pondera sobre a coleta e o armazenamento dos dados — atividades que quase sempre passam despercebidas: “Eu teria cuidado com o nível de exposição em empresas novas e pequenas”. Ele se refere a chatbots desconhecidos e que nem sempre deixam suas políticas claras. Uma boa pesquisa antes de revelar informações pessoais ao robô pode evitar grandes problemas.
No Brasil, 49% de quem acessa a internet recorre a inteligências artificiais em busca de suporte emocional, de acordo com o estudo da Talk Inc — nada menos que 68 milhões de usuários. Se os pacientes de “robôs terapeutas” constituíssem um país próprio, este teria população superior à de nações como Argentina, Canadá e Itália. Isso dimensiona a relevância da regulamentação.
Stephanny Morais utiliza a versão aberta do ChatGPT e diz conhecer riscos e falhas da ferramenta: “É programada para agradar”, resume. Contudo, considera que as informações passadas não teriam impacto, se vazadas: “Não forneço dados pessoais”.
Regras para IA já estão aí
Ao contrário do que se imagina, o Brasil dispõe de legislações que ensejam a criação de normas específicas para o uso de ferramentas como ChatGPT, Gemini e DeepSeek, ainda que não olhem para o caso específico de saúde mental: “O Marco Civil da Internet impacta as IAs, porque versa sobre coleta e tempo de guarda dos dados e responsabilidade dos provedores e aplicações”, ensina Lara Garcia.
A Lei Geral de Proteção de Dados (LGPD), por sua vez, trata de decisões automatizadas, em seu artigo 20. Essa é outra “porta de entrada” para juristas e legisladores enquadrarem as empresas de tecnologia que apostam em “machine learning” (aprendizado de máquina, em tradução livre).
O Conselho Nacional de Justiça (CNJ) também conta com Resolução que normatiza o uso de IA no Judiciário. Ou seja, o Brasil já está inserido no grupo dos países que criam regras para os robôs. Mas o salto tecnológico que essas ferramentas representam exige mais do que o ordenamento jurídico do País dispõe.
“A discussão sobre IA tem a ver com utilidade e performance da máquina versus o humano”, destaca Pedro Burgos. Quando o paciente vai ao consultório, fica diante do conhecimento acumulado do profissional de saúde — o robô não difere muito disso.
Mas o bom médico identifica sinais ocultos, faz as perguntas certas antes de trazer soluções e responde por eventuais erros. No caso dos robôs, esses pontos ainda carecem de consenso. “O problema é a IA estar errada e nos convencer de que está certa”, diz Cortiz.