o Por Priscila Reis
Desde a adoção em massa da inteligência artificial (IA) no final de 2022, motivada pelo lançamento do ChatGPT, regular o uso e desenvolvimento da tecnologia passou a ser prioridade para a comunidade global, ainda que as discussões mais relevantes sobre o tema tenham sido iniciadas alguns anos antes, a exemplo do primeiro esboço do AI Act da União Europeia (EU), divulgado em meados de 2021.
O Japão, sempre à frente do tempo nos quesitos desenvolvimento e tecnologia, definiu que não há que se falar em direitos de propriedade intelectual sobre a base de dados usada para treinar a IA, tornando o país ambiente fértil e desejável para empresas dedicadas ao desenvolvimento (e treinamento, é claro) de sistemas de IA generativa, a bola da vez.
Num caminho diferente, a China, que sempre esteve na disputa para assumir o posto de pioneiro quando o assunto é "tecnologia', tem encontrado dificuldade em correr para implementar sistemas de IA generativa no país, ao mesmo tempo em que tenta garantir que todas as regras de censura na internet sejam seguidas, a fim de refletir os "valores socialistas", proibindo conteúdo que enfraqueça o poder do Estado e do Partido Comunista Chinês (PCC). É o que se extrai do projeto legislativo sobre o tema no país, apresentado pela principal autoridade reguladora de tecnologia da China, a "Cyberspace Administration of China" ou "CAC".
Por ora, o governo chinês segue proibindo os avanços tecnológicos na área, quando não estão alinhados com os seus objetivos. Foi assim com a OpenAI, motivo pelo qual o ChatGPT segue proibido no país, e tem acontecido o mesmo com empresas locais que estão tentando se adaptar, a exemplo do ChatYuan. Até o Baidu, uma espécie de "Google chinês", que lançou o "Ernie", sua versão de chatbot baseado em IA generativa, tem tido dificuldade de consolidar essa aplicação no país, tamanhas as restrições, aliado às limitações da própria tecnologia, que pode entregar respostas imprevisíveis e/ou inverídicas. É o famoso impasse entre controle de informação (e regulação) versus liderança no campo da inteligência artificial.
Na União Europeia, o AI Act vem ganhando novos contornos, e está cada vez mais próximo de ser implementado, embora ainda não esteja pronta a sua versão final. Esse projeto de lei pioneiro no setor, cuja abordagem é baseada no nível de risco que determinado sistema impõe para a sociedade, tem como principal objetivo, estabelecer diretrizes, princípios e mecanismos eficazes de proteção, em se tratando de uma tecnologia que evolui a passos largos (e com muito mais rapidez que os processos legislativos), sempre buscando estimular o uso e desenvolvimento de sistemas de IA responsáveis, sob o ponto de vista ético. A proposta busca resguardar direitos garantidos como segurança, privacidade, não-discriminação, transparência, supervisão humana, além de bem-estar social e ambiental.
Buscando atualizar o projeto de lei para a realidade atual da tecnologia (leia-se, considerando os avanços dos últimos 8 meses), agora o AI Act da UE contempla regras específicas para uso e desenvolvimento de sistemas de IA generativa, que passam a ter requisitos de transparência, a exemplo da necessidade de indicar que um vídeo foi gerado com essa tecnologia, além de obrigações relacionadas a conteúdos ilegais. Também traz novas regras, com base no nível de risco que a IA pode criar. Assim, estariam proibidos sistemas de IA com um nível de risco inaceitável para a segurança das pessoas, como aqueles que realizam análise de pontuação social (situação corriqueira na China) ou outros usos discriminatórios, incluindo sistemas de identificação biométrica remotos em tempo real em espaços públicos, sistemas de reconhecimento emocional em várias áreas, e a coleta não direcionada de imagens faciais para criar bancos de dados de reconhecimento facial, devido a preocupações com direitos humanos e privacidade, dentre outros. Por outro lado, seriam considerados sistemas de alto risco aqueles usados para influenciar o voto dos eleitores.
Embora tenha havido atualizações importantes, considerando o contexto atual da tecnologia, o AI Act ainda não foi aprovado, e assim como ocorre na maioria dos processos legislativos em países democráticos, o rito, até a aprovação, costuma ser longo. Dessa forma, é muito provável que sejam incorporadas novas atualizações, à medida que novidades disruptivas como o ChatGPT se tornem palpáveis, numa espécie de "Jogo da Vida", onde você anda algumas casas para frente, e, às vezes, tem que dar alguns passos para trás, até conseguir alcançar a linha de chegada, que aqui seria a entrada em vigor da lei.
De qualquer sorte, a UE segue firme, caminhando rumo à criação de uma regulamentação que busca garantir o uso e desenvolvimento de sistemas de IA de forma segura e responsável. Outros países também têm demonstrado preocupação sobre o tema, inclusive o Brasil, que tenta, ainda que de forma acanhada, tirar do papel o novo Projeto de Lei 2338/2023, seguindo os passos da União Europeia, e misturando pontos trazidos pela nossa lei de proteção de dados, a exemplo dos valores aplicados à título de penalidade e da necessidade de criação de uma autoridade nacional específica para tratar de IA.
Os Estados Unidos publicaram o "Blueprint for an AI Bill of Rights", documento que traz como base 5 princípios a serem observados quando do desenvolvimento, uso e implantação de sistemas de IA, a saber: i) segurança e efetividade dos sistemas; ii) proteção contra discriminação algorítmica; iii) privacidade e proteção de dados; iv) notificação e explicação; v) consideração e alternativas para humanos. Um ponto importante trazido pelo documento americano é a necessidade dos sistemas passarem por testes pré-implantação, identificação e mitigação de riscos, além do monitoramento contínuo para demonstrar o nível de segurança e eficácia dos mesmos.
A iniciativa é boa! No entanto, o documento serve apenas como diretriz, e ainda não existe projeto de lei concreto tramitando no país. Nos EUA, esse tipo de lei costuma ser criado, individualmente, pelos estados, ou são regras oriundas de órgãos específicos. É um modelo legislativo completamente diferente do Brasil, além de seguir o sistema do common law, ao invés do civil law.
Ao contrário do Japão, que afrouxou a proteção sobre a propriedade intelectual (criações/materiais incorporados a conjuntos de dados de IA não são protegidos por direitos autorais), se tornando o novo "paraíso para o machine learning", segundo Yann Le Cin, atual Chief AI Scientist da Meta e um dos papas da inteligência artificial, os Estados Unidos costumam ter uma abordagem super protetiva a tudo que tem a ver com "copyright", e, por isso, é mais provável que as leis sobre o tema sigam nesse sentido.
Todos esses avanços proporcionados por tecnologias criam abismos entre países com posicionamentos distintos, polarizando ainda mais o mundo. As discussões acabam sempre indo para um dos lados. No caso da IA, de um lado, ficam os países pró inovação, menos restritivos sob o ponto de vista da regulação; e do outro lado, países pró regulação, mais restritivos em termos de inovação, priorizando direitos já consagrados. Essa polarização não é extrema, mas traça uma linha de tendência a ser seguida pelos países, de acordo com os seus objetivos e prioridades. A Índia, por exemplo, já se manifestou no sentido de que deve seguir a linha dos países que têm posicionamento semelhante ao seu, quando do estabelecimento de diretrizes e/ou regras para o uso e desenvolvimento de IA, principalmente sobre "copyright" e discriminação algorítmica.
É a dualidade moderna, e o velho impasse entre inovação e regulação. Quanto mais se protege, menos espaço há para crescimento rápido, o que é, comumente, motivado pela inovação sem fronteiras. Nos resta acompanhar as notícias de perto, apertar os cintos e embarcar nessa grande jornada proporcionada pela IA, cheia de possibilidades e desafios para a sociedade.
Sobre a autora:
Priscila Reis
Advogada, Mestre em Tecnologias da Inteligência e Design Digital, com ênfase em inteligência artificial (TIDD/PUC-SP). Co-founder da consultoria Layer Two, focada em educação corporativa e projetos de inteligência artificial (IA) e web 3.0.
