Diversas discussões sobre a Inteligência Artificial (IA) incorrem no chamado solucionismo tecnológico, ou seja, ideia que busca a solução de todos os tipos de problemas a partir da tecnologia. Isso pode se explicar pela noção eficientista dos sistemas de IA, que procuram mais eficiência para resolução das fragilidades sociais existentes, bem como dos interesses de mercado, os quais podem incentivar essa linha de pensamento.
Obviamente há o anseio e a expectativa de eficiência sobre os sistemas nos quais se baseiam os serviços e produtos da atualidade, que já substituem ou suportam as atividades humanas. Porém, há que se refletir qual tipo de sociedade queremos. Dada a complexidade do tema e avanços tecnológicos existentes e pretendidos, além do impacto dessas novas tecnologias em nosso cotidiano, é necessário e urgente o debate sobre a regulamentação da IA. Não se trata de uma questão para as gerações futuras, pois já vivemos os impactos da IA. As mesmas tecnologias que oferecem avanços, agilidade e precisão trazem riscos e consequências concretos na vida das pessoas.
Para além da implicação na privacidade, os sistemas de IA podem influenciar diretamente o exercício de diversos direitos, como no uso pelo Judiciário; no acesso de pequenos empreendedores no mercado de consumo, com direcionamento de publicidade que pode favorecer as grandes empresas; no acesso ao crédito; na empregabilidade de uma ou outra parcela populacional, com sistemas que auxiliam na seleção de pessoas; e até na avaliação de desempenho de profissionais, o que pode resultar na exclusão do indivíduo do mercado, como pode ocorrer em plataformas de serviços digitais.
Diversos estudos já mostram vieses de discriminação racial em tecnologias de reconhecimento facial, crescentemente utilizadas para fins de segurança pública, mas já com sinal vermelho ligado por algumas big techs.
Além disso, a própria regulação das plataformas, amplamente discutida no combate à desinformação, perpassa a regulação de IA.
No centro dessa discussão está qual a melhor abordagem para a regulamentação do tema, se seria principiológica ou uma legislação transversal para a IA. Por um lado, há o receio de normas que barrem o desenvolvimento tecnológico, mas também existe o risco da falta de segurança jurídica nas violações a direitos, já que não haveria definições claras de quem responde e quem apura os fatos.
Há forte tendência sobre uma regulamentação específica e transversal para IA, a exemplo do anteprojeto da lei de sua regulação no Brasil. O desafio certamente será a elaboração de uma lei que não coíba a inovação e o empreendedorismo, e ao mesmo tempo tenha um olhar tecnologicamente sensível e não se torne obsoleta rapidamente.
Contudo, apesar da necessária evolução legislativa deste anteprojeto, as legislações vigentes podem e devem ser aplicadas nos contextos de IA, compondo esse ecossistema regulatório das novas tecnologias no Brasil. O Código de Defesa do Consumidor, o Marco Civil da Internet e a Lei Geral de Proteção de Dados (LGPD) são legislações que incidem de alguma forma sobre os sistemas de IA.
A LGPD traz diversos aspectos aplicáveis ao tema, como os princípios da finalidade, transparência e adequação, bem como a obrigação de utilização de hipóteses legais para os tratamentos de dados pessoais. Ainda, o disposto na LGPD sobre a revisão de decisões automatizadas (cuja obrigatoriedade de revisão humana foi vetada à época), aponta para possíveis erros e riscos a direitos, mas ao mesmo tempo estabelece obrigações aos controladores de dados. Contudo, a revisão de decisão feita por sistema de IA, revisada por um (ou pelo próprio) sistema de IA, não parece resolver a questão por completo.
Outras abordagens regulatórias são observadas com bons olhos e podem ser soluções para o problema, como os sandboxes regulatórios, que propõem espaços de experimentação de novos negócios sob a supervisão e o direcionamento de autoridades reguladoras, promovendo ambiente de cooperação entre agentes regulados e reguladores e, apesar de ter mais casos de uso na esfera financeira, também sãoaplicáveis em IA e proteção de dados.
De todo modo, é certo que o compliance à LGPD vigente e com sanções que serão aplicadas a qualquer momento pela Autoridade Nacional de Proteção de Dados (ANPD), já aponta caminhos para a necessidade do uso ético dos sistemas de IA, ao menos os que se baseiam em dados pessoais. O compliance se inicia com uma governança interna adequada, que inclui o mapeamento e a análise de uso dos dados pessoais, bem como dos modelos de negócio existentes. O necessário olhar jurídico e de riscos pode evitar o descumprimento da LGPD e, tendo em vista os riscos aos direitos mencionados, certamente pode ser considerado fator de responsabilidade social.
*Alexandra Krastins Lopes é líder da área de Direito Digital do PG Advogados, especialista em Direito Contratual, com foco em consultoria empresarial e privacidade e proteção de dados. É ainda cofundadora e conselheira do LAPIN (Laboratório de Políticas Públicas e Internet)
