QUANTA MAGAZINE - Carros e aviões autônomos não são mais coisa do futuro. Somente na cidade de São Francisco, EUA, duas empresas de táxi registraram coletivamente 13 milhões de quilômetros de direção autônoma até agosto de 2023. E mais de 850 mil veículos aéreos autônomos, ou drones, estão registrados nos Estados Unidos - sem contar os de propriedade das forças armadas.
Mas há preocupações legítimas com relação à segurança. Por exemplo, em um período de 10 meses que terminou em maio de 2022, a National Highway Traffic Safety Administration, órgão regulador dos EUA, relatou quase 400 acidentes envolvendo automóveis que usavam alguma forma de controle autônomo. Seis pessoas morreram em decorrência desses acidentes e cinco ficaram gravemente feridas.
A maneira mais comum de abordar essa questão - às vezes chamada de “teste por exaustão” - envolve testar esses sistemas até que você esteja convencido de que eles são seguros. Mas nunca se pode ter certeza de que esse processo descobrirá todas as possíveis falhas. “As pessoas realizam testes até esgotarem seus recursos e sua paciência”, diz Sayan Mitra, cientista da computação da Universidade de Illinois, Urbana-Champaign. No entanto, os testes, por si só, não oferecem garantias.
Mitra e seus colegas conseguem oferecer essas garantias. Sua equipe conseguiu provar a segurança dos recursos de rastreamento de pista para carros e sistemas de pouso para aeronaves autônomas. Sua estratégia está sendo usada agora para ajudar a pousar drones em porta-aviões, e a Boeing planeja testá-la em uma aeronave experimental este ano. “Seu método de fornecer garantias de segurança de ponta a ponta é muito importante”, explica Corina Pasareanu, cientista pesquisadora da Universidade Carnegie Mellon e do Centro de Pesquisa Ames da NASA.
O trabalho deles envolve garantir os resultados dos algoritmos de aprendizado de máquina usados para informar os veículos autônomos. Muitos veículos autônomos têm dois componentes: um sistema de percepção e um sistema de controle. O sistema de percepção informa, por exemplo, a que distância o seu carro está do centro da pista, ou em que direção um avião está indo e qual é o seu ângulo em relação ao horizonte. O sistema opera alimentando dados brutos de câmeras e outras ferramentas sensoriais para algoritmos de aprendizado de máquina baseados em redes neurais, que recriam o ambiente fora do veículo.
Essas avaliações são então enviadas para um sistema separado, o módulo de controle, que decide o que fazer. Se houver um obstáculo próximo, por exemplo, ele decide se deve acionar os freios ou contorná-lo. De acordo com Luca Carlone, professor associado do Instituto de Tecnologia de Massachusetts (MIT), embora o módulo de controle conte com uma tecnologia bem estabelecida, “ele toma decisões com base nos resultados da percepção e não há garantia de que esses resultados estejam corretos”.
Para oferecer uma garantia de segurança, a equipe de Mitra trabalhou para assegurar a confiabilidade do sistema de percepção do veículo. Primeiro, eles presumiram que é possível garantir a segurança quando uma representação perfeita do mundo externo está disponível. Em seguida, determinaram o nível de erro que o sistema de percepção introduz em sua recriação dos arredores do veículo.
Em um carro autônomo, você não precisa de uma percepção perfeita. Você só quer que ela seja boa o suficiente para não colocar a segurança em risco
Luca Carlone, professor associado do Instituto de Tecnologia de Massachusetts (MIT)
A chave para essa estratégia é quantificar as incertezas envolvidas, conhecidas como faixa de erro - ou as “incógnitas conhecidas”, como diz Mitra. Esse cálculo vem do que ele e sua equipe chamam de contrato de percepção. Na engenharia de software, um contrato é um compromisso de que, para uma determinada entrada em um programa de computador, a saída estará dentro de um intervalo especificado. Descobrir essa faixa não é fácil. Qual é a precisão dos sensores do carro? Quanta neblina, chuva ou brilho solar um drone pode tolerar? Mas se for possível manter o veículo dentro de uma faixa específica de incerteza e se a determinação dessa faixa for suficientemente precisa, a equipe de Mitra provou que é possível garantir a segurança do veículo.
Essa é uma situação familiar para qualquer pessoa que tenha um velocímetro impreciso. Se você sabe que o dispositivo nunca está errado em mais de 8 km por hora, você ainda pode evitar o excesso de velocidade ficando sempre 8 km abaixo do limite de velocidade (conforme indicado pelo seu velocímetro não confiável). Um contrato de percepção oferece uma garantia semelhante da segurança de um sistema imperfeito que depende do aprendizado de máquina.
“Você não precisa de uma percepção perfeita”, disse Carlone. “Você só quer que ela seja boa o suficiente para não colocar a segurança em risco.” As maiores contribuições da equipe, segundo ele, são “introduzir toda a ideia de contratos de percepção” e fornecer os métodos para construí-los. Eles fizeram isso com base em técnicas do ramo da ciência da computação chamado verificação formal, que fornece uma maneira matemática de confirmar que o comportamento de um sistema satisfaz um conjunto de requisitos.
“Mesmo que não saibamos exatamente como a rede neural faz o que faz”, diz Mitra, eles mostraram que ainda é possível provar numericamente que a incerteza da saída de uma rede neural está dentro de certos limites. E, se esse for o caso, o sistema será seguro. “Podemos então fornecer uma garantia estatística sobre se (e em que grau) uma determinada rede neural realmente atenderá a esses limites.
A empresa aeroespacial Sierra Nevada está atualmente testando essas garantias de segurança ao pousar um drone em um porta-aviões. Esse problema é, de certa forma, mais complicado do que dirigir carros, devido à dimensão extra envolvida no voo. “No pouso, há duas tarefas principais”, disse Dragos Margineantu, tecnólogo-chefe de IA da Boeing, “alinhar o avião com a pista e garantir que a pista esteja livre de obstáculos. Nosso trabalho com Sayan envolve a obtenção de garantias para essas duas funções”.
“Simulações usando o algoritmo de Sayan mostram que o alinhamento (de um avião antes do pouso) melhora”, disse ele. A próxima etapa, planejada para o final deste ano, é empregar esses sistemas na aterrissagem real de um avião experimental da Boeing. Um dos maiores desafios, observou Margineantu, será descobrir o que não sabemos - “determinar a incerteza em nossas estimativas” - e ver como isso afeta a segurança. “A maioria dos erros acontece quando fazemos coisas que achamos que sabemos - e acabamos descobrindo que não sabemos.”
História original republicada com permissão da Quanta Magazine, uma publicação editorialmente independente apoiada pela Simons Foundation. Leia o conteúdo original em ‘How to Guarantee the Safety of Autonomous Vehicles’.