A Nvidia apresentou nesta segunda-feira (28) um conjunto de ferramentas de segurança para impedir ações criminosas de agentes de inteligência artificial (IA). A ideia da empresa é evitar incidentes como invasões que são constantemente denunciadas desde as últimas semanas.
A iniciativa se chama Open Agent Safety Platform e é composta por softwares com o objetivo em comum de permitir maior controle e responsabilidade em relação a essas ferramentas automatizadas, utilizando recursos inclusive de hardware dos equipamentos.
O lançamento é uma forma de combater as atuais preocupações sobre a segurança de agentes de IA, que em fase experimental já foram responsáveis por uma série de invasões a sistemas privados e governamentais.
O debate tem levado companhias a concordarem em estabelecer freios nos desenvolvimentos dos modelos de ponta.
As novas ferramentas da Nvidia contra IAs
A plataforma de segurança para agentes da Nvidia é composta na atual fase por duas ferramentas. A primeira é o OpenShell, um software de proteção que “coloca limites para agentes que estiverem operando a partir de CPUs”, incluindo modelos fechados ou abertos.
Ele é oferecido principalmente para empresas que usam processadores Vera Rubin da própria Nvidia, mas pode trabalhar com modelos compatíveis de Arm e Intel por ser uma ferramenta de código aberto.
O segundo recurso do pacote é o Sentry, um serviço de controle de agentes que funciona a partir de chips de rede BlueField-4, também da Nvidia.
Trata-se de um sistema de monitoramento capaz de observar ações e que, se achar necessário, consegue isolar em uma espécie de “quarentena” os agentes que se comportarem de forma inadequada em um intervalo de milissegundos depois de identificar ações suspeitas.
Segundo a própria Nvidia, essa tecnologia seria capaz até de impedir hacks como o da Hugging Face, o caso mais marcante de ações de IAs fora de controle que envolveu acessos massivos de agentes contra um sistema.
Cerca de 100 organizações de referência na indústria já confirmaram a adoção das ferramentas da Nvidia, incluindo:
- Empresas do setor de IA, como Microsoft, Anthropic, Perplexity, SpaceXAI , Scale AI e Mistral;
- Companhias de infraestrutura ou serviços digitais que dependem muito da computação em nuvem e IA, como Red Hat, CrowdStrike, Cisco, Salesforce, Oracle, IBM e Palantir;
- Fabricantes de eletrônicos, como Dell, HP e Lenovo.
- A Irregular, que é responsável por conduzir testes de agentes de IA e esteve envolvida em vários dos incidentes já reportados.
Nomes como Google, OpenAI e Meta não estão inclusas na atual lista de companhias parceiras diretas da plataforma, ao menos por enquanto. As duas primeiras, porém, já confirmaram que estariam dispostas a estabelecer limites no desenvolvimento de novos modelos.
Por que o presidente Donald Trump não está disposto a frear investimentos dos EUA em IA? Entenda aqui os fatores envolvidos nessa discussão.