OpenAI é processada por invasão de agentes contra a Hugging Face

Grupo de advogados quer responsabilizar humanos por ações criminosas de IAs; empresa ainda não comentou oficialmente o caso.

PUBLICIDADE

Foto do autor Nilton Kleina

A inteligência artificial vai gerar bilhões em ganhos de eficiência. Para o bolso de quem?

O dinheiro poupado pela IA pode ir para consumidores, empresas ou sumir numa briga de algoritmos.

A OpenAI foi processada nos Estados Unidos pela invasão de seus agentes autônomos contra a Hugging Face. A ação foi movida pelos Defensores Jurídicos para a Ciência e a Tecnologia Seguras (LASST, na sigla original em inglês), uma organização sem fins lucrativos da Califórnia.

A empresa de inteligência artificial (IA) é acusada de violar legislações estaduais ao permitir que robôs mantidos por ela invadissem o repositório. Essa é a primeira vez que a dona do ChatGPT é diretamente responsabilizada pelas ações de seus próprios agentes em termos de cibersegurança.

OpenAI ChatGPT
OpenAI ChatGPT Foto: Alice Labate/Estadão

PUBLICIDADE

O texto do processo aponta que os integrantes da companhia participaram do ato, “seja com conhecimento efetivo ou em estado de cegueira deliberada”. Até o momento, a OpenAI não se manifestou sobre o processo.

A pena solicitada não envolve indenização, pedindo o bloqueio no desenvolvimento de práticas que permitam que agentes de IA causem danos externos de forma autônoma, além da criação de “mecanismos jurídicos” que atrelem esse tipo de ação à um responsável humano.

Relembre o caso Hugging Face

O incidente em questão é o caso mais emblemático dos recentes incidentes de cibersegurança envolvendo agentes de IA que fogem do controle de desenvolvedores e tomam ações irregulares ou até criminosas contra terceiros.

  • O repositório de códigos de IA Hugging Face foi acessado indevidamente por agentes da OpenAI que escaparam de um ambiente controlado de testes e buscavam a solução para um desafio;
  • Os robôs tentaram usar credenciais roubadas e vulnerabilidades de dia zero, mas tiveram o acesso barrado quando a atividade foi detectada;
  • Indícios encontrados em uma pesquisa independente mostram que a OpenAI “sequestrou” duas contas de usuários do repositório dois meses antes, indicando que eles já planejavam o ataque;
  • O então CEO da Hugging Face, Clement Delangue, chegou a pedir que desenvolvedores fossem responsabilizados pelos ciberataques, mas a empresa não chegou a abrir processos;
  • A Hugging Face foi posteriormente comprada pela Nvidia por US$ 13 bilhões (cerca de R$ 67 bilhões na cotação atual), que recentemente apresentou um conjunto de ferramentas que, segundo ela, conseguiria barrar o ataque ao repositório por identificar e isolar agentes fora de controle.

Ao longo das semanas seguintes, vários outros casos de invasões de agentes da OpenAI foram revelados, incluindo o “sequestro” de uma wiki alemã para ser usado para troca de mensagens, a coleta massiva de dados de sites da ONU e a invasão a um sistema do governo australiano.

PUBLICIDADE

A empresa até mesmo pausou o desenvolvimento de novos modelos temporariamente, até criar novas diretrizes de segurança.

Agentes de outras empresas, como Anthropic, Meta e Google, também tiveram atividades ilícitas detectadas ou reveladas pelas próprias companhias. Esses anúncios motivam os atuais pedidos pela desaceleração na pesquisa de modelos de ponta ou ao menos a criação de “freios” para essas tecnologias.

Por que o presidente Donald Trump quer mudar o nome da IA como tecnologia? Entenda nesta matéria./Com informações de Wired.

Ofertas