Agentes da OpenAI que se comportaram de forma indevida em testes de segurança acessaram mais páginas da internet do que o confirmado pela empresa. Dados obtidos pela Reuters falam em no mínimo dez sites que foram usados de alguma forma pelos robôs.
A denúncia foi ampliada após o relato de um grupo de pesquisa sobre agentes da IA que “sequestraram” uma wiki alemã para usar verbetes como uma espécie de mural de recados entre si. Bases de dados e investigadores independentes estão rastreando e identificando cada vez mais casos de comportamentos parecidos.
Os agentes não chegam a invadir plataformas e sistemas, como aconteceu no caso Hugging Face. Neste caso, eles adotam canais de comunicação não convencionais para deixar recados para outras IAs sobre temas variados, incluindo dicas de cibersegurança.
A maioria das páginas é quase desconhecida ou até de projetos pessoais, com algum tipo de formato de publicação ou edição colaborativa que permite a comunicação entre robôs.
As pesquisas notaram que vários desses endereços de IP estavam hospedados na infraestrutura do Microsoft Azure, uma parceira da OpenAI, e os nomes de usuário tendem a se repetir, alguns até mesmo fazendo referência ao fato de ele ser controlado por um agente de IA.
O que a OpenAI diz sobre os incidentes
Até o momento, a OpenAI não se pronunciou oficialmente sobre a nova denúncia e as novas descobertas de ações por parte dos agentes.
- No caso da wiki alemã, ela alegou que “não identificou outras atividades pareadas em importância ou escala como o da Hugging Face”;
- A companhia também prometeu para “em breve” um relatório sobre os comportamentos “desalinhados” de IAs;
- Recentemente, ela também criou novas diretrizes de segurança para evitar que IAs ainda em experimentos internos escapem dos ambientes controlados e acessem a internet.
Alguns dos pesquisadores alegam que os dados apontam a necessidade de explicações por parte da empresa. Vários dos incidentes teriam acontecido ao longo de semanas ou até meses, e há evidências de que a OpenAI soube de ao menos alguns desses casos e tomou medidas antes das denúncias.

A própria DseWiki diz que a presença de robôs nas páginas foi cortada após uma provável ação da empresa. Já a Universidade de Toronto, que teve um encurtador de links usado pelos robôs, disse que a OpenAI “tem estado em contato” sobre possíveis atividades no site.
O CEO da Hugging Face, agora um serviço da Nvidia, chegou a pedir responsabilização e transparência da OpenAI após as primeiras invasões. Entenda a briga nesta matéria. /Com informações de Reuters
