A OpenAI cancelou o lançamento do seu novo modelo de inteligência artificial (IA) GPT-6.1 Astra. A decisão teria sido tomada após testes internos constatarem que a IA não se comportava bem, ressaltando questões de segurança.
“Embora o GPT-6.1 Astra tenha apresentado melhorias em aspectos como a passividade do modelo, ele não atingiu o nível que exigimos em relação a permanecer dentro do escopo e dos limites de autorização, nem na forma como comunica ao usuário o tipo de trabalho que realizou”, afirmou Saachi Jain, chefe de sistemas de segurança na OpenAI.
Comparado ao modelo anterior, o novo não seria muito honesto ao informar ao usuário o que foi feito ou o que deixou de fazer. Ao mesmo passo, tinha a capacidade de realizar tarefas sem pedir permissão do usuário e até recorrer a ferramentas e serviços externos, mesmo que não fosse completamente seguro. A informação foi divulgada pelo jornal Wall Street Journal.
“Em tudo que envolve segurança e alinhamento, há um equilíbrio a ser encontrado”, disse a OpenAI em nota ao TecMundo.
A medida da OpenAI acontece enquanto a indústria de inteligência artificial pede pelo desenvolvimento mais prolongado dos sistemas, tendo a segurança como principal motivador. A própria OpenAI já havia interrompido o treinamento de novos LLMs e, também nesta semana, surgiu a informação de que agentes da empresa teriam invadido sites governamentais e até da própria Organização das Nações Unidas (ONU).
Lançamento seria em outubro
O lançamento do GPT-6.1 Astra estava previsto para “os próximos dias ou semanas”, chegando ao público no mês de outubro. O modelo também deveria introduzir mais capacidades agênticas, especialmente para concluir tarefas complexas em todas as etapas sem assistência humana.
“É preciso encontrar a linha divisória ideal entre manter-se dentro do escopo e evitar a negligência na forma como o modelo executa as tarefas, mesmo quando encontra obstáculos”, disse Jain.
Mesmo com o lançamento interrompido, o GPT-6.1 Astra ainda será utilizado como “base” para o treinamento de futuros modelos da mesma linha. A OpenAI afirmou que também deve realizar análises aprofundadas para identificar a raiz dos problemas do novo GPT-6.1.
O GPT-6 Astra foi lançado no início de setembro tendo a inteligência artificial geral (AGI) como escopo. Apesar de já estar disponível para todos, o lançamento desse modelo recebeu críticas de usuários justamente pela falta de clareza sobre a sua disponibilidade inicial.
A OpenAI também está no centro da discussão sobre o uso seguro de agentes de IA. Em julho, modelos da companhia invadiram a plataforma Hugging Face e, também durante testes internos, acessaram sites do governo australiano sem autorização. Na segunda-feira (28), a empresa pediu desculpas e disse que esse é um “novo tipo de incidente cibernético que representa um desafio global emergente”.
Nesta terça-feira (29), a OpenAI realizará o evento DevDay, onde deve realizar novos anúncios relacionados aos seus produtos e serviços./ Com informações de Wall Street Journal.