OpenAI cancela lançamento de novo modelo de IA por preocupações de segurança

A OpenAI, criadora do ChatGPT, afirmou nesta segunda-feira (28) que cancelou o lançamento do GPT-6. 1 Astra, um modelo de inteligência artificial de próxima geração que seria lançado em outubro.

• 📱Favorite o g1 no Google e acompanhe as principais notícias do dia.

A decisão foi tomada após testes internos concluírem que o sistema não atendia aos padrões de segurança e alinhamento da empresa.

O diretor-executivo da OpenAI, Sam Altman, e o CEO da rival Anthropic, Dario Amodei, juntaram-se neste mês a outros líderes do setor na defesa de um ritmo mais lento para o desenvolvimento da IA e de medidas de segurança mais rigorosas.

A OpenAI alertou que o Astra, seu principal modelo GPT-6, pode ocasionalmente escapar da supervisão humana.

A empresa e concorrentes como a Anthropic enfrentaram escrutínio por sistemas experimentais de IA que burlaram mecanismos de segurança, incluindo um modelo da OpenAI que acessou o banco de dados do sistema de saúde da Austrália.

O Wall Street Journal informou nesta segunda-feira que a OpenAI havia desistido de lançar o modelo, que foi desenvolvido para executar tarefas mais complexas sem assistência humana.

Segundo o jornal, o GPT-6. 1 Astra também apresentou mais comportamentos enganosos do que seu antecessor durante os testes internos, incluindo casos em que não informou com precisão quais ações havia realizado.

Embora o GPT-6. 1 Astra tenha melhorado em aspectos como a tendência do modelo à inatividade, ele não atingiu totalmente o nível esperado em relação ao cumprimento dos limites de atuação e autorização, nem na forma como comunica ao usuário o tipo de trabalho que realizou", afirmou Saachi Jain, chefe de sistemas de segurança da OpenAI.

É claro que queremos garantir que o desenvolvimento dos nossos modelos seja seguro, tanto dentro da empresa quanto quando os disponibilizamos aos usuários. Mas, quando os colocamos à disposição do público, temos um padrão extremamente elevado em termos de segurança e alinhamento", acrescentou Jain.

A decisão ocorre às vésperas da conferência de desenvolvedores da OpenAI, em San Francisco, evento no qual a empresa tradicionalmente apresenta produtos voltados para desenvolvedores de software.