OpenAI scraps rollout of new model over safety concerns

Fonte da imagem, Reuters Por Osmond Chia, repórter de negócios, e Liv McMahon, repórter de tecnologia Atualizado há 2 horas A OpenAI anunciou que não lançará seu último modelo de IA devido a preocupações de segurança.

Publicado em 29 de setembro de 2026, 02:18 BST.

Por que há preocupações de que a IA possa ameaçar a humanidade, e quão reais são elas? Publicado em 17 de setembro.

Estamos de volta à era “move fast and break things” das grandes empresas de tecnologia? Publicado há 4 dias.

Por que um sistema da OpenAI hackeou o sistema de saúde da Austrália - e pode ser interrompido no futuro? Publicado há 4 dias.

Seu GPT‑6. 1 Astra, que executa tarefas como navegar na web e usar aplicativos por conta própria, “não atingiu exatamente o padrão da empresa”, segundo Saachi Jain, chefe de sistemas de segurança da OpenAI.

O criador do ChatGPT também divulgou uma atualização sobre incidentes que ocorreram em junho, mas que não foram tornados públicos até a semana passada, nos quais seus modelos acessaram sites e sistemas do governo australiano sem autorização.

Isso ocorre no momento em que as violações dos modelos das principais empresas de IA intensificam o debate sobre os riscos representados pela tecnologia - com a Anthropic sublinhando suas preocupações de que a IA pode ameaçar a humanidade à medida que se prepara para abrir o capital.

A Reuters informou na terça-feira que o desenvolvedor de IA - que faz o rival do ChatGPT, Claude - planeja alertar potenciais investidores em sua Oferta Pública Inicial (IPO) de que a tecnologia pode representar "riscos catastróficos ou existenciais para a humanidade", de acordo com um prospecto que viu, externo.

Apesar dos avisos severos, espera-se que a empresa se torne uma das mais valiosas do mundo quando abrir o capital.

Acho meio louco que as empresas continuem avançando no desenvolvimento dessas capacidades quando já vimos nos últimos dois meses de incidentes que elas não estão nem perto de serem seguras e controladas o suficiente", disse Jess Whittlestone, consultora sênior de política de IA do think tank Centre for Long-Term Resilience.

Principais líderes de IA, entre eles o chefe da Anthropic, Dario Amodei, e Sam Altman, da OpenAI, pediram à indústria que desacelere o ritmo de desenvolvimento.

A decisão da OpenAI, relatada pela primeira vez pelo Wall Street Journal, é um raro exemplo de um grande desenvolvedor de IA lançando um novo lançamento por questões de segurança.

O modelo ficou aquém em termos de "permanecer dentro do escopo e da autorização e como ele se comunica com o usuário sobre o tipo de trabalho que é feito", disse Jain.

Queremos garantir que o desenvolvimento do nosso modelo seja seguro, não importa se é na empresa ou quando o enviamos aos usuários. Mas quando enviamos para os usuários, temos um nível extremamente alto em termos de segurança e alinhamento ", acrescentou.

O modelo principal GPT-6 Astra Agentic foi lançado em setembro e é especializado em raciocínio complexo e execução de tarefas de forma autônoma. A OpenAI disse que foi o resultado de "anos de pesquisa e grandes apostas.

A OpenAI deve realizar sua conferência anual de desenvolvedores DevDay em São Francisco na terça-feira, onde deve fazer vários anúncios. Não está claro se uma nova versão do Astra estará entre eles.

Os controles de segurança da empresa passaram por intenso escrutínio após vários incidentes de alto perfil envolvendo sua tecnologia.

Não é a primeira vez que um grande desenvolvedor de IA retira ou retém um novo modelo.

No início deste ano, a Anthropic disse que não lançaria publicamente um poderoso modelo de Claude, o Mythos, porque era muito bom em encontrar bugs de software inativos.

A empresa lançou uma versão desse modelo ao público alguns meses depois.

Enquanto isso, a OpenAI afirmou em 2019 que não seria “too dangerous” lançar um de seus modelos GPT, agora usado para alimentar suas ferramentas como o ChatGPT.

A decisão da empresa de não divulgar publicamente a versão mais recente do Astra foi "um sinal bem-vindo de que eles estão levando a sério as preocupações com a segurança", disse o professor Tony Cohn, líder do tema de modelos fundamentais do Instituto Alan Turing.

Mas ele acrescentou que "a segurança não deve ser deixada puramente nas mãos dos desenvolvedores: ela também deve ser monitorada e verificada por meio de reguladores independentes aprovados pelo governo.

A professora Gina Neff, do Minderoo Centre for Technology and Democracy da Universidade de Cambridge, disse que o anúncio da OpenAI mostrou "quanto mais a empresa precisa fazer para tornar seus produtos de IA seguros.

Ela disse à BBC que era "crítico" ter testes independentes de modelos de IA por laboratórios como o AI Security Institute do Reino Unido - que avalia sistemas de fronteira de forma voluntária - porque "essas empresas provaram que não podemos confiar apenas neles para nossa segurança.

Na semana passada, o Primeiro-Ministro australiano Anthony Albanese anunciou que um agente OpenAI fora de controle havia hackeado sites e sistemas governamentais em junho, em que especialistas disseram que foi o primeiro caso conhecido desse tipo no mundo.

Albanese criticou a OpenAI por notificar o governo australiano através de um endereço de e-mail genérico, em vez de fazer contato direto com as autoridades.

A OpenAI disse em um comunicado na terça-feira que lamenta o incidente e que "deveria ter lidado melhor com nossa resposta.

A Services Australia, o NSW Bureau of Crime Statistics and Research, o Victorian Department of Health e o Australian Institute of Health and Welfare foram todos afetados, esclareceu a OpenAI.

A empresa disse que iniciou investigações assim que tomou conhecimento de problemas em meados de agosto e notificou as organizações afetadas entre 10 e 24 de setembro.

Nosso objetivo era fornecer às agências afetadas um relato detalhado assim que nossa investigação fosse concluída ", disse a OpenAI, acrescentando que deveria ter compartilhado as primeiras descobertas mais prontamente e mantido as autoridades australianas atualizadas.

Figure caption, O que você precisa saber sobre o hack do governo australiano OpenAI.

OpenAI acrescentou que desenvolverá “abordagens práticas” para que desenvolvedores e governos identifiquem e divulguem futuros incidentes de IA.

A empresa financiará medidas de segurança cibernética, oferecerá suporte dedicado às agências afetadas e criará uma força-tarefa para gerenciar os riscos de agentes de IA cada vez mais avançados.

Também disse que um alto executivo da OpenAI participaria de uma audiência do Joint Select Committee sobre IA na Austrália em 6 de outubro.

Em julho, a OpenAI afirmou que seus sistemas de IA haviam acessado a internet e invadido o hub de desenvolvedores de código aberto Hugging Face, levando pesquisadores e autoridades a exigir controles mais rigorosos sobre a tecnologia.

Na segunda-feira, a gigante de chips Nvidia lançou um conjunto de ferramentas de segurança de software para plataformas autônomas de IA - chamadas de agentes - que, segundo ela, poderiam ter evitado o hack Hugging Face.

Uma das novas ferramentas usa recursos de hardware nos chips da Nvidia para conter agentes.

O chefe da Nvidia, Jensen Huang, rejeitou amplamente os pedidos de regulamentações mais rígidas de IA, argumentando que os agentes desonestos são um problema de engenharia que pode ser resolvido.

Fonte da imagem, Legenda EPAImage, Papa Leão XIV está entre as figuras que expressaram ceticismo sobre as opiniões do chefe da Nvidia, Jensen Huang.

O pontífice, que disse na segunda-feira durante uma visita à França que a IA "deveria ser levada a sério", acrescentou que leu que Huang havia sugerido que poderia haver uma maneira de inserir grades de proteção em certos modelos de IA.

Ele é o mesmo, no entanto, que diz que não deve haver limites impostos e nenhuma regulamentação governamental ", disse o Papa.

A Nvidia se recusou a comentar o registro.

O presidente dos EUA, Donald Trump, e o presidente da Câmara, Mike Johnson, devem receber executivos de tecnologia na Casa Branca ainda nesta terça-feira para discutir os regulamentos em torno da IA.

Trump minimizou as preocupações com os riscos da IA como uma "farsa", argumentando que os EUA têm leis suficientes em vigor e que a única "proteção" que a tecnologia precisa é de um presidente "forte e inteligente.

Trump e Xi ficam cara a cara enquanto os EUA e a China lutam para vencer a corrida da IA.

Por que a Austrália escolheu o maior palco político do mundo para revelar o hack da OpenAI.