Anthropic boss Dario Amodei calls for AI development to slow down

Fonte da imagem, Reuters. Legenda da imagem: Não havia alternativa a desenvolver IA, disse Dario Amodei, chefe da Anthropic.

Publicado 12 de setembro de 2026, 16:37 BST.

Por que alguns especialistas temem cada vez mais que a IA assuma o controle Publicado há 2 dias.

Pesquisador da Anthropic acredita que há mais de 10% de chance de a IA 'poderia matar todos os humanos.

A contradição no coração da corrida de IA de um trilhão de dólares.

O chefe da principal empresa de IA Anthropic pediu que o ritmo de desenvolvimento de modelos de inteligência artificial desacelere e seja monitorado de perto.

Em um ensaio de sábado, Dario Amodei disse que desenvolver IA não era uma questão, mas os riscos associados a ela eram “grave” e as empresas e governos devem ter tempo para lidar com eles.

Ele propôs um plano de três pontos que inclui monitoramento independente de modelos de IA à medida que são desenvolvidos, regulamentação em toda a indústria e regulamentação global.

Há crescentes preocupações sobre os riscos potenciais da tecnologia, sendo o mais grave a sugestão de que há uma chance superior a 10% de que ela “could kill all humans” dentro da próxima década.

Anthropic anteriormente disse que havia identificado e interrompido tentativas de usar seu modelo de IA para “malicious activity” que poderiam apoiar o desenvolvimento de armas biológicas.

Mas o alerta mais contundente veio de dois funcionários da equipe de segurança da Anthropic que se demitiram nas últimas duas semanas, dizendo que a humanidade pode não sobreviver, fora da corrida entre empresas de IA para desenvolver máquinas mais inteligentes que os humanos.

E em uma nova entrevista com a revista Fortune, o CEO da OpenAI, Sam Altman, disse que os padrões de segurança “not at a place” para impulsionar as capacidades da IA muito além.

Altman acrescentou que acreditava que a IA além do controle humano é “absolutamente” possível.

Os avisos têm provocado apelos à ação, mas o presidente dos EUA, Donald Trump, até agora rejeitou tais temores, dizendo na quinta-feira que estava preocupado “if we don't win AI, we're going to be put in a very bad position.”.

Reação ao post de Amodei tem vindo de todo o mundo da tecnologia, com Elon Musk dizendo que o chefe da Anthropic estava 'certo.

No entanto, alguns observadores sugeriram que a postagem de Amodei era menos sobre segurança do que sobre consolidar controle sobre a tecnologia de IA.

In his essay, called We Must Pace the Frontier, Amodei pointed out that AI had advanced "drastically faster" including its "ability to build the next generation of AI" - and mentioned an incident involving rival OpenAI which has revealed that agents conducted cybersecurity attacks, external on targets they were not asked to attack in July.

The OpenAI agents had "essentially acted as a fanatically devoted collective", Amodei said.

OpenAI disse que “a importância da atividade de comunicação interagente não era aparente para os líderes” até julho e a empresa estava desacelerando o treinamento de certos modelos e ferramentas avançadas de IA como resultado, notando que agora havia um risco aumentado de que as ferramentas de IA saiam de controle.

In his essay, Amodei called for "building AI at a balanced rate that aims to ensure its safety while still achieving its benefits.

This would not mean "halting model training or technical progress, but ensuring companies take adequate time to align and safeguard their models, and for third party evaluators to confirm this.

He was committing Anthropic to this "unilaterally" - as well as calling on governments "to require other frontier companies to match.

Amodei disse que reconheceu que a regulamentação pode não conseguir acompanhar o ritmo da IA, e, portanto, pediu às empresas de IA que “trabalhem voluntariamente em conjunto para estabelecer um padrão” em paralelo com a regulamentação.

The Anthropic CEO went on to address the impact that a slowdown would have on the industry and competition with leading developers worldwide, particularly China.

I believe that if slowing down bought us even an extra year or two before models reach critical levels of capability, and we used that time to advance alignment, we could greatly reduce the risk that something goes seriously wrong," Amodei said.

Isso teria que ser feito de maneira coordenada 'sem sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA'. Qualquer desaceleração teria que ser limitada, disse ele, para evitar que a China ultrapasse.

He urged the US government to take measures so that US companies' AI chips could not be sold to China - or the technology shared with authoritarian countries.

Amodei's post has prompted a wide range of responses.

Clement Delangue, the CEO of the AI platform Hugging Face, said he was launching a new project called the Open Alignment Initiative, adding he wanted to be among "embedded evaluators" that Amodei proposed could be part of a solution.

Hugging Face foi hackeada por agentes da OpenAI no início deste ano, provocando protestos sobre a segurança da IA.

Let's make AI safer by making it more transparent." Delangue wrote on X.

Elon Musk também expressou seu apoio, escrevendo que "Dario está certo.

Dario makes the case to stop open source and concentrate enormous technological and economic power with Anthropic," wrote Chamath Palihapitiya, investor and co-host of the tech podcast "All-In.

Noções de desacelerar ou até mesmo pausar o desenvolvimento de IA têm sido há muito tempo recebidas com tal cinismo em certos cantos de Silicon Valley, com críticos acusando os principais desenvolvedores de IA de exagerar sua tecnologia como uma artimanha de marketing.

Anthropic and OpenAI are both reportedly preparing for potentially record-setting initial public offerings.