Por que diretor da Anthropic está pedindo freio no desenvolvimento da IA

O diretor da Anthropic, empresa líder em inteligência artificial e criadora do Claude, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto.

1. Trump tenta interferir na eleição brasileira e o preocupante é que muitas vezes isso funciona, diz cientista político alemão.
2. O celular de Vorcaro: os pedidos de ministros do STF para acesso a conteúdo — e a reposta de Mendonça.
3. Influenciadoras que fingem submissão aos maridos são as mesmas que gerenciam impérios multimilionários', diz autora de best-seller sobre tradwives.
4. Lula e Flávio Bolsonaro voltam a empatar no 2º turno no Agregador de Pesquisas para presidente da BBC News Brasil.
5. Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).
6. 00:36Play Vídeo, Drones 'recriam' Torres Gêmeas nos 25 anos do 11 de Setembro, Duration 0,36.
7. 02:16Play Vídeo, Dinheiro de Vorcaro e quem mais? As suspeitas da PF sobre 'Dark Horse', Duration 2,16.
8. 01:37Play Vídeo, Para onde vai o voto depois que eu o digito na urna?, Duration 1,37.
9. 01:18Play Vídeo, 'Há um risco de a IA matar todos os seres humanos', Duration 1,18.
10. 00:19Play Vídeo, Tromba-d'água gigante surge na Flórida, Duration 0,19.
11. 00:34Play Vídeo, Criança é salva de atropelamento no México, Duration 0,34.
12. 00:45Play Vídeo, Cataratas do Iguaçu estão com fluxo d'água cinco vezes maior que normal, Duration 0,45.
13. 02:14Play Vídeo, 'Roubo de genitais': rumores em redes deixam rastro de morte, Duration 2,14.
14. 01:40Play Vídeo, Amoêdo: 'Devemos criticar Alexandre de Moraes, não o STF', Duration 1,40.
15. 00:31Play Vídeo, O momento em que idosa é achada viva em meio a lama no Nepal, Duration 0,31.
16. 02:47Play Vídeo, Os pombos 'diferentões' que ajudaram Darwin a criar Teoria da Evolução, Duration 2,47.
17. 01:06Play Vídeo, Como não se estressar com as eleições, Duration 1,06.
18. Anthropic diz ter barrado tentativa de uso de IA para fazer armas biológicas11 setembro 2026.
19. O engenheiro da Anthropic que alertou para o risco de a IA exterminar a humanidade9 setembro 2026.
20. OpenAI diz ter resolvido em 88h problema matemático sem resposta há 90 anos — e a acusação feita por dois pesquisadores sobre a empresa9 setembro 2026.
21. Flávio Bolsonaro e 'Dark Horse': 7 perguntas para entender inquérito — e o que falta ser esclarecidoHá 1 hora.
22. Fachin decide que julgará Moraes e Mendonça separadamente e marca nova sessão para 23 de setembroHá 1 hora.
23. Mendonça libera sigilo de inquéritos sobre 'Dark Horse', que envolve Flávio Bolsonaro, e sobre Jaques Wagner, aliado de Lula; o que se sabe11 setembro 2026.
24. PGR pediu para apurar se Flávio Bolsonaro atuou no Senado para beneficiar Vorcaro11 setembro 2026.
25. 25 anos do 11 de Setembro: a agonia dos parentes das vítimas, que até hoje aguardam julgamento do 'cérebro' dos atentados10 setembro 2026.
26. Os argumentos de Gilmar Mendes para que sessão do dia 15 também analise acusações contra Mendonça11 setembro 2026.
27. Quem é quem nas mensagens que desencadearam a maior crise da história do STF11 setembro 2026.
28. Por que Mario Frias e a produtora do filme 'Dark Horse', sobre Bolsonaro, são alvo da PF11 setembro 2026.
29. A disputa pela sucessão dentro da família real de Uganda após a morte do monarca mais jovem do mundo11 setembro 2026.
30. 5Vorcaro, rachadinha e milícia: os fantasmas que rondam a campanha 'moderada' de Flávio BolsonaroÚltima atualização: 14 maio 2026.
31. 7'Sobrevivi ao 11 de Setembro porque cheguei mais tarde ao trabalho': sobrevivente relembra os ataques.
32. 9Por que os anos 1980 foram tão coloridos e extravagantes? Entenda a 'trend' de fotos de IA que viralizou.
33. BBC News, Vá para o conteúdo Seções Por que diretor da Anthropic está pedindo freio no desenvolvimento da IACrédito, ReutersLegenda da foto, Não havia alternativa ao desenvolvimento de IA, disse Dario Amodei, chefe da AnthropicArticle Information.

Em um ensaio publicado neste sábado (12/09), Dario Amodei afirmou que o desenvolvimento da IA não está em questão, mas que os riscos associados a ela são "sérios" e que empresas e governos precisam de tempo para lidar com eles.

Ele propôs um plano de três pontos que inclui o monitoramento independente dos modelos de IA à medida que são desenvolvidos, a regulamentação em toda a indústria e a regulamentação global.

Nos últimos tempos, têm surgido crescentes preocupações sobre os riscos potenciais da tecnologia, sendo a mais grave delas a que sugere haver uma probabilidade superior a 10% de que ela "possa matar todos os humanos" na próxima década.

A Anthropic já havia declarado que identificou e interrompeu tentativas de usar seu modelo de IA para "atividades maliciosas" que poderiam apoiar o desenvolvimento de armas biológicas.

Mas o alerta mais contundente veio de dois funcionários da equipe de segurança da Anthropic que se demitiram nas últimas duas semanas, afirmando que a humanidade pode não sobreviver à corrida entre as empresas de IA para desenvolver máquinas mais inteligentes que os humanos.

Os alertas suscitaram apelos à ação, mas o presidente dos EUA, Donald Trump, rejeitou até agora esses receios, afirmando na quinta-feira (10/09) que estava preocupado: "Se não vencermos a IA, ficaremos numa situação muito difícil.

Em seu ensaio intitulado "We Must Pace the Frontier" (Precisamos acompanhar o ritmo da fronteira, em português), Amodei destacou que a IA avançou "drasticamente mais rápido", incluindo sua "capacidade de construir a próxima geração de IA" — e mencionou um incidente envolvendo a concorrente OpenAI, que revelou que agentes realizaram ataques cibernéticos contra alvos para os quais não haviam sido instruídos em julho.

Veja Agregador de Pesquisas da BBC News Brasil.

Fim do Promoção Agregador de pesquisas.

Os agentes da OpenAI "agiram essencialmente como um coletivo fanaticamente dedicado", disse Amodei.

A OpenAI afirmou que "a importância da atividade de comunicação entre agentes não era aparente para os líderes" até julho e, como resultado, a empresa estava desacelerando o treinamento de certos modelos e ferramentas avançadas de IA, observando que agora havia um risco maior de as ferramentas de IA saírem do controle.

Em seu ensaio, Amodei defendeu "o desenvolvimento da IA a um ritmo equilibrado que vise garantir sua segurança, ao mesmo tempo que se obtêm seus benefícios.

Isso não significa "interromper o treinamento de modelos ou o progresso técnico, mas garantir que as empresas reservem tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso.

Ele se comprometeu a adotar tal equilíbrio "unilateralmente" na Anthropic — além de pedir aos governos que "exigissem que outras empresas pioneiras fizessem o mesmo.

Amodei afirmou reconhecer que a regulamentação pode não ser capaz de acompanhar o ritmo da IA e, portanto, pediu às empresas de IA que "trabalhem juntas voluntariamente para definir padrões" em paralelo com a regulamentação.

O CEO da Anthropic prosseguiu abordando o impacto que uma desaceleração teria sobre o setor e a concorrência com as principais incorporadoras do mundo, particularmente a China.

Acredito que, se diminuirmos o ritmo nos desse um ou dois anos extras antes que os modelos atingissem níveis críticos de capacidade, e usássemos esse tempo para avançar no alinhamento, poderíamos reduzir significativamente o risco de que algo desse muito errado", disse Amodei.

Isso teria que ser feito de forma coordenada, "sem sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA.

Qualquer desaceleração teria que ser limitada, disse ele, para evitar que a China ultrapassasse os Estados Unidos.

Ele instou o governo dos EUA a tomar medidas para que os chips de IA de empresas americanas não pudessem ser vendidos para a China, nem a tecnologia compartilhada com países autoritários.

Estados UnidosSegurança de computadoresTecnologiaInteligência ArtificialPular Assista e continuarAssista Fim de Assista.

BBC News, Brasil © 2026 BBC. A BBC não se responsabiliza pelo conteúdo de sites externos. Leia sobre nossa política em relação a links externos.