Anthropic diz ter barrado tentativa de uso de IA para fazer armas biológicas

A empresa americana Anthropic afirma ter identificado e interrompido tentativas de usar seu modelo de inteligência artificial para "atividades maliciosas" que poderiam resultar no desenvolvimento de armas biológicas.

1. Sobrevivi ao 11 de Setembro porque cheguei mais tarde ao trabalho': sobrevivente relembra os ataques.
2. OpenAI diz ter resolvido em 88h problema matemático sem resposta há 90 anos — e a acusação feita por dois pesquisadores sobre a empresa.
3. Flávio Bolsonaro é investigado por lavagem de dinheiro, evasão de divisas e corrupção no caso 'Dark Horse'; Mendonça mantém inquérito sob sigilo.
4. Fachin pede e Mendonça anuncia fim do sigilo de parte do caso Master.
5. Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).
6. 00:36Play Vídeo, Drones recriam Torres Gêmeas nos 25 anos do 11 de Setembro, Duration 0,36.
7. 02:16Play Vídeo, Dinheiro de Vorcaro e quem mais? As suspeitas da PF sobre 'Dark Horse', Duration 2,16.
8. 01:37Play Vídeo, Para onde vai o voto depois que eu o digito na urna?, Duration 1,37.
9. 01:18Play Vídeo, 'Há um risco de a IA matar todos os seres humanos', Duration 1,18.
10. 00:19Play Vídeo, Tromba-d'água gigante surge na Flórida, Duration 0,19.
11. 00:34Play Vídeo, Criança é salva de atropelamento no México, Duration 0,34.
12. 00:45Play Vídeo, Cataratas do Iguaçu estão com fluxo d'água cinco vezes maior que normal, Duration 0,45.
13. 02:14Play Vídeo, 'Roubo de genitais': rumores em redes deixam rastro de morte, Duration 2,14.
14. 01:40Play Vídeo, Amoêdo: 'Devemos criticar Alexandre de Moraes, não o STF', Duration 1,40.
15. 00:31Play Vídeo, O momento em que idosa é achada viva em meio a lama no Nepal, Duration 0,31.
16. 02:47Play Vídeo, Os pombos 'diferentões' que ajudaram Darwin a criar Teoria da Evolução, Duration 2,47.
17. 01:06Play Vídeo, Como não se estressar com as eleições, Duration 1,06.
18. O engenheiro da Anthropic que alertou para o risco de a IA exterminar a humanidade9 setembro 2026.
19. Ninguém está preparado para as consequências da inteligência artificial', adverte cientista-chefe da OpenAI7 setembro 2026.
20. Anthropic diz ter barrado tentativa de uso de IA para fazer armas biológicasHá 2 horas.
21. 25 anos do 11 de Setembro: a agonia dos parentes das vítimas, que até hoje aguardam julgamento do 'cérebro' dos atentados10 setembro 2026.
22. Por que Mario Frias e a produtora do filme 'Dark Horse', sobre Bolsonaro, são alvo da PFHá 6 horas.
23. Criei do nada um império da moda que me deixou multimilionária, mas cresceu tanto que abri falência'Há 8 horas.
24. STF salvou a democracia brasileira, mas agora a está sufocando, diz The Economist10 setembro 2026.
25. Quando e como será sessão do STF que vai analisar caso Vorcaro-Moraes 10 setembro 2026.
26. Inquérito das Fake News: a linha do tempo da investigação que saiu das mãos de Moraes por decisão de Fachin10 setembro 2026.
27. O que Flávio Bolsonaro ainda precisa esclarecer sobre 'Dark Horse' — e por que o filme não sai antes das eleições10 setembro 2026.
28. Eleições 2026: o que os candidatos propõem para a Educação?9 setembro 2026.
29. 5'Influenciadoras que fingem submissão aos maridos são as mesmas que gerenciam impérios multimilionários', diz autora de best-seller sobre tradwives.
30. 64 exercícios que ajudam a fortalecer os punhos, uma das articulações mais prejudicadas pela vida moderna.
31. 7Quem é quem nas mensagens que desencadearam a maior crise da história do STF.
32. 8Flávio Bolsonaro ultrapassa Lula no 2º turno no Agregador de Pesquisas para presidente da BBC News Brasil.
33. BBC News, Vá para o conteúdo Seções Anthropic diz ter barrado tentativa de uso de IA para fazer armas biológicasCrédito, ReutersArticle Information.

As conclusões, apresentadas em um relatório recente de inteligência da empresa, são as mais recentes de uma crescente série de alertas de pesquisadores de IA e especialistas do setor sobre os riscos potenciais da tecnologia para a humanidade.

O senador americano Bernie Sanders fez um apelo nos Estados Unidos por uma pausa no desenvolvimento de IA avançada e a proibição da superinteligência artificial.

O presidente americano, Donald Trump, vinha rejeitando esses temores. Mas na quinta-feira (10/9), ele disse estar preocupado: "Se não vencermos a IA, ficaremos em uma situação muito ruim.

A empresa publicou seu relatório mais recente sobre as ameaças da IA na quinta-feira.

Esses relatórios se tornaram comuns no setor de IA, à medida que as empresas buscam demonstrar como identificam e interrompem tentativas de uso indevido de seus modelos.

Na terça-feira, o Google divulgou que uma pessoa tentou usar sua ferramenta de IA, Gemini, para obter um "guia técnico completo, passo a passo, para sintetizar agentes biológicos como armas.

Segundo o relatório, o modelo de IA da Claude, Anthropic, também foi usado por agentes ligados a uma campanha de ciberespionagem com base na Rússia e por uma instituição de propaganda iraniana.

Veja Agregador de Pesquisas da BBC News Brasil.

Fim do Promoção Agregador de pesquisas.

Os casos preocupantes detectados nos últimos oito meses variaram desde aplicativos de namoro falsos e golpes com wi-fi de hotéis até sistemas de vigilância criados para identificar dissidentes políticos.

A Anthropic também acusou em seu relatório empresas chinesas de IA de tentarem replicar as capacidades de Claude.

O extenso relatório lista casos em que grupos suspeitos de serem patrocinados pelo Estado, criminosos, fornecedores de spyware, instituições de propaganda estatal e indivíduos com motivações políticas fizeram uso indevido de sua tecnologia.

A empresa afirmou que o "uso malicioso" de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026.

Nenhum dos casos de uso indevido envolveu o Claude Fable ou os poderosos modelos da classe Mythos, com exceção de um caso de "destilação" — o processo de treinamento de modelos de IA menores usando modelos maiores e mais caros.

Além de detectar o uso de seus modelos para operações cibernéticas e de influência, vigilância, golpes e fraudes e desenvolvimento de armas, a Anthropic afirmou ter bloqueado cientistas que usaram sua IA de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.

O relatório destacou "cinco estudos de caso de atores que utilizam nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.

O uso indevido de recursos biológicos, segundo a organização, é "um dos riscos mais graves dos modelos de IA de ponta". Sem as devidas salvaguardas, tais capacidades "poderiam ter consequências catastróficas", afirmou a Anthropic.

As mesmas informações que podem ser usadas para desenvolver uma arma biológica também poderiam ser usadas para desenvolver, por exemplo, uma vacina ou uma cura para uma doença", disse Anthropic.

Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao New York Times que se trata de "uma situação incrivelmente complexa.

Você não vê alguém, como se fosse em uma história em quadrinhos, dizendo: 'Ei, eu quero construir uma arma biológica para matar todo mundo'", disse ele.

O relatório também mencionou seis casos em que o Claude foi usado "para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que as operam.

O relatório indicou que cibercriminosos e hackers patrocinados por governos têm usado cada vez mais essa tecnologia para auxiliar em suas operações.

O grupo de hackers ShinyHunters, assim como laboratórios sediados na China, estavam entre os nomes citados no relatório.

O relatório também afirmou que um grupo de hackers, cujo trabalho é consistente com o do grupo russo Midnight Blizzard, supostamente usou inteligência artificial para construir um sistema que detectava automaticamente quando seu malware era sinalizado pelas defesas de segurança e reescrevia o código até conseguir burlar a detecção.

A empresa sediada na Califórnia afirmou ter incorporado as descobertas em seus processos "para melhor prevenir, detectar e interromper essas atividades no futuro.

A Anthropic afirmou ter compartilhado informações com as autoridades e parceiros do setor, quando apropriado.

01:18Legenda do vídeo, 'Há um risco de a IA matar todos os seres humanos'O relatório — o primeiro da empresa este ano — surge depois de um dos principais investigadores de segurança da Anthropic ter alertado que a IA está a avançar tão rapidamente que acredita haver uma probabilidade superior a 10% de que "possa matar todos os humanos" na próxima década.

Em um artigo publicado no domingo, o cientista-chefe da OpenAI, Jakub Pachocki, pediu que a indústria implementasse "desacelerações voluntárias" até que medidas de segurança sejam estabelecidas.

Me preocupa que ninguém esteja preparado para as consequências de um crescimento rápido e contínuo da inteligência artificial", disse Pachocki, acrescentando que a OpenAI, criadora do ChatGPT, continuará seu trabalho na construção de mecanismos de proteção, embora sejam necessárias intervenções mais abrangentes.

O alerta motivou uma carta aberta ao primeiro-ministro britânico, Andy Burnham, pedindo um novo tratado multinacional para o desenvolvimento seguro da IA e um apelo para que os governos colaborem sobre como deveria ser um tratado baseado no desenvolvimento da superinteligência.

Nos EUA, o congressista democrata Bernie Sanders apresentou um projeto de lei para proibir a superinteligência artificial e suspender temporariamente o desenvolvimento de inteligência artificial avançada.

Quando os cientistas dizem que existe uma chance de que isso possa ter um impacto catastrófico na humanidade, você tem que ser um idiota para não dizer: 'Vá com calma (no desenvolvimento de inteligência artificial avançada)", disse ele na quinta-feira à BBC.

Estados UnidosSegurança de computadoresTecnologiaInteligência ArtificialCrime cibernéticoPular Assista e continuarAssista Fim de Assista.

BBC News, Brasil © 2026 BBC. A BBC não se responsabiliza pelo conteúdo de sites externos. Leia sobre nossa política em relação a links externos.