Fonte da imagem: Reuters. Por Laura Cress, repórter de tecnologia, e Nardine Saad. Atualizado há 2 horas. A Anthropic afirma ter identificado e interrompido tentativas de usar seu modelo de IA para “malicious activity”, que poderiam apoiar o desenvolvimento de armas biológicas.
- Por que alguns especialistas temem cada vez mais que a IA tome conta Publicado há 1 dia.
- AI 'slop' is transforming social media - and a backlash is brewing Publicado em 4 de fevereiro.
Publicado 11 de setembro de 2026, 03:46 BST.
Pesquisador da Anthropic acredita que há mais de 10% de chance de a IA "poderia matar todos os humanos" Publicado há 1 dia.
A contradição no coração da corrida de IA de um trilhão de dólares.
As descobertas, feitas no recente relatório de inteligência de ameaças da empresa, são as mais recentes de uma série crescente de alertas de pesquisadores de IA e especialistas do setor sobre os riscos potenciais da tecnologia para a humanidade.
Os alertas têm impulsionado pedidos de ação, com o senador americano Bernie Sanders exigindo uma pausa no desenvolvimento de IA avançada e a proibição da superinteligência artificial.
Presidente Donald Trump até agora rejeitou tais temores, dizendo na quinta-feira que estava preocupado “se não ganharmos a IA, vamos ficar em uma posição muito ruim.”.
A empresa divulgou seu mais recente relatório de inteligência de ameaças, externo na quinta-feira.
Esses relatórios se tornaram um recurso regular em todo o setor de IA, à medida que as empresas buscam demonstrar como identificam e interrompem as tentativas de uso indevido de seus modelos.
Isso inclui o Google, que escreveu na terça-feira, external que uma pessoa tentou usar sua ferramenta de IA, Gemini, para obter um 'guia técnico completo, passo a passo, para sintetizar agentes biológicos armados.
Claude, o modelo de IA da Anthropic também foi usado por atores ligados a uma campanha de espionagem cibernética baseada na Rússia e por uma instituição de propaganda iraniana, de acordo com seu relatório.
Os casos de preocupação detectados nos últimos oito meses variaram de aplicativos de namoro falsos e golpes de Wi-Fi em hotéis a vigilância construída para identificar dissidentes.
Anthropic também acusou empresas chinesas de IA de tentar replicar as capacidades do Claude.
O relatório extenso lista casos em que grupos suspeitos de serem patrocinados pelo Estado, criminosos, fornecedores de spyware, instituições de propaganda estatal e indivíduos politicamente motivados abusaram de sua tecnologia.
O uso malicioso " de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026, disse.
Nenhum dos casos de uso indevido envolveu Claude Fable ou os poderosos modelos da classe Mythos, com exceção de uma instância de destilação - o processo de treinamento de modelos menores de IA usando modelos maiores e mais caros.
Além de detectar o uso de seus modelos em operações cibernéticas e de influência, vigilância, golpes e fraudes e desenvolvimento de armas, a Anthropic afirmou que bloqueou cientistas que usaram sua IA de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
O relatório destacou “cinco estudos de caso de atores usando nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.”.
O uso indevido biológico, disse, é "um dos riscos mais sérios do modelo de IA de fronteira". Sem as salvaguardas corretas, tais capacidades "poderiam ter consequências catastróficas", disse Anthropic.
As mesmas informações que podem ser usadas para desenvolver uma arma biológica também podem ser usadas para desenvolver, por exemplo, uma vacina ou uma cura para uma doença ", disse Anthropic.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao New York Times que externamente era “uma situação incrivelmente sutil”.
Você não está vendo alguém em uma história em quadrinhos dizer: 'Ei, eu quero construir uma arma biológica para matar todo mundo'", disse ele.
O relatório também observou seis casos em que Claude foi usado 'para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que as operam.
O relatório indicou que cibercriminosos e hackers apoiados pelo Estado têm usado cada vez mais sua tecnologia para auxiliar suas operações.
O grupo de hacking ShinyHunters, bem como laboratórios com sede na China, foram entre os citados no relatório.
O relatório também disse que um grupo de hackers, cujo trabalho é consistente com o Midnight Blizzard, baseado na Rússia, supostamente usou IA para construir um sistema que detectava automaticamente quando seu malware era sinalizado pelas defesas de segurança e reescrevia o código até que ele evadisse a detecção.
A empresa sediada na Califórnia disse que incorporou suas descobertas em seus processos "para melhor prevenir, detectar e interromper essas atividades no futuro.
A Anthropic disse que compartilhou informações com autoridades e parceiros do setor, quando apropriado.
Legenda da figura, Assista: "Diminua a velocidade" - Bernie Sanders propõe um projeto de lei para proibir a superinteligência da IA.
O relatório - o primeiro da empresa este ano - vem depois que um dos principais pesquisadores de segurança da Anthropic alertou que a IA está avançando tão rapidamente que ele acredita que há mais de 10% de chance de "matar todos os humanos" na próxima década.
Em um artigo publicado em 6 de setembro, o cientista‑chefe da OpenAI, Jakub Pachocki, pediu que a indústria implemente “voluntary slowdowns” até que as salvaguardas sejam estabelecidas.
Estou preocupado que ninguém esteja preparado para as consequências de um aumento rápido e contínuo da inteligência de máquina ", disse Pachocki, acrescentando que a OpenAI, que faz o ChatGPT, continuará seu trabalho na construção de salvaguardas, embora sejam necessárias intervenções mais amplas.
O alerta motivou uma carta aberta ao Primeiro‑Ministro do Reino Unido, Andy Burnham, pedindo um novo tratado multinacional para o desenvolvimento seguro da IA e um apelo aos governos para colaborarem sobre como deveria ser um tratado baseado no desenvolvimento da superinteligência.
Nos EUA, o legislador democrata Bernie Sanders introduziu uma legislação para proibir a superinteligência da IA e pausar temporariamente o desenvolvimento avançado da IA.
Quando os cientistas dizem que há uma chance, uma chance de ter um impacto cataclísmico na humanidade, você tem que ser um idiota para não dizer, desacelerar ", disse ele na quinta-feira no Newsnight da BBC.
Com reportagem adicional de Osmond Chia.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…