(Bloomberg) — A Anthropic informou que seu modelo de inteligência artificial, o Claude, foi usado indevidamente em tentativas de desenvolver uma série de aplicações militares, incluindo enxames de drones kamikaze, sistemas de navegação de mísseis e armas biológicas.
De acordo com um relatório divulgado na quinta-feira (10) pela equipe de inteligência de ameaças da Anthropic, nos últimos doze meses usuários de países como Irã, Rússia, China e Iêmen foram identificados por uso indevido dos modelos de ponta da empresa de IA.
Nenhum dos casos envolveu os modelos mais avançados da Anthropic, o Fable e o Mythos.
As empresas de IA dos Estados Unidos estão numa corrida para desenvolver e implantar sistemas cada vez mais potentes, em parte para não ficar para trás de concorrentes como a China, ao mesmo tempo em que tentam manter salvaguardas.
A Anthropic busca impedir que sua tecnologia seja usada para fins nocivos, incluindo o desenvolvimento de armas biológicas e convencionais.
Essa postura a colocou em conflito direto com o Pentágono, que suspendeu a parceria com a Anthropic depois que a empresa se recusou a permitir que o Claude fosse usado para vigilância em massa ou sistemas de armas autônomas.
O relatório afirma que usuários tentaram usar o Claude para ajudar inimigos dos Estados Unidos. Em muitos casos, tentaram burlar as salvaguardas do Claude ou esconder sua localização.
Usuários na Rússia — que, segundo a Anthropic, não tinham vínculo com o Estado — tentaram usar o Claude para desenvolver software para um enxame de drones kamikaze autônomos em primeira pessoa, treinados com imagens de combate na Ucrânia.
O relatório também detalha cinco estudos de caso de pessoas usando o Claude de formas que poderiam contribuir para o desenvolvimento de armas biológicas, incluindo virologistas patrocinados por Estados que tentaram criar uma versão melhorada de um vírus debilitante transmitido por mosquitos, o chikungunya.
A tentativa foi identificada por meio de uma solicitação para que o Claude ajudasse a redigir um pedido de bolsa para financiar pesquisas em um instituto militar de um país não identificado, onde a Anthropic não presta serviços.
A Anthropic destacou que todos os estudos de caso biológicos do relatório eram “ambíguos” e envolviam pesquisas que poderiam ter intenção científica legítima.
Já agentes baseados no norte do Iêmen, controlado pelos houthis, usaram o Claude para desenvolver software para vários tipos de mísseis.
Agentes ligados a Estados em países como China e Irã tentaram usar o Claude para construir e facilitar sistemas de vigilância. Uma operação ligada à China usou o Claude para “rastrear, traçar perfis e recrutar uigures” no Exército Sírio.
Uma unidade iraniana usou o Claude para construir um software de vigilância disfarçado de ferramenta para acompanhar horários de oração. O Ministério das Relações Exteriores da China não respondeu imediatamente a um pedido de comentário.
Em outro caso, a empresa descobriu que um consultor, provavelmente trabalhando para uma agência de inteligência estatal do Mali, usou o Claude para construir um sistema projetado para monitorar cerca de 25 milhões de celulares no país da África Ocidental.
O sistema conseguia gerar “dossiês de inteligência” sobre qualquer número de telefone específico, sem necessidade de autorização judicial. A Anthropic disse que baniu a conta do consultor, mas que a plataforma de vigilância baseada no Claude já havia sido implantada localmente e estava fora do controle total da empresa.
O governo do Mali não respondeu imediatamente a um pedido de comentário.
O relatório da Anthropic também destacou como hackers — desde suspeitos de serem patrocinados por serviços de inteligência da Rússia e da China até hacktivistas e cibercriminosos — estão usando a IA da empresa para acelerar e amplificar seus esforços de roubo de dados sigilosos.
O relatório não revela vulnerabilidades novas ou perigosas em sistemas críticos.
O documento detalha como um grupo de hackers que a Microsoft chama de Midnight Blizzard, ligado aos serviços de inteligência russos, “aumentou sua velocidade automatizando operações com IA”.
Isso incluiu o uso do software da Anthropic para automatizar várias partes do desenvolvimento de seus programas maliciosos e para ajudar a criar e-mails de phishing contra alvos da inteligência militar e da defesa.
O Ministério das Relações Exteriores da Rússia não respondeu imediatamente a um pedido de comentário.
A Anthropic afirmou que outro grupo de hackers, a gangue de ciberextorsão ShinyHunters, usou IA para vasculhar credenciais de segurança vazadas e usá-las para roubar dados das organizações afetadas.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…