O laboratório de inteligência artificial Anthropic afirmou em um relatório divulgado na quinta-feira (10) que vários usuários utilizaram seus produtos para atividades que vão desde o desenvolvimento de armas e operações de espionagem eletrônica até vigilância e fraudes.
Aqui estão alguns dos casos mais notáveis descritos no relatório, segundo a Anthropic.
Defesas aéreas da China e de Taiwan: A Anthropic afirmou que um usuário sediado na China utilizou o chatbot Claude para desenvolver um pacote de software de guerra eletrônica e supressão de defesa aérea que classificava alvos e simulava interferência de radar.
Durante o projeto, o ator simulou 12 alvos em Taiwan, como radares, baterias de mísseis e bases aéreas.
A Anthropic disse que dados das contas ligavam o usuário à Academia de Ciências Militares do Exército Popular de Libertação e as baniu.
O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório da Anthropic e que o governo defende que a IA seja desenvolvida para o bem, acrescentando que se opõe à distorção dos fatos e às calúnias contra o país.
Sistema antitorpedo chinês: A empresa disse que outro agente sediado na China utilizou o Claude para desenvolver especificações e software de controle de fogo para um sistema antitorpedos destinado à Marinha chinesa.
O usuário usou o Claude para elaborar proposta técnica, comparar o sistema ao da Marinha dos EUA e aprimorá-lo com simulações.
A Anthropic concluiu que o usuário estava ligado a um fabricante da indústria militar chinesa.
Pesquisa chinesa sobre armas de micro-ondas: Um agente na China utilizou o Claude para pesquisar armas de micro-ondas de alta potência estrangeiras, identificar componentes e fornecedores e rastrear cadeias de suprimentos, afirmou a Anthropic.
O usuário buscou dados para engenharia reversa e contramedidas e redigiu relatórios para autoridades chinesas.
Desenvolvimento de mísseis no Iêmen: A Anthropic informou que um grupo mal intencionado no norte do Iêmen utilizou o Claude para desenvolver software para um foguete guiado, um míssil balístico com alcance de mais de 2.
000 quilômetros e uma variante de míssil que incorpora um veículo de planagem hipersônica.
O grupo mal-intencionado usou o Claude em programação e simulações. A Anthropic disse não haver evidência de arma operacional. "Nossas salvaguardas bloquearam muitas de suas solicitações, mas não todas", disse a empresa.
Os houthis, alinhados ao Irã e controladores do norte do Iêmen, intensificaram ataques à Arábia Saudita recentemente, mas o relatório não os identificou como agentes.
Drones russos: A Anthropic afirmou que provavelmente agentes independentes baseados na Rússia usaram o Claude para desenvolver software para um enxame de drones de ataque autônomos com visão em primeira pessoa, incluindo orientação terminal, seleção de alvos e coordenação entre várias aeronaves.
Drones de ataque com visão em primeira pessoa são centrais na guerra na Ucrânia, para reconhecimento e ataques.
A Embaixada da Rússia em Washington não respondeu às perguntas sobre alegações específicas feitas pela Anthropic ou sobre o relatório como um todo.
Compra de componentes pela Rússia: A Anthropic disse também que um gerente de compras baseado na Rússia utilizou o Claude para identificar intermediários na China e em Hong Kong para comprar produtos europeus com possíveis usos militares e traçar rotas que pudessem ocultar seu destino.
Segundo a Anthropic, buscavam magnetômetros alemães, wafers de grau espacial e sistemas de oxigênio para aviação. A Rússia recorre a intermediários desde as sanções pela invasão da Ucrânia.
A Anthropic detalhou cinco tentativas de usar "nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
Houve pedidos de ajuda para financiar pesquisa de modificação do vírus da chikungunya em uma região onde a Anthropic não oferece serviço.
Em outro caso, também em um local onde a empresa não opera, o que exige que os usuários ocultem sua localização para utilizar os serviços, a Anthropic afirmou ter detectado esforços para pesquisar a gripe aviária altamente patogênica.
Outros exemplos incluíram pesquisas relacionadas ao ortopoxvírus e a novos venenos e toxinas não transmissíveis.
Operações na China: A Anthropic afirmou que operadores de língua chinesa, provavelmente baseados em Changsha, na China central, utilizaram o Claude em operações digitais contra cerca de 50 organizações, incluindo redes de governos estrangeiros.
O grupo, que segundo a Anthropic incluía dois universitários, usou IA para encontrar e explorar vulnerabilidades, com pouca supervisão humana.
As técnicas do grupo eram consistentes com as do agente de ameaças Midnight Blizzard, sediado na Rússia, que o governo dos EUA já havia associado ao serviço de inteligência estrangeira russo SVR.
Reconhecimento naval iraniano: A Anthropic informou ter identificado e neutralizado um operador ligado ao Irã que utilizava o Claude para coletar e analisar dados acessíveis ao público, a fim de recomendar alvos contra as forças navais dos EUA na região.
O material incluía dados públicos sobre militares, navios, aeronaves e imagens de satélite.
O operador também pediu pesquisas sobre falhas em sistemas de bordo, comunicações e controle industrial.
Recrutamento de uigures na Síria: Segundo a Anthropic, um usuário alinhado à China utilizou o Claude para rastrear e abordar uigures na Síria, incluindo pessoas consideradas vulneráveis, e oferecer pagamento em troca de informações sobre unidades uigures que haviam se juntado ao exército recém-formado da Síria.
Pequim considera os grupos armados uigures no exterior como organizações terroristas e usa isso como justificativa para políticas de segurança direcionadas ao grupo étnico predominantemente muçulmano.
A Anthropic avaliou, com baixo grau de confiança, que o operador era um contratado que trabalhava para a segurança do Estado chinês.
Vigilância religiosa e política na China: A Anthropic afirmou que atores ligados à China usaram o Claude para compilar informações de inteligência sobre alvos, incluindo cardeais católicos, líderes cristãos de Taiwan, budistas tibetanos, dissidentes e ativistas.
Em uma operação separada, o chatbot foi usado para automatizar relatórios no estilo governamental que monitoravam uigures, tibetanos, figuras políticas de Taiwan, ativistas trabalhistas e estudantis e a mídia estrangeira.
A China é acusada por governos e entidades de direitos humanos de vigiar críticos no exterior; Pequim nega repressão transnacional.
Vigilância comercial: A Anthropic informou que baniu uma conta que usava o Claude para criar uma plataforma de vigilância comercial destinada a analisar, classificar e traçar perfis das atividades dos usuários nas redes sociais no Irã e na região do golfo.
A Anthropic afirmou que suas descobertas corroboram uma investigação de fevereiro de 2023 pela rede jornalística Forbidden Stories, que documentou um serviço oferecido por uma empresa chamada S2T Unlocking Cyberspace.
A Anthropic disse ter identificado a atividade na fase piloto, sem evidência de uso contra alvos reais. A S2T não respondeu.
Perfilagem iraniana: Um operador ligado ao Irã utilizou o Claude para construir um sistema automatizado de inteligência de código aberto para perfilar indivíduos de órgãos governamentais e não governamentais israelenses e organizações da diáspora judaica, apontou a Anthropic.
Segundo a empresa, o programa foi executado contra alvos preexistentes, e o operador buscou dados sobre israelenses e norte-americanos.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…