A Anthropic, empresa que desenvolveu a ferramenta de inteligência artificial Claude, identificou países que tentaram usar sua tecnologia para desenvolver propaganda, drones de guerra e até possíveis armas biológicas.
A companhia diz que bloqueou o produto em todas as tentativas detectadas.
As informações constam em um relatório ao qual o jornal "The New York Times" teve acesso. Rússia, China, Irã e Iêmen estão entre os países citados pela reportagem.
O relatório da Anthropic lista uma série de usos maliciosos de seus modelos de IA, incluindo suspeitas de monitoramento de opositores exilados por parte da China e do Irã.
Um caso destacado no documento é o da Rússia, que usou o Claude para fabricar propaganda disfarçada de reportagens jornalísticas visando as eleições na vizinha Moldávia.
Segundo a reportagem, a empresa diz no relatório que não pôde determinar se as pesquisas biológicas serviriam para objetivos legítimos, como criar vacinas, ou ilegítimos, já que os mesmos processos podem ser utilizado tanto para avanços na medicina quanto para a criação de patógenos.
Nos casos em que havia dúvidas, diz a Anthropic, a opção foi de interromper o serviço de IA, por precaução.
A Anthropic não divulgou nenhum detalhe dos bloqueios que efetuou relativos a pesquisas de possíveis armas biológicas: nem os nomes dos pesquisadores ou das instituições, seus países de vinculação ou os agentes biológicos específicos em questão.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…