Anthropic bloqueia uso de IA em pesquisa de armas biológicas.
- Ex-pesquisador da OpenAI e da Anthropic acusa empresas de 'brincar com vidas.
- Anthropic diz ter identificado países que usaram sua IA para fazer propaganda e desenvolver possíveis armas biológicas, diz 'NYT.
As consultas suspeitas identificadas pela Anthropic foram feitas entre dezembro de 2025 e agosto de 2026. Os acessos pediam a ajuda da inteligência artificial para atividades ilegais, como fraudes, ataques cibernéticos, desenvolvimento de armas e uso indevido de agentes biológicos.
📱Favorite o g1 no Google e acompanhe as principais notícias do dia.
No relatório, a empresa explica que decidiu divulgar as informações porque considera que tem a responsabilidade de revelar os usos indevidos do serviço e alertou.
Segundo a empresa, os usuários que fizeram consultas criminosas eram grupos financiados por governos, organizações criminosas, espiões comerciais e indivíduos com motivações políticas.
A Anthropic tem uma preocupação em especial em demonstrar a segurança: a empresa está prestes a lançar ações na bolsa. Entre os maiores riscos detectados pelos pesquisadores da Anthropic estão as tentativas de usar inteligência artificial para fins biológicos.
Seja para aumentar a letalidade de vírus e bactérias que já existem, quanto para criar novos agentes que ameacem a saúde humana.
Uma consulta chamou a atenção: a tentativa de pesquisar mutações que reforçariam o vírus da chikungunya, que os brasileiros conhecem bem. Uma doença que causa febre e dores no corpo e pode levar meses para ser curada.
O especialista em segurança na área de inteligência artificial da Forethought Research, William MacAskill, afirmou que há várias maneiras de a ferramenta ser usada para fins criminosos.
A Anthropic informou que bloqueou os usuários suspeitos.
GloboPop: clique para ver os vídeos do palco do Jornal Nacional.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…