O sistema foi desenvolvido para funcionar no próprio dispositivo. Isso significa que o conteúdo das mensagens não precisa ser enviado aos servidores da Meta para que a classificação seja feita.
O alerta é visível apenas para o próprio usuário e não aparece para a outra pessoa envolvida no chat.
A partir daí, o usuário pode decidir o que fazer. As opções incluem bloquear o contato, denunciar a conversa ou continuar falando com a pessoa.
Caso o alerta seja considerado um falso positivo, também é possível marcar a conversa como confiável. Nesse caso, o aviso é removido e o Scam Alert deixa de sinalizar aquela conversa novamente.
O envio dessas mensagens, portanto, não acontece automaticamente.
Uma das principais características do novo sistema é justamente o processamento local. Segundo a Meta, quando o recurso de detecção está ativado, “nenhum conteúdo de mensagem deixa o dispositivo do usuário para classificação”.
A estratégia busca preservar a privacidade das conversas enquanto utiliza modelos de aprendizado de máquina para identificar padrões associados a golpes.
Entre os golpes estão pedidos fraudulentos de transferências bancárias e esquemas conhecidos como “pig butchering”, nos quais os criminosos constroem uma relação de confiança com a vítima antes de convencê-la a enviar dinheiro ou investir em uma oportunidade falsa.
O Scam Alert é mais uma iniciativa da Meta para tentar identificar fraudes antes que elas causem prejuízo aos usuários.
Agora, a empresa amplia a utilização de IA para analisar o conteúdo das mensagens localmente, em busca de sinais que possam indicar uma tentativa de golpe.
Por enquanto, o Scam Alert está em fase de testes e sua disponibilidade é limitada. A Meta ainda precisa avaliar o desempenho do sistema antes de ampliar o recurso para mais usuários.
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Fontes
Informação baseada em material público de Olhar Digital, reescrito pela redação ULTRA NOTÍCIAS.
