O uso de agentes de inteligência artificial (IA) para fazer compras pela internet pode aumentar os riscos de golpes, fraudes e problemas de privacidade, segundo um grupo de bancos internacionais.
Usuário do TikTok tem câmera e fotos acessadas em ataque com ajuda de IA.
Os chamados agentes de IA são sistemas capazes de realizar tarefas em nome do usuário. No comércio eletrônico, a ideia é que o consumidor peça, por exemplo, que uma ferramenta encontre determinado produto, compare opções e faça a compra por ele.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1.
Em relatório divulgado nesta terça-feira (22), bancos como NatWest (Reino Unido), Bank of America (Estados Unidos), ING (Países Baixos), Capital One (Estados Unidos) e Commonwealth Bank of Australia (Austrália) afirmaram que o avanço dessa tecnologia está ocorrendo mais rápido do que a criação de padrões para o setor e de mecanismos de proteção ao consumidor.
Um dos problemas apontados é que o agente pode tomar uma decisão diferente daquela esperada pelo consumidor, como escolher o produto errado ou gastar mais do que o planejado.
Também existe o risco de fraude. Um agente pode, por exemplo, pedir os dados do cartão do usuário e inseri-los diretamente em um site ou encaminhar o consumidor para uma forma de pagamento que ofereça menos proteção em caso de problema.
A privacidade é outra preocupação. Para realizar tarefas em nome do usuário, essas ferramentas podem precisar acessar informações pessoais e financeiras, aumentando a importância de definir como esses dados serão armazenados e utilizados.
O relatório afirma ainda que consumidores podem não saber quem deve ser responsabilizado caso uma compra feita por um agente dê errado.
O grupo pretende discutir propostas com autoridades e formuladores de políticas para estabelecer regras para esse tipo de comércio.
Entre as sugestões estão a obrigação de informar quando um agente de IA estiver envolvido em uma transação e maior transparência sobre os critérios usados pelos sistemas para tomar decisões.
Os bancos também defendem medidas para proteger os dados dos consumidores e afirmam que clientes e comerciantes devem poder escolher quais serviços de comércio eletrônico baseados em IA querem utilizar.
A interoperabilidade entre diferentes sistemas, permitindo que eles funcionem em conjunto, também aparece entre as propostas.
O movimento já começa a aparecer no comportamento dos consumidores. A varejista britânica John Lewis informou que as buscas em seu site originadas por agentes de IA chegaram a 2,5% em setembro, ante 0,3% um ano antes.
Para os bancos, o crescimento reforça a necessidade de estabelecer regras e proteções antes que o uso desses sistemas se torne ainda mais comum nas compras pela internet.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…