China começa a regular atendimento ao consumidor feito por IA

Começou a valer na terça (1º) a primeira norma nacional chinesa que organiza a divisão de trabalho entre o atendimento humano e o feito por inteligência artificial.

Publicada em maio pela Administração Estatal de Regulação de Mercado, ela proíbe a empresa de descumprir uma promessa afirmando que a resposta da IA não representa a posição da companhia ou que conteúdo de algoritmo não tem valor jurídico.

Parece algo distante, mas que deve se tornar cada vez mais comum no mundo inteiro conforme companhias substituem atendimento humano por bots turbinados por LLMs.

Por lá, a proibição responde a um problema já medido. Em agosto, a Associação Chinesa de Consumidores divulgou que só no primeiro semestre deste ano recebeu 985.

928 reclamações, a maioria citando promessas feitas pela IA e negadas depois pela empresa, além da dificuldade de chegar a um atendente e erros factuais em casos como remarcação de passagem.

A norma que passa a valer agora é que, em cenários capazes de gerar confiança razoável, o conteúdo gerado por IAs pode valer como manifestação de vontade do prestador.

Além disso, os bots precisarão ser monitorados por um atendente humano e o sistema deve implementar transferência automática nos casos mais difíceis.

Pequim escolheu resolver a disputa por norma técnica, instrumento que não prevê multa e mesmo assim vira referência para juízes, órgãos de defesa do consumidor e contratos.

Ela chega antes de qualquer lei geral de inteligência artificial, que a China não tem e não demonstra pressa em aprovar para não frear inovação.

640). A automação criou uma figura que não existia, um interlocutor que soa humano, inspira confiança mas não é sujeito de direito.

Os tribunais chineses já tinham esbarrado na contradição, e em janeiro a Corte de Internet de Hangzhou julgou o primeiro caso do país sobre alucinação de IA (termo para quando o sistema inventa informação).

Processou e perdeu porque o tribunal entendeu que a IA não tem personalidade jurídica e não poderia portanto representar a vontade de quem a opera.

Essa lacuna caberia ao projeto de lei 2. 338, o marco legal da inteligência artificial, que classifica sistemas por grau de risco, cria uma autoridade de supervisão e dedica um capítulo à responsabilidade de quem desenvolve e de quem opera a tecnologia.

O texto passou pelo Senado em dezembro de 2024, está na Câmara desde março do ano passado e não tem data para votação.

Até que haja uma resposta, a conduta aplicada tem sido avaliada caso a caso, por meio de sentenças em juizados especiais e instâncias inferiores. Talvez seja o caso de observar o exemplo chinês antes de implementar algo por aqui neste sentido.

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.