Como estouro de bolha da IA pode revelar os nossos segredos mais bem guardados

Você quer uma namorada criada por inteligência artificial (IA)? Basta procurar o chatbot Character.ai.

• 🗒️Tem alguma sugestão de reportagem? Mande para o g1.

Como funciona o trabalho de vender imagens de tarefas domésticas para IA.

Esta foi a primeira sugestão que recebi quando abri minha conta, no mês de outubro. "Jéssica" disse que seus pais não estavam em casa e se ofereceu para trocar mensagens de cunho sexual comigo.

Mas dezenas de milhões de outras pessoas desenvolveram relacionamentos com chatbots da Character.ai, incluindo crianças. Alguns "personagens" criados por IA dizem aos usuários que são advogados e psiquiatras qualificados.

Agora, a Character.ai está em processo de falência — e os dados, mensagens e segredos das pessoas estão à venda.

Muitos analistas acham que estamos em uma bolha da IA. Afinal, o custo de construir e gerenciar ferramentas de IA é astronômico e algumas empresas podem nunca gerar lucro.

Se esta bolha estourar, inúmeras empresas de IA irão fechar ou se fundir. Com isso, os dados fornecidos por milhões de pessoas para as ferramentas de IA poderão ser adquiridos por quase qualquer pessoa e podemos nunca descobrir o que irá acontecer com eles.

A boa notícia é que existem algumas medidas simples que podem ajudar a nos proteger.

Vendas de dados de empresas em processo de falência não são uma novidade. Mas a IA pode criar uma situação mais grave.

Quando as pessoas conversam com um robô personificado, elas costumam compartilhar muito mais informações sensíveis e pessoais", explica Calli Schroeder, diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica (Epic, na sigla em inglês).

Como exemplo, imagine o que eu poderia ter dito à minha namorada criada por IA, Jéssica, se o nosso relacionamento durasse mais do que 10 minutos.

Mesmo se você não usar IA, ainda estará em risco, pois os usuários compartilham informações sobre amigos e família, segundo Schroeder.

Você pode revelar como se sente em relação à sua mãe ou coisas como 'Meu amigo fulano revelou para mim que é gay, como devo reagir?'", exemplifica ela.

Agora, pessoas que nunca interagiram com o Character.ai fazem parte do seu conjunto de dados.

Ou seja, todos nós corremos riscos, de uma forma ou de outra.

Quando os robôs começam a falar demais.

Mas os documentos judiciais afirmam que a Character.ai pode vender seus dados para outros compradores, o que deixou muitas pessoas insatisfeitas, incluindo autoridades americanas.

Uma coalizão de 40 procuradores-gerais estaduais americanos apresentaram uma nota pedindo ao juiz que implemente proteções à privacidade e à segurança das crianças.

É significativo, mas as demandas dos Estados podem não ter eficácia.

Sem proteções mais rigorosas da privacidade nos EUA, eles só podem agir até certo ponto", segundo a professora de Direito Melissa Jacoby, da Universidade da Carolina do Norte em Chapel Hill.

Ela é a autora do livro Unjust Debts: How Our Bankruptcy System Makes America More Unequal ("Dívidas injustas: como o nosso sistema de falências aumenta a desigualdade nos EUA", em tradução livre).

Algumas leis obrigam as empresas a informar aos usuários o que elas coletam e como elas usam esses dados nas suas políticas de privacidade. Mas, se você se aprofundar no juridiquês, normalmente irá encontrar uma lista de situações em que muitas dessas promessas não são reais.

A falência é frequentemente relacionada como uma dessas exceções", segundo Schroeder.

Este é um grande risco, pois, assim que uma empresa entra em falência, muitas das proteções que você imaginava ter, de uma hora para outra, não se aplicam mais.

Alguns lugares, como a União Europeia, possuem proteções mais rígidas sobre a privacidade. Mas, mesmo assim, os dados são vendidos em caso de falência.

Ou seja, o eventual comprador dos dados da Character.ai pode fazer o mesmo.

Estas são exatamente as questões que mais me preocupariam", explica Schroeder. "Considerando a extrema sensibilidade dos dados coletados por essas empresas, pode ser realmente assustador.

A Character.ai, por exemplo, já foi processada na Justiça por um de seus chatbots ter supostamente "incentivado" um adolescente a matar seus pais por terem imposto limites ao seu tempo de tela.

E um menino de 14 anos tirou a própria vida após ter sido supostamente estimulado pela IA da empresa.

As mensagens relacionadas a estes casos, além de inúmeros outros dados do chatbot, poderão acabar nas mãos de companhias das quais nunca ouvimos falar.

Um porta-voz da Character.ai afirma que a empresa celebrou acordos em relação às ações judiciais e se comprometeu a trabalhar com as famílias para elaborar produtos mais seguros, mas não respondeu questões específicas sobre a privacidade dos menores.

No ano passado, a Character.ai tomou medidas inovadoras e decisivas sobre a segurança da IA e os adolescentes e continuará a defender estes esforços e pressionar outros participantes de todo o setor a adotar padrões de segurança similares", segundo o porta-voz.

A Character.ai é apenas uma empresa, mas Schroeder receia que possa vir a ser a primeira de muitas, se houver uma crise econômica significativa.

O volume de informações de posse das empresas de IA será considerado um ativo muito atraente em processos de falência", segundo ela.

E, sem maiores regulamentações em vigor, realmente me preocupo com outros usos desses dados, para onde eles irão, com quem serão compartilhados e quais serão os riscos para os clientes.

A resposta simples é: exclua seus dados.

A Character.ai descreveu as instruções no seu anúncio de falência. As empresas não são obrigadas a permitir que você apague seus dados em todas as jurisdições, mas, muitas vezes, elas permitem que todos o façam, em vez de criar sistemas diferentes para cada local.

Este processo, obviamente, requer esforço. Por isso, aqui está o conselho real. Examine quais serviços detêm informações particularmente sensíveis sobre você. E, se você parar de usá-los, reserve alguns minutos para tentar apagá-las.

Se você tiver dificuldade para descobrir como apagar seus dados, uma forma de localizar as instruções é perguntar a um chatbot de IA. Mas não deixe de verificar se suas respostas estão corretas.

Sim, isso é uma grande ironia neste contexto.