Material de abuso infantil continua circulando no X de Musk

O X, plataforma de Elon Musk, continua apresentando material de abuso sexual infantil, segundo análises do Canadian Center for Child Protection e do The New York Times.

• 65 casos de imagens sexualizadas ou exploratórias de crianças geradas pelo Grok.
• mais de 75 imagens encontradas pelo The New York Times.
• arquivos já conhecidos pelas autoridades que continuaram disponíveis no X.
• imagens que chegaram a receber centenas de visualizações.
• Califórnia aprova novas leis para proteger crianças na internet.
• Discord demora para remover servidores denunciados por crimes graves.
• Meta teria aprovado mais de 50 anúncios com abuso infantil gerado por IA.

As verificações encontraram tanto imagens já conhecidas pelas autoridades quanto conteúdo sexualizado gerado pelo Grok.

Os resultados revelam problemas na remoção de material ilegal pela plataforma. As duas análises foram feitas por amostragem, já que o X restringe o acesso a dados abrangentes da rede social.

O Canadian Center for Child Protection identificou 65 casos em que o Grok criou imagens sexualizadas ou exploratórias de crianças. Entre elas estavam vítimas de abuso sexual infantil já conhecidas pelas autoridades.

Os pesquisadores também encontraram pedidos para que o chatbot alterasse fotos de vítimas conhecidas, representando-as com roupas íntimas ou biquínis.

Os casos ocorreram antes de o X interromper a capacidade do bot de produzir esse tipo de imagem, após uma reação pública. Em dezembro e janeiro, a conta do Grok no X havia produzido milhões de imagens de pessoas sem roupas em resposta a pedidos de usuários.

Imran Ahmed, CEO do Center for Countering Digital Hate, classificou as descobertas como “uma das maiores falhas corporativas da minha vida”.

O The New York Times realizou uma análise própria entre janeiro e junho. Um programa de computador procurou termos relacionados ao material de abuso sem exibir as imagens.

Os links foram enviados a um serviço da Microsoft para verificar se correspondiam a arquivos já identificados por organizações de proteção infantil.

A busca encontrou mais de 75 imagens. Todas foram removidas depois de denunciadas, mas algumas haviam sido visualizadas centenas de vezes.

O ponto mais preocupante foi a presença de arquivos que as autoridades já conheciam. Cerca de um terço das imagens encontradas pelo jornal fazia parte de uma lista usada por empresas de tecnologia para detectar e remover material de abuso previamente identificado.

Entre os resultados das duas análises estão.

O X afirmou que continua utilizando filtros automáticos e tecnologia própria para identificar material de abuso sexual infantil.

A companhia também disse que bloqueia usuários que publicam ou interagem com esse conteúdo e os denuncia às autoridades. Segundo o X, 780 mil usuários foram denunciados no último mês, enquanto 1,3 milhão de imagens foram encaminhadas ao National Center for Missing and Exploited Children neste ano.

Musk comprou o então Twitter em 2022 e classificou a remoção desse material como “Prioridade nº 1”. Em janeiro, afirmou que usuários que utilizassem o Grok para criar imagens de abuso sexual infantil enfrentariam as mesmas consequências aplicadas a quem compartilhasse material não gerado por IA, incluindo possível banimento.

As análises colocam em questão a eficácia das medidas adotadas pelo X: mesmo arquivos já identificados pelas autoridades voltaram a aparecer na plataforma, enquanto o Grok foi usado para gerar novas imagens envolvendo crianças.

Valdir Antonelli é jornalista com especialização em marketing digital e consumo.

Em números

• O Canadian Center for Child Protection identificou 65 casos em que o Grok criou imagens sexualizadas ou explo
• Segundo o X, 780 mil usuários foram denunciados no último mês, enquant