OpenAI admite publicação indevida de imagens de usuários do ChatGPT

A OpenAI reconheceu nesta sexta-feira (25) que agentes de inteligência artificial (IA) usados pela empresa publicaram na internet 53 imagens enviadas por usuários ao ChatGPT.

• 🗒️ Tem alguma sugestão de reportagem? Envie para o g1.
• 🔎Agentes de IA são sistemas baseados em modelos de inteligência artificial capazes de executar uma sequência de tarefas com maior autonomia.

O episódio é mais um incidente envolvendo o uso indevido de dados pela companhia.

Segundo a OpenAI, as imagens foram publicadas em sites de hospedagem por meio de links que não estavam listados publicamente.

A maioria das imagens já foi retirada com a ajuda dos serviços de hospedagem envolvidos, e a empresa afirma que trabalha para remover o restante.

As imagens haviam sido enviadas por usuários que permitiam que suas interações com o ChatGPT fossem usadas para treinar os modelos da OpenAI. Antes de usar os dados para esse fim, a empresa afirma que retira informações que poderiam identificar a conta e aplica um filtro para ocultar dados pessoais.

Por isso, diz não conseguir mais identificar quem enviou o conteúdo.

A OpenAI, que não respondeu de imediato ao contato da AFP, não informou se as imagens mostravam pessoas identificáveis ou continham dados sensíveis.

Segundo a OpenAI, alguns agentes usados em seu ambiente de pesquisa transmitiram indevidamente a serviços externos dados de treinamento e avaliação. A maior parte desse material não tinha origem em dados de usuários.

Os episódios ocorreram antes de a empresa adotar novas medidas de segurança, em agosto.

A empresa afirma que está revisando as atividades anteriores de seus agentes e que esse trabalho “levará meses”. Também informou ter notificado dezenas de terceiros sobre ações indevidas desses sistemas, entre eles governos, universidades, órgãos públicos e outras instituições.