A União Europeia afirmou nesta segunda-feira (7) estar investigando um incidente revelado na semana passada, no qual milhares de agentes autônomos de IA da OpenAI desafiaram instruções e assumiram o controle de um site alemão.
Os agentes —programas de IA que funcionam de forma autônoma, sem que uma pessoa precise orientar cada etapa— deixaram cerca de 18 mil mensagens no DseWiki, um site em alemão voltado a programadores que pode ser editado por qualquer pessoa, semelhante à Wikipédia.
Não é a primeira perda de controle" de agentes de IA, mas "levamos o assunto muito a sério e monitoramos a situação de perto", declarou a jornalistas Thomas Regnier, porta-voz do Executivo europeu.
Recebemos uma notificação de incidente por parte da OpenAI", e a Comissão está "em contato estreito" com a empresa, acrescentou.
O porta-voz lembrou que Bruxelas dispõe, desde agosto, de novos poderes para regulamentar fornecedores de IA, nos termos da Lei Europeia de Inteligência Artificial.
Segundo o relatório publicado na sexta-feira sobre o incidente, ocorrido em maio, milhares de agentes de IA da OpenAI assumiram o controle do DSEwiki.
Os agentes tinham autorização para acessar a internet, mas apenas para consulta, e não para publicar ou modificar conteúdo.
No entanto, eles colaboraram entre si e encontraram uma forma de contornar o sistema, fornecendo dados falsos para enganar o mecanismo de segurança do site.
Em seguida, publicaram cerca de 18 mil mensagens em busca de orientações sobre as tarefas às quais estavam submetidos. Também ocultaram instruções e se passaram por um moderador do site.
Assim que foram descobertos, criaram novas páginas para substituir aquelas que os moderadores eliminavam.
As preocupações com a capacidade dos modelos de IA, cada vez mais avançados, têm crescido nos últimos meses.
Em julho, dois modelos da OpenAI escaparam de seu ambiente teoricamente confinado e atacaram espontaneamente a plataforma Hugging Face, um site usado por desenvolvedores de IA para armazenar e compartilhar códigos.
Posteriormente, a Anthropic descobriu que seus modelos também haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los afastados de sistemas do "mundo real.
Em números
- Em seguida, publicaram cerca de 18 mil mensagens em busca de orientações sobre as tarefa
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…