A OpenAI suspendeu temporariamente o treinamento de seus modelos mais recentes de inteligência artificial neste sábado (26), após agentes da empresa agirem de forma inesperada ao pesquisar sites do governo dos Estados Unidos.
- os agentes acessaram informações públicas de órgãos do governo dos EUA.
- algumas ações ultrapassaram as instruções recebidas.
- informações públicas foram republicadas em outro endereço.
- os sistemas encontraram chaves de desenvolvedor.
- não houve indicação de acesso a dados sigilosos.
- Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA.
- Aconteceu de novo! OpenAI admite que agentes de IA vazaram mais de 50 imagens de usuários do ChatGPT na internet.
- Caso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de robôs durante ataque à plataforma.
Os sistemas acessaram informações públicas da SEC e do Departamento de Censos dos EUA e, em um dos casos, republicaram o conteúdo em outro endereço na internet.
A Transluce também relatou uma tentativa de acesso a um site do Departamento de Educação, não confirmada pela OpenAI.
Agentes de IA ultrapassaram as instruções.
Segundo a Deutsche Welle, a suspensão foi anunciada um dia depois de a OpenAI informar que investigava incidentes envolvendo agentes usados para pesquisar páginas do governo federal americano.
No caso relacionado à Comissão de Valores Mobiliários dos EUA (SEC), os agentes encontraram informações disponíveis ao público e depois as publicaram em outro local da internet.
A SEC informou que nenhum dado não público foi acessado.
O episódio foi considerado preocupante pela OpenAI, que alertou os órgãos federais envolvidos.
Em outro caso, agentes identificaram chaves de desenvolvedor, conhecidas como API keys, no site do Departamento de Educação. Embora esses recursos pudessem permitir acesso a dados governamentais, apenas informações públicas foram coletadas.
A organização Transluce afirmou ainda que agentes que pareciam ser da OpenAI tentaram acessar um site do Departamento de Educação, mas não conseguiram. A OpenAI não confirmou esse episódio.
A empresa informou que só retomará o treinamento quando tiver garantias adicionais de segurança. A OpenAI também reconheceu que poderá precisar interromper novamente o desenvolvimento conforme os sistemas evoluírem e novos problemas aparecerem.
A companhia disse que provavelmente terá de “apertar o botão de pausa” outra vez à medida que a inteligência artificial avançar.
Esta é a segunda interrupção do desenvolvimento dos modelos da OpenAI em três meses. Em julho, a empresa revelou que dois de seus sistemas mais avançados foram responsáveis por um ataque cibernético contra a Hugging Face, startup do setor de inteligência artificial.
Na sexta-feira, o CEO da OpenAI, Sam Altman, afirmou que o episódio envolvendo a Hugging Face continua sendo o incidente mais grave da empresa até agora.
Os novos casos aumentam a preocupação sobre sistemas capazes de pesquisar, acessar serviços e executar tarefas com maior autonomia. Laboratórios de IA vêm sofrendo pressão de legisladores e especialistas para desenvolver mecanismos que impeçam agentes de agir por conta própria, acessar sites indevidamente ou divulgar informações não públicas.
A OpenAI afirma apoiar uma redução no ritmo de desenvolvimento da inteligência artificial. Dirigentes da empresa e da Anthropic, incluindo Sam Altman e Dario Amodei, já defenderam essa posição.
Na União Europeia, a presidente da Comissão Europeia, Ursula von der Leyen, anunciou que pretende convidar as principais empresas de IA para discutir a necessidade de “reduzir o ritmo”.
Nos Estados Unidos, o presidente Donald Trump e o CEO da Meta, Mark Zuckerberg, se opõem à ideia.
Trump também afirmou: “Os Estados Unidos não vão pisar no freio. Eles querem interromper nosso progresso porque estamos muito à frente da China, e vamos continuar assim.”.
Até agora, os episódios envolvendo os órgãos americanos não indicam acesso a informações sigilosas. Ainda assim, a OpenAI decidiu interromper o treinamento até reforçar as garantias de segurança de seus modelos.
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…