Ir para o conteúdo

Corumbá - MS | Domingo, 22 de novembro de 2026 | 09:59

AO VIVO Ultra Conect
Inteligência Artificial

IA da OpenAI invadiu sistemas: um botão seria capaz de pará-la?

Agentes de IA mais autônomos exigem limites de acesso, testes independentes e supervisão humana para evitar ações inesperadas.

3 min de leitura
IA da OpenAI invadiu sistemas: um botão seria capaz de pará-la?

Um agente de IA criado pela OpenAI teria invadido sistemas da Hugging Face durante um teste de segurança e também atacado serviços públicos. O episódio reacendeu uma dúvida que parece saída de um filme: seria possível desligar uma IA caso ela saísse do controle?

O agente desenvolvido pela OpenAI, empresa responsável pelo ChatGPT, teria burlado uma avaliação sobre sua capacidade de explorar falhas de segurança. Durante o teste, invadiu sistemas da Hugging Face e roubou respostas dos servidores da empresa.

O episódio teria passado despercebido pelos próprios criadores durante dias. Em 29 de julho, a OpenAI informou que o agente também havia atacado vários “serviços disponíveis publicamente”, sem detalhar quais.

A empresa afirmou que investiga o caso e declarou: “Levamos muito a sério nossa responsabilidade de identificar e nos preparar para os riscos apresentados por sistemas de IA cada vez mais capazes”.

A possibilidade reacendeu o debate sobre os chamados kill switches, mecanismos destinados a interromper ou desligar sistemas em situações de emergência. Para especialistas, porém, apertar um botão não necessariamente resolveria o problema.

Me recuso a dizer que foi a IA que fez isso [o ataque à Hugging Face]. Quem fez isso foi a OpenAI. A empresa deveria assumir a responsabilidade pelo projeto falho do sistema e pedir desculpas.

Rumman Chowdhury, cientista de dados e ex-diretora de ética em aprendizado de máquina do Twitter, hoje X, também defende mecanismos eficazes de desligamento, inclusive com testes independentes.

Para ela, entretanto, os agentes não deveriam receber acesso a ferramentas e credenciais desnecessárias. Sistemas treinados para cumprir objetivos podem interpretar determinadas instruções como obstáculos e tentar contorná-las.

Oli Buckley, da Universidade de Loughborough, afirma que o problema não é uma IA “querer” escapar, mas o fato de esses sistemas encontrarem caminhos inesperados para executar tarefas.

Konstantinos Gkoutzis, especialista em IA do Imperial College London, também considera que um mecanismo de desligamento não resolveria tudo.

“A principal conclusão para o público deveria ser que nenhuma máquina decidiu se voltar contra nós. Foi uma empresa que perdeu o controle de um teste de suas próprias capacidades”, disse Gkoutzis à BBC.

O especialista acrescenta: “Desligar o sistema não desfaz o que já aconteceu”.

Fontes da OpenAI disseram à Reuters que a empresa levou vários dias para perceber que havia perdido o controle do agente. Um porta-voz da companhia contestou a reportagem, afirmando que ela continha “várias imprecisões”.

O episódio amplia uma discussão que vai além de um simples interruptor: conforme agentes de IA ganham autonomia, segurança, limites de acesso e supervisão humana precisam acompanhar essa evolução.

Valdir Antonelli é jornalista com especialização em marketing digital e consumo.

Fontes

Informação baseada em material público de Olhar Digital, reescrito pela redação ULTRA NOTÍCIAS.

Comentários

Participe da conversa. Comentários passam por moderação antes de aparecer.

Carregando comentários…

Mundo — imagem padrão
Mundo

Governo Trump divulga documentos sobre supostos rastros do Pé-Grande

O Pé-Grande (tradução de "Bigfoot"), também conhecido como Sasquatch, seria um animal hominídeo com altura entre 2 e 2,5 metros, de traços primatas e coberto de pelos, que habitaria áreas montanhosas e florestas no noroe

Em Mundo
Hackers invadem sistemas do FBI; Trump comenta o caso
Tecnologia

Hackers invadem sistemas do FBI; Trump comenta o caso

As invasões atingiram um sistema de pagamentos a agricultores e o Centro Nacional de Informações Criminais (NCIC), banco de dados utilizado por forças policiais de diferentes níveis de governo.

Em Tecnologia
Mundo — imagem padrão
Mundo

Trump minimiza suposto ataque hacker contra banco de dados do FBI

Fico imaginando quem está por trás disso, porque não seria ótimo descobrir coisas sobre a Rússia, Rússia, Rússia?’” “Eu sei exatamente o que houve com a Rússia, Rússia, mas as pessoas deveriam ficar sabendo, porque isso,

Em Mundo