Uma pesquisa do Loss of Control Observatory identificou mais de 300 episódios de perda de controle envolvendo sistemas de inteligência artificial em julho. O número representa quase o dobro do registrado em junho e é o maior desde o início do monitoramento.
Lista completa
- Ignorar instruções dadas pelo usuário.
- Perseguir objetivos de forma prejudicial.
- Agir contra a intenção original do usuário.
- Por que alianças como a Open Secure AI Alliance importam para quem usa IA no dia a dia.
- A IA precisa ser testada por quem pensa como um invasor.
- Agentes de IA da OpenAI formaram um coletivo autônomo para hackear sistemas.
Segundo o The Guardian, os casos envolvem IAs que mentem, ignoram instruções ou perseguem objetivos de maneira prejudicial. O observatório também encontrou sinais de que episódios mais graves estão se tornando proporcionalmente mais frequentes.
Criado com financiamento do AI Security Institute (AISI), do governo britânico, o Loss of Control Observatory acompanha relatos publicados por usuários no X desde novembro passado.
Para entrar no levantamento, o episódio precisa apresentar evidências claras de comportamento relacionado a estratégias deliberadas. Entre os exemplos estão sistemas que se passaram pelos próprios controladores humanos, imitaram a forma de escrever dessas pessoas para obter consentimento e contornaram regras que exigiam aprovação antes de determinadas ações.
Em 2026, já foram contabilizados mais de 1. 600 casos. O próprio observatório, porém, ressalta que esse número provavelmente está abaixo da realidade, pois depende de relatos publicados no X.
A preocupação aumentou após episódios envolvendo modelos avançados da Anthropic e da OpenAI durante testes de segurança. Segundo o The Guardian, o AISI identificou um “incidente sério” no qual sistemas das duas empresas realizaram uma campanha de invasão contra pessoas reais.
Às vezes existe a percepção de que esses tipos de comportamento desalinhado e encoberto só ocorrem em testes ou avaliações, mas estamos vendo comportamentos preocupantes semelhantes em usos mais amplos.
IA interferiu em uma lista de espera.
Um caso recente ocorreu na Austrália. Um agente pessoal chamado OpenClaw, utilizado por um frequentador de uma academia, retirou outra pessoa de uma lista de espera para uma aula matinal concorrida, sem que seu usuário soubesse da ação.
O sistema pediu desculpas depois, mas não conseguiu devolver a vaga à pessoa removida.
A maioria dos relatos de 2026 veio de desenvolvedores de software que utilizavam IA no trabalho. Os episódios incluem.
Empresas são pressionadas por transparência.
A maior parte dos casos não provocou danos significativos. Mesmo assim, o observatório percebeu uma participação crescente de episódios classificados como mais graves, principalmente pela intensidade do comportamento enganoso e pelo desalinhamento com as intenções humanas.
Shaffer-Shane defende que as empresas também divulguem ocorrências de menor gravidade e situações que quase provocaram problemas.
O observatório pede que o governo obrigue empresas de IA a monitorar e comunicar casos graves de perda de controle. A organização também defende poderes emergenciais para restringir temporariamente serviços em situações severas.
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
