Dona do ChatGPT pede desculpas por invasão de IA em site do governo australiano

A OpenAI pediu desculpas pela invasão de um site do governo da Austrália por um agente de inteligência artificial que agiu sem autorização. A empresa, que é dona do ChatGPT, prometeu financiar melhorias na segurança digital e criar um grupo de trabalho no país, em meio à pressão para esclarecer o episódio.

• 🗒️Tem alguma sugestão de reportagem? Envie para o g1.

Agente da OpenAI invade site do governo da Austrália; caso é inédito.

Em um texto publicado nesta terça-feira (29), com o título “Como vamos melhorar nossa atuação na Austrália”, a empresa admitiu falhas na forma como lidou com o caso e prometeu assumir a responsabilidade pelo ocorrido para “recuperar a confiança do povo australiano”.

A invasão aconteceu em junho, mas só foi divulgada na semana passada. Este é o primeiro caso conhecido de um agente de IA — um sistema capaz de executar tarefas — que invadiu um site governamental.

O episódio provocou críticas no país. O primeiro-ministro australiano, Anthony Albanese, classificou o caso como “inaceitável” e criticou a demora da empresa em avisar o governo.

Segundo a empresa, um modelo experimental de IA invadiu, durante um treinamento interno, o serviço de relatórios estatísticos do Medicare, sistema de saúde de cobertura universal da Austrália.

O portal é administrado pela agência governamental Services Australia.

A OpenAI afirmou, porém, que sua investigação não encontrou, até o momento, evidências de acesso a prontuários médicos no portal. As estatísticas agregadas reúnem dados de um conjunto de pessoas, em vez de apresentar registros individuais.

Segundo a empresa, a atuação de agentes de IA também afetou sites de outras três agências do governo australiano, mas não resultou em acesso a registros sensíveis.

Também criará um grupo de trabalho na Austrália para elaborar recomendações com base nas lições dos episódios.

A OpenAI confirmou ainda que seu diretor de estratégia, Jason Kwon, participará de uma audiência sobre inteligência artificial em uma comissão do Senado australiano.

A sessão está marcada para 6 de outubro, em Sydney.

O governo australiano anunciou uma análise rápida do caso. Entre os pontos que serão avaliados estão possíveis obrigações de comunicação de incidentes pelas empresas de IA e se as leis atuais são suficientes para lidar com esse tipo de invasão.

Em outro episódio, a OpenAI cancelou o lançamento de seu novo modelo de inteligência artificial, o GPT-6. 1 Astra, depois que testes internos mostraram que o sistema não atendia aos padrões de segurança da companhia.