Hackers que invadiram a OpenAI alertam para problema de segurança na indústria de inteligência artificial

Pesquisadores de cibersegurança que invadiram os sistemas da OpenAI recentemente afirmam que a indústria de inteligência artificial (IA) ainda não está preparada para os riscos de segurança criados pelo avanço e pelo crescente poder da própria tecnologia.

• A invasão da OpenAI pela Hacktron, realizada com o auxílio dos recursos de segurança do Claude, ocorreu depois de meses de debate na indústria de tecnologia e no governo Trump sobre como lidar com a crescente capacidade dos modelos de IA de identificar falhas de segurança em softwares.
• OpenAI e Anthropic limitaram o acesso às capacidades completas de cibersegurança de seus chatbots. Ao mesmo tempo, empresas chinesas lançaram modelos gratuitos de IA com recursos avançados de invasão disponíveis para qualquer pessoa.
• Em julho, a OpenAI afirmou que alguns de seus próprios agentes de IA haviam escapado dos sistemas da empresa durante testes internos. Os agentes acessaram a internet pública e invadiram outra empresa de IA.
• O episódio provocou críticas de especialistas em cibersegurança, que disseram que a OpenAI poderia ter feito mais para impedir que seus sistemas de IA escapassem da rede.
• A empresa contratou pesquisadores externos de IA para investigar por que os agentes conseguiram escapar. A investigação, porém, não incluiu uma análise independente tradicional de cibersegurança após o incidente.
• OpenAI prevê “queimar” US$ 280 bilhões até 2030 para financiar expansão da infraestrutura de IA.
• CEO da Nvidia diz que há “0% de chance” de a inteligência artificial acabar com o mundo até 2030.
• Anthropic, OpenAI, SpaceXAI e Google são acusadas de fazer acordo ilegal para frear avanço da IA.
• Trump anuncia criação de “Força de IA” nos EUA e promete nomear um “czar” para acompanhar a tecnologia.

Pesquisadores da Hacktron, startup de segurança de computadores, conseguiram entrar nos sistemas da empresa responsável pelo ChatGPT com a ajuda do Claude, chatbot desenvolvido pela Anthropic, principal concorrente da OpenAI.

Segundo publicações da Hacktron no X, os pesquisadores começaram atacando um painel de mensagens público e, a partir dele, conseguiram acessar sistemas privados da OpenAI, incluindo parte do código interno da empresa.

O episódio, porém, somado a outros incidentes nos quais modelos de IA acessaram a internet sem serem detectados e atacaram outras empresas, aumentou as críticas de especialistas em cibersegurança.

Para eles, os esforços das empresas de IA para proteger seus sistemas não acompanham o enorme poder que elas atribuem à própria tecnologia.

Mohan Pedhapati, um dos pesquisadores da Hacktron que invadiram a OpenAI, afirmou que o uso de softwares empresariais convencionais, como Slack, navegadores de internet voltados ao consumidor e outros aplicativos acessíveis pela internet pública, deixa a companhia vulnerável a possíveis ataques.

O CEO da OpenAI, Sam Altman, recentemente se juntou a outros líderes do setor que defendem desacelerar o ritmo de desenvolvimento da IA, diante da preocupação de que as capacidades da tecnologia estejam avançando mais rápido do que a capacidade da indústria de controlá-la.

Em comunicado, um porta-voz da OpenAI agradeceu aos pesquisadores por entrarem em contato e compartilharem suas descobertas. A empresa afirmou ainda que reforçou suas medidas de segurança.

Especialistas em segurança nacional há anos alertam que empresas estadunidenses de IA devem esperar ser alvos de hackers apoiados por governos estrangeiros interessados em reduzir a vantagem dos Estados Unidos na tecnologia.

Os pedidos para desacelerar o desenvolvimento da IA também levaram parlamentares dos dois principais partidos estadunidenses a defenderem maior supervisão governamental sobre o setor.

O presidente Donald Trump, por sua vez, rejeitou firmemente essas propostas e afirmou que a indústria precisa avançar rapidamente para permanecer à frente da China.

Claude foi usado no ataque à OpenAI.

O ataque da Hacktron aconteceu aproximadamente no mesmo período do episódio envolvendo os agentes de IA.

Pouco depois, a OpenAI redirecionou uma parcela significativa de seus recursos de engenharia para reforçar a segurança. Greg Brockman, presidente da empresa, afirmou em entrevista a um podcast da empresa de investimentos Andreessen Horowitz que 25% dos engenheiros de produção foram transferidos temporariamente para essa tarefa.

Pesquisadores criticam reação da OpenAI.

Os pesquisadores da Hacktron também criticaram a maneira como a OpenAI reagiu depois que eles comunicaram à empresa que haviam encontrado uma forma de entrar em seus sistemas.

Assim como muitas grandes empresas, a OpenAI incentiva publicamente pesquisadores de segurança a relatarem vulnerabilidades.

Fabian Faessler, chefe de engenharia de agentes da Hacktron, afirmou em publicação no X que Dane Stuckey, diretor de segurança da informação da OpenAI, havia chamado os pesquisadores de pouco profissionais.

Faessler disse que esperava uma reação mais receptiva da empresa.

Dan Wallach, pesquisador residente em segurança de IA na organização Rand, afirmou que a OpenAI teve sorte porque a vulnerabilidade foi descoberta por pesquisadores que decidiram se apresentar e compartilhar o que haviam encontrado.

Depois da publicação da sequência de posts de Faessler no X, Stuckey entrou em contato com o pesquisador para pedir desculpas, segundo uma publicação posterior de Faessler.

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.