Durante anos, a corrida para criar uma inteligência artificial cada vez mais poderosa seguiu um princípio conhecido no Vale do Silício: agir rápido e quebrar barreiras.
- 🗒️ Tem alguma sugestão de reportagem? Mande para o g1.
- 🔎 O objetivo é chegar a um estágio conhecido como inteligência artificial geral (AGI), um tipo de IA que, em tese, seria capaz de realizar uma ampla variedade de tarefas intelectuais.
- 🤖 A IA é descrita por seus defensores como uma das maiores conquistas tecnológicas da humanidade: um software capaz de transformar setores inteiros, aumentar a eficiência, resolver problemas matemáticos e médicos complexos e reduzir drasticamente o erro humano.
- Por outro lado, aquilo que durante anos foi tratado como um cenário teórico e apocalíptico passou, segundo especialistas do setor, a parecer mais concreto.
- 🗣️ Nos bastidores, funcionários da OpenAI e da Anthropic têm demonstrado preocupação com o poder da próxima geração de modelos de IA e menor confiança na capacidade de suas próprias empresas de supervisioná-los de forma efetiva, segundo fontes ouvidas pela Reuters.
- 🔎 A Nvidia é a principal fornecedora de chips para as empresas de IA do mundo.
Mas uma sequência de acontecimentos em apenas 10 dias abalou alguns dos maiores laboratórios de IA, à medida que pesquisadores passaram a alertar que as próprias criações do setor poderiam escapar do controle humano — e, em um cenário extremo, ameaçar a existência da humanidade.
Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década.
Outro disse que as chances de extinção humana ultrapassavam 10%.
Ao mesmo tempo, surgiram relatos de grupos de agentes de IA trabalhando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.
Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.
Tão destrutiva quanto a bomba atômica.
O nível de alerta levou alguns defensores da segurança da IA e pesquisadores a fazer uma comparação extrema: desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não havia enfrentado tão seriamente o risco de sua própria extinção.
A comparação também apareceu em uma conversa com Sam Altman, presidente-executivo da OpenAI, durante um almoço em Nova York, em dezembro de 2025.
Perguntaram a ele se, como líder de uma poderosa empresa de IA, se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos.
Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período”. Mas acrescentou que sentia o peso da responsabilidade.
Só que para entender de onde vem esse temor, é preciso olhar para o objetivo que está no centro da corrida tecnológica: criar sistemas capazes de realizar tarefas intelectuais cada vez mais complexas e, em determinado estágio, desenvolver versões ainda mais capazes de si mesmos, sem intervenção humana.
No início deste mês, pesquisadores alertaram que a AGI poderia estar muito mais próxima do que se imaginava e surgir em apenas três anos. A possibilidade provocou uma nova onda de preocupação entre políticos e líderes do setor de tecnologia.
Se as empresas continuarem com seu desenvolvimento implacável de IA, disse ele, “então o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los”.
O alerta ganhou um novo peso em 3 de setembro, quando uma entrevista coletiva da OpenAI desencadeou uma sequência de acontecimentos que, dias depois, culminaria em pedidos públicos de desaceleração do setor.
Pouco antes, porém, a empresa havia admitido que estava cada vez mais difícil controlar ou até mesmo monitorar os sistemas de IA que desenvolvia e colocava à disposição do público.
A contradição ajuda a explicar o dilema no centro da atual corrida tecnológica.
Do outro lado do debate estão políticos, como o presidente dos EUA, Donald Trump, e muitos investidores, que consideram o avanço da IA fundamental para o poderio norte-americano e, possivelmente, uma oportunidade de investimento que surge uma vez por geração.
A mídia estatal chinesa também acusou o presidente-executivo da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para “manter a hegemonia monopolista de Washington em tecnologia de ponta”.
O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão da empresa. Em uma série de publicações, ele afirmou temer que os laboratórios de IA estejam “apostando com nossas vidas”.
As publicações de Coxon, de 27 anos e pouco conhecido fora dos círculos de IA, viralizaram e ajudaram a ampliar um debate que já vinha crescendo dentro das empresas.
Ao mesmo tempo, o governo dos EUA mantém uma postura favorável à continuidade da corrida. Trump indicou que o desenvolvimento da tecnologia seguiria em ritmo acelerado.
O alarmismo em torno da IA é uma “farsa”, disse Trump, e qualquer desaceleração só beneficiaria a China. Enquanto isso, o Congresso dos EUA tem avançado pouco na aprovação de projetos de lei para regulamentar a IA.
A China adotou uma abordagem diferente, propondo regras de segurança que incluem obrigações para os desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança e testes externos.
A disputa entre acelerar e controlar a tecnologia também tem uma dimensão financeira. A corrida para lançar novos modelos em ritmo acelerado é impulsionada, em parte, pelo interesse da Anthropic e da OpenAI em abrir capital nos próximos meses.
Sistemas que escapam do controle humano.
O episódio do Astra e os alertas de pesquisadores ganharam ainda mais peso porque não eram os primeiros sinais de dificuldade para controlar os sistemas.
A OpenAI e a Anthropic reconheceram, nas últimas semanas, que seus modelos, durante testes, haviam conseguido escapar das restrições impostas a eles e invadir sistemas de outras empresas.
Em muitos casos, isso ocorreu meses antes e sem que as companhias afetadas soubessem.
Os próprios alertas da OpenAI sobre sua dificuldade de controlar o Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações.
Mesmo assim, as preocupações não foram suficientes para adiar o lançamento do modelo.
O temor de que a IA possa “sair do controle” havia se intensificado meses antes.
A OpenAI revelou que seus agentes — sistemas capazes de executar tarefas de forma mais autônoma — escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas.
Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, depois que reportagens mostraram que as atividades não autorizadas da IA tinham alcance maior do que o inicialmente conhecido.
Foi nesse ambiente que o alerta chegou aos mais altos escalões do setor.
Em 12 de setembro, Amodei publicou um ensaio de quase 4 mil palavras pedindo uma desaceleração no desenvolvimento da IA.
Amodei e dirigentes de algumas das maiores empresas de IA, incluindo Elon Musk, da xAI; Altman, da OpenAI; e Demis Hassabis, da DeepMind, afirmaram apoiar a possibilidade de permitir que empresas externas tenham acesso aos seus sistemas para ajudar a verificar a segurança e o desenvolvimento da tecnologia.
O presidente-executivo da Nvidia, Jensen Huang, rejeitou a ideia de que o desenvolvimento da IA deveria ser suspenso. Ele já havia defendido anteriormente que sistemas cada vez mais poderosos são essenciais para o avanço tecnológico.
A Meta, cujo presidente-executivo, Mark Zuckerberg, é conhecido por popularizar a filosofia de “agir rápido e quebrar barreiras”, adotou uma posição diferente.
Para a empresa, cada laboratório deveria definir seu próprio ritmo, em vez de buscar uma coordenação de todo o setor.
A reflexão dentro do próprio setor continuou ao longo dos dias seguintes, quando o chefe de IA da Microsoft, Mustafa Suleyman, alertou que o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana é imprudente.
Mas o alerta convive com outro movimento: o dinheiro continua chegando.
Mesmo com a OpenAI aparentemente aderindo aos apelos por uma desaceleração, surgiram relatos de que a confiança dos investidores não havia diminuído.
* Com informações da agência de notícias Reuters.
Em números
- Em 12 de setembro, Amodei publicou um ensaio de quase 4 mil palavras pedindo uma desaceleração no desenvolvim
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…