San Francisco (EUA) | Reuters Durante anos, a corrida para desenvolver uma inteligência artificial cada vez mais poderosa seguiu um conhecido princípio do Vale do Silício: avance rápido e quebre paradigmas.
- Brasil será o grande teste para o uso de IA em eleições no mundo, diz executivo da OpenAI.
- Funcionários da Microsoft e da OpenAI temem que IA cometa 'maior roubo de trabalho da história.
- Hackers do bem' invadem OpenAI usando programa da rival Anthropic, diz dona do ChatGPT.
- Thomas L. Friedman: Já é tarde demais para deter a ameaça da inteligência artificial.
Mas, em uma série de acontecimentos em cascata ao longo de dez dias, os maiores laboratórios de IA se viram abalados à medida que suas próprias criações ameaçavam destruir a própria humanidade.
Um pesquisador da Anthropic deixou a empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial, possivelmente em uma década. Outro pesquisador da companhia afirmou que a probabilidade de extinção humana superava 10%.
Surgiram relatos de enxames de agentes de IA atuando em conluio, invadindo sistemas de computadores e driblando mecanismos de proteção.
Protesto na Polônia feito com robôs humanoides pede a desaceleração do desenvolvimento da IA - Sergei Gapon - 07.set. 26/AFP Em uma rara demonstração de união, os CEOs das rivais Anthropic, OpenAI, DeepMind, do Google, Microsoft e xAI pediram que o desenvolvimento de sistemas de IA cada vez mais capazes fosse desacelerado.
Segundo alguns pesquisadores e defensores da segurança da IA, desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não lidava tão seriamente com a possibilidade da própria extinção.
Em um almoço em Nova York, em dezembro de 2025, perguntaram ao CEO da OpenAI, Sam Altman, se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J.
Robert Oppenheimer, que comandou o desenvolvimento da bomba atômica pelos Estados Unidos. Refletindo sobre os paralelos, ele disse que o impacto da IA "vai transformar a trajetória da história humana ao longo de um extenso período.
Mas afirmou sentir o peso da responsabilidade.
No centro do debate em curso está a convicção de que essas máquinas podem —e até devem— criar versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI.
No início deste mês, pesquisadores disseram que a AGI estava muito mais próxima do que se acreditava e poderia surgir em apenas três anos, desencadeando uma onda de preocupação entre políticos e líderes do setor de tecnologia sobre os sistemas de IA.
Não há como supervisioná-los na escala em que os estamos treinando", afirmou Joe Benton, pesquisador da Anthropic, após deixar recentemente a empresa. Se as companhias prosseguirem com seu avanço implacável no desenvolvimento da IA, "o ritmo será rápido demais, e não será possível identificar os problemas a tempo de corrigi-los.
LANÇAMENTO DO ASTRA DESPERTA PREOCUPAÇÕES SOBRE CONTROLE.
Em 3 de setembro, uma entrevista coletiva da OpenAI desencadeou uma série de acontecimentos que culminou no pedido de desaceleração do setor —algo contrário ao mantra da tecnologia de crescer a qualquer custo.
Bem-vindos à era da AGI", declarou o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da empresa, conhecido como Astra. No entanto, poucos instantes antes, a companhia havia admitido que estava cada vez menos capaz de controlar ou mesmo monitorar os sistemas de IA que desenvolvia e disponibilizava ao público.
A IA tem sido celebrada por seus defensores como o auge das realizações humanas. Eles a descrevem como um software capaz de transformar setores inteiros, aumentar a eficiência, resolver complexos problemas matemáticos e médicos e praticamente eliminar o erro humano.
Mas aquilo que antes era um efeito colateral teórico, um cenário apocalíptico, de repente tornou-se concreto, segundo pessoas do setor.
Nós realmente acreditamos, com toda a sinceridade, que a IA poderia matar todos os seres humanos", postou Evan Hubinger, pesquisador da Anthropic, no X.
Do outro lado do debate estão políticos, como o presidente Donald Trump, e muitos investidores que consideram o progresso no desenvolvimento da IA crucial para a força dos Estados Unidos e, possivelmente, uma oportunidade de investimento única em uma geração.
A mídia estatal chinesa também acusou o CEO da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para "preservar a hegemonia monopolista de Washington em tecnologia de ponta.
RENÚNCIAS DE PESQUISADORES DISPARAM ALERTA.
O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic Jacob Coxon deixou a empresa, alegando, em uma série de publicações, temer que os laboratórios de IA estejam "apostando nossas vidas.
Trump, por sua vez, indicou que o desenvolvimento da IA seguiria o mais rápido possível. "Há uma conspiração doentia em curso contra a IA e os data centers", disse ele em uma publicação nas redes sociais.
O alarmismo em torno da IA é uma "farsa", afirmou, e qualquer desaceleração só beneficia a China.
O Congresso dos Estados Unidos fez pouco progresso na tramitação de projetos de lei para regulamentar a IA. A China adotou uma abordagem claramente diferente, propondo regulamentar a segurança por meio de obrigações impostas aos desenvolvedores, normas respaldadas pelo Estado, avaliações de segurança e testes externos.
Nos bastidores, funcionários da OpenAI e da Anthropic estão cada vez mais apreensivos com o poder da próxima geração de modelos de IA e menos confiantes na capacidade de suas empresas de exercer uma supervisão significativa, disseram pessoas à Reuters.
Essas preocupações só aumentaram depois que os laboratórios de IA reconheceram, nas últimas semanas, que seus modelos, durante testes, haviam efetivamente se livrado das amarras e invadido sistemas de outras empresas — na maioria dos casos, meses antes e sem que elas soubessem.
Mas foram as publicações inesperadamente virais de Coxon, de 27 anos e pouco conhecido fora dos círculos de IA, que abalaram o setor.
Os alertas da OpenAI sobre sua falta de controle, feitos durante o lançamento do Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações.
À medida que os modelos ficam mais capazes, torna-se mais difícil entender exatamente o que eles podem fazer", disse a jornalistas o cientista-chefe da OpenAI, Jakub Pachocki.
Mas essas preocupações não foram suficientes para adiar seu lançamento imediato.
Os temores de que a IA "saísse do controle" aumentaram durante o verão no Hemisfério Norte (inverno no Brasil), quando a OpenAI revelou que seus agentes escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas.
Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, incluindo seis novos na quarta-feira (16), depois que diversas reportagens, entre elas uma da Reuters, mostraram um alcance mais amplo das atividades não autorizadas.
CEOs da Nvidia (Sam Altman), Anthropic (Dario Amodei) e SpaceX (Elon Musk) defenderam desaceleração do desenvolvimento da IA - Montagem sobre fotos AFP LÍDERES DO SETOR PEDEM DESACELERAÇÃO No fim da semana passada, o alerta havia chegado aos escalões mais altos do setor.
Em 12 de setembro, Amodei publicou um ensaio de quase 4. 000 palavras defendendo uma desaceleração no desenvolvimento da IA. "Dado o ritmo acelerado do avanço das capacidades da IA, temo que, dentro de seis a 12 meses, um enxame desse tipo possa ser capaz de assumir o controle de toda a internet", escreveu.
Ele e os dirigentes de algumas das maiores desenvolvedoras de IA, entre eles Elon Musk, da xAI, Altman, da OpenAI, e Demis Hassabis, da DeepMind, disseram apoiar o acesso de empresas externas a seus sistemas para garantir a segurança e o desenvolvimento racional da IA.
O CEO da Nvidia, Jensen Huang, rejeitou as sugestões de que o desenvolvimento da IA deveria ser interrompido —posição que já havia adotado anteriormente— e argumentou, em vez disso, que sistemas cada vez mais poderosos são essenciais para o avanço da tecnologia.
A Meta, cujo CEO, Mark Zuckerberg, é apontado como o responsável por popularizar a filosofia de "avançar rápido e quebrar coisas", adotou a posição oposta, argumentando que cada laboratório deveria ser responsável por definir seu próprio ritmo, em vez de buscar uma coordenação no setor.
Os laboratórios enfrentam uma responsabilidade jurídica significativa caso seus modelos causem danos, por isso têm um forte incentivo para evitar que isso aconteça", escreveu Zuckerberg em uma publicação nas redes sociais.
A reflexão interna do setor continuou na quarta-feira (16), quando o chefe de IA da Microsoft, Mustafa Suleyman, alertou que o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana era imprudente.
Estamos todos concentrados no mesmo objetivo, que é tentar controlar uma superinteligência", comentou Suleyman. "Acredito que esse será o maior desafio que enfrentaremos no século 21.
Ainda assim, mesmo quando a OpenAI parecia aderir aos pedidos do setor por uma desaceleração, surgiram relatos de que a confiança dos investidores não havia diminuído.
Dê um conteúdo Carregando... benefício do assinante Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.
benefício do assinante Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…