Legenda da figura, 'Há possibilidade de extinção humana', ex-empregado da Anthropic diz sobre IA.
Publicado 13 de setembro de 2026, 02:15 BST.
Chefe da Anthropic, Dario Amodei, pede que o desenvolvimento de IA seja desacelerado. Publicado há 14 horas.
Pesquisador da Anthropic acredita que há mais de 10% de chance de a IA 'pode matar todos os humanos' Publicado há 3 dias.
Advertências dramáticas de insiders sobre IA não têm efeito com alguns em Silicon Valley. Publicado há 2 horas.
Governo do Reino Unido rejeita ideia de “kill switch” para IA perigosa Publicado há 1 dia.
Um pesquisador de inteligência artificial que deixou a empresa de IA Anthropic afirmou que as pessoas que trabalham com a tecnologia estavam “genuinely frightened” sobre a velocidade de seus avanços e o que isso poderia significar para a humanidade.
Acredito que, se não desacelerarmos no ritmo atual de progresso, há uma forte chance de que todos possamos morrer no futuro imediato," ele disse.
Jacob Coxon estava conversando com a BBC depois que sua postagem de renúncia sobre os perigos da IA se tornou viral em meio a crescentes preocupações de segurança sobre a indústria.
O antigo chefe do jovem de 27 anos, Dario Amodei, chefe da Anthropic, recentemente pediu que o desenvolvimento de IA desacelere - embora alguns tenham questionado as motivações por trás disso.
Os chefes de duas empresas rivais de IA, Sam Altman da OpenAI e Elon Musk da xAI, disseram que concordam com a proposta de Amodei de desaceleração e regulamentação em toda a indústria, bem como com o monitoramento independente do desenvolvimento de modelos de IA.
Amodei escreveu em um ensaio no sábado que desenvolver a tecnologia não era uma questão, mas os riscos associados a ela eram “serios”, e que as empresas e os governos devem ter tempo para lidar com eles.
Coxon – que trabalhou na OpenAI antes de se juntar à Anthropic – acolheu a sugestão de desaceleração, mas disse que seria necessário coordená-la com a China para evitar “uma corrida em escala internacional.”.
As pessoas que trabalham nessas empresas são completamente sérias quando pedem regulamentação porque se veem presas em uma corrida. E elas têm medo dos resultados dessa corrida," ele disse no domingo com Laura Kuenssberg.
A pergunta mais difícil de responder, segundo Coxon, era como seria um apocalipse de IA.
Um dos riscos apontados nos comentários de Amodei era a possibilidade de um enxame de bots atuando como um supercomputador que poderia dominar a internet.
Coxon disse que esse cenário pode ser realista em seis meses a um ano.
Em resposta à saída de Coxon, um porta-voz da Anthropic disse à BBC News: “Sempre fomos transparentes ao afirmar que a IA trará tanto benefícios enormes quanto riscos sem precedentes.”.
Para lidar com esses riscos, continuamos a construir modelos com algumas das salvaguardas mais fortes do setor.
A empresa tem sido pioneira no estudo de como os modelos de IA funcionam, acrescentou o porta-voz. Foi a primeira a publicar uma estrutura para mitigar os riscos representados por seu desenvolvimento - e também testa "agressivamente" seus modelos e publica as descobertas para auxiliar no escrutínio e evitar incidentes de "desalinhamento de IA.
Este trabalho também é o motivo pelo qual acreditamos que o mundo se beneficiaria com a indústria adotando uma maneira legal e verificável de trabalhar em conjunto para acompanhar a forma como lançamos modelos poderosos ", disseram eles.
Coxon disse que seus colegas temiam que o perigo pudesse chegar mesmo nos próximos dois anos.
Ele disse que os funcionários das empresas de IA estavam "planejando o que fazer com suas vidas e pensando sobre os impactos de seu trabalho", enquanto alguns estavam "considerando comprar terras em algum lugar porque estão com muito medo da instabilidade como resultado do rápido progresso da IA.
Eles mantêm isso em mente diariamente enquanto trabalham na tecnologia.
Mas Coxon tinha algum otimismo sobre o futuro da IA, dizendo à BBC que as pessoas que pesquisam a tecnologia "querem genuinamente ver o lado positivo" de coisas como "resolver doenças e melhorar a vida de todos.
Muitos outros na indústria também expressaram suas preocupações desde o post de mídia social de Coxon, incluindo o cientista antrópico Evan Hubinger.
Acreditamos sinceramente que a IA poderia matar todos os humanos! Pessoalmente, acho que é >10% na próxima década ", disse Hubinger.
O cientista da computação e vencedor do Prêmio Nobel Geoffrey Hinton, conhecido como o “Padrinho da IA”, disse à BBC na sexta‑feira que uma chance de 10 % de a IA matar todos os humanos não era “irrazoável”, externo.
Enquanto isso, Marc Warner, executivo-chefe da empresa de segurança de IA Faculty, disse à BBC que era "extremamente difícil colocar uma probabilidade" de que a IA matasse todos os humanos.
Mas é importante reconhecer que essas pessoas são muito sinceras no que estão dizendo ", acrescentou, observando que os riscos em torno da IA foram levantados pelos chefes de várias empresas de IA há anos.
O ex-primeiro-ministro Rishi Sunak, que é um conselheiro pago da Anthropic, escreveu no Sunday Times, externamente, que ele também estava preocupado com o risco da IA para a humanidade, apesar de geralmente estar otimista.
No entanto, alguns números do setor sugeriram que os comentários sobre os perigos e o poder da IA podem ser projetados para gerar hype.
Depois que o ensaio de Amodei foi publicado, no entanto, Delangue ofereceu-se para ajudar a fazer parte das soluções potenciais que o chefe da Anthropic propôs.
Enquanto isso, o chefe da Nvidia, Jensen Huang, também discutiu os comentários de Coxon em uma conferência organizada pelo banco de investimentos Goldman Sachs na semana passada, disseram várias pessoas do grupo à BBC.
Huang disse anteriormente que a noção de que a IA "seria o fim da humanidade" era "um completo absurdo.
E embora ele possa ter um interesse comercial em um boom de IA - a Nvidia constrói chips que alimentam os sistemas de IA - seus comentários refletem uma reação crescente no Vale do Silício às advertências existenciais de funcionários atuais e antigos.
Outros críticos dizem que a Anthropic vem tentando desencadear um impulso regulatório para bloquear a concorrência, deixando a empresa e a OpenAI em um duopólio.
Anthropic está supostamente se preparando para uma oferta pública inicial potencialmente recorde na bolsa de valores, permitindo que as pessoas comprem ações da sua empresa.
Por que alguns especialistas temem cada vez mais que a IA assuma o controle.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…