Pesquisadores da Anthropic fazem alerta assustador: IA pode levar à extinção humana

Pesquisadores e funcionários da Anthropic estão aumentando publicamente os alertas sobre os riscos do avanço da inteligência artificial (IA). Integrantes da própria empresa afirmam que a tecnologia pode se tornar tão avançada e perigosa que teria potencial para provocar a extinção humana na próxima década.

• Entre os alertas mais contundentes está o de Evan Hubinger, que se identifica como líder na divisão de alinhamento da Anthropic, área dedicada a garantir que os modelos da empresa funcionem de acordo com objetivos humanos.
• Hubinger afirmou que Coxon está correto e que a indústria está ficando para trás na tentativa de lidar com o potencial catastrófico da tecnologia. “Nós realmente acreditamos que a IA poderia matar todos os humanos!”, escreveu.
• O pesquisador acrescentou que, pessoalmente, estima em mais de 10% a probabilidade de isso acontecer na próxima década.
• Outro pesquisador de segurança da Anthropic, Samuel Marks, também afirmou que desenvolvedores de IA acreditam que a tecnologia poderia provocar a extinção humana ou consequências igualmente graves.
• Segundo Marks, isso poderia acontecer nos próximos anos e, de maneira geral, quanto mais sênior o funcionário, maior seria sua preocupação.
• Claude.AI: como usar inteligência artificial.
• 5 prompts para obter respostas mais inteligentes no Claude, IA da Anthropic.
• Anthropic cede à pressão e libera IA Mythos 5 para testes de cibersegurança por órgãos europeus.

As declarações surgiram um dia depois de Jacob Coxon, pesquisador da Anthropic, anunciar que deixaria a empresa. Em uma publicação que viralizou, ele afirmou que tanto a Anthropic quanto a OpenAI, onde trabalhou anteriormente, não estariam desenvolvendo modelos de IA de maneira responsável e estariam “apostando com nossas vidas”.

A manifestação de Coxon provocou reação de outros funcionários da Anthropic, que passaram a publicar seus próprios alertas sobre os riscos associados ao desenvolvimento acelerado da tecnologia.

Anna Wang, que trabalha com segurança de Inteligência Artificial Geral (IAG) na Anthropic e anteriormente atuou no Google DeepMind, afirmou que muitas pessoas dentro da empresa querem desacelerar o desenvolvimento para elaborar um plano capaz de reduzir os riscos associados aos modelos avançados.

Outro funcionário da Anthropic, Drake Thomas, afirmou respeitar a decisão de Coxon de não participar do desenvolvimento desses modelos caso ele considere que possam representar riscos em escala planetária.

Pesquisador estima mais de 10% de chance de extinção.

As declarações provocaram reação de Elon Musk, que adotou postura muito mais cética em relação aos alertas. “Isso parece uma armação”, escreveu Musk no X.

Posteriormente, o bilionário afirmou que o episódio poderia fazer parte de uma “psyop”, termo usado para descrever uma operação psicológica destinada a influenciar a percepção pública.

Musk respondeu a uma publicação de Parker Thayer, pesquisador do grupo conservador Capital Research, que levantou, sem apresentar evidências, a hipótese de que a declaração de Coxon seria o início de uma operação de relações públicas sofisticada e financiada para obter apoio a regulamentações mais rígidas contra a IA.

Musk afirmou que os preparativos para essa suposta operação já vinham acontecendo há algum tempo e que a publicação de Coxon teria sido apenas a faísca que iniciou o processo.

Coxon respondeu diretamente ao bilionário, publicando uma selfie e afirmando que é uma pessoa real e que aquelas são suas crenças reais. Ele ainda disse que Musk poderia perguntar sobre ele aos pesquisadores da xAI, caso não tivesse demitido alguns deles.

Anthropic defende suas medidas de segurança.

Em resposta aos questionamentos, a Anthropic defendeu sua estratégia. “Sempre fomos transparentes de que a IA trará enormes benefícios e riscos sem precedentes“, afirmou um porta-voz da empresa ao The Guardian.

Segundo a companhia, seus modelos continuam sendo desenvolvidos com algumas das medidas de segurança mais fortes existentes na indústria. Nem todos os especialistas, porém, acreditam que o principal risco seja necessariamente uma superinteligência capaz de exterminar a humanidade.

O cientista Gary Marcus, uma das vozes conhecidas no debate sobre IA, afirmou que é hora de boicotar a tecnologia, mas por danos que já estão ocorrendo.

Para Marcus, preocupações mais imediatas incluem patógenos produzidos com auxílio de IA, guerras iniciadas ou agravadas por desinformação gerada por sistemas de IA e ataques capazes de destruir infraestruturas críticas.

Alerta surge no mesmo dia de caso envolvendo arma biológica.

A discussão ganhou um elemento especialmente concreto no mesmo dia em que as declarações dos pesquisadores ganharam força.

A Anthropic divulgou um relatório documentando como a empresa desmantelou uma operação que tentava construir uma arma biológica utilizando seus modelos de IA.

O episódio não demonstra que uma IA autônoma tenha desenvolvido uma arma por conta própria, mas mostra como modelos disponíveis atualmente podem ser envolvidos em tentativas de uso para fins extremamente perigosos.

O caso acabou colocando lado a lado duas discussões que normalmente aparecem separadas: os riscos futuros de uma IA potencialmente superinteligente e os riscos mais imediatos associados ao uso de modelos atuais para atividades capazes de causar danos graves.

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.