Questions mount over what an AI 'slowdown' would look like

Fonte da imagem, Reuters Legenda da imagem: O CEO da Anthropic, Dario Amodei, pediu que o ritmo de desenvolvimento seja desacelerado.

Equipe de IA “realmente assustada” com o futuro da humanidade, ex‑pesquisador da Anthropic conta à BBC Publicado há 8 horas.

Chefe da Anthropic, Dario Amodei, pede desaceleração do desenvolvimento de IA. Publicado há 1 dia.

Editor de Tecnologia e IA Não faltaram avisos dos chefes de topo da IA sobre ameaças existenciais ao longo dos anos.

Eu participei da primeira cúpula mundial de segurança da IA em Bletchley Park em novembro de 2023, onde o foco estava nas ameaças mais graves imagináveis, apresentadas pelos modelos de IA mais poderosos.

Na época, muitos achavam que isso pertencia ao reino da ficção científica e que as ameaças reais eram comparativamente muito mais mundanas: perda de empregos, trapaça em exames.

Três anos depois, muitas dessas mesmas vozes não parecem estar tão seguras.

No sábado, o chefe da empresa de IA Anthropic, Dario Amodei, pediu que o ritmo de desenvolvimento fosse desacelerado – os chefes de duas empresas rivais de IA, Sam Altman da OpenAI e Elon Musk, disseram que concordavam com ele.

Enquanto isso, o pesquisador de IA Jacob Coxon – que deixou a Anthropic – disse à BBC no domingo que os funcionários que estavam desenvolvendo os sistemas estavam “genuinely frightened” com o futuro da humanidade.

Todos somam a um coro de vozes sérias que pedem um desacelamento, mas embora possa parecer uma solução rápida, está longe de ser uma solução fácil.

A América é amplamente entendida como aterrorizada em perder a corrida para construir a IA mais poderosa para a China.

No domingo, o presidente Trump deixou suas próprias opiniões claras, alegando que os EUA estavam à frente da China na corrida pela IA e declarando: “Whoever wins AI, wins.”.

China não é conhecida por querer ficar em segundo lugar. Todos com quem converso dizem que, mesmo que a empresa deles pausar, os outros não farão isso e eles simplesmente ficarão para trás.

Isso me lembra o auge da campanha pelo desarmamento nuclear. O problema então também era que ninguém queria ir primeiro.

Há também a questão de como, de fato, um desacelamento seria imposto. Quem o fiscalizaria? Vemos confiar nas empresas de IA para serem transparentes sobre o que estão fazendo, e, mais importante, sobre o que estão optando por não fazer.

Isso exigiria um nível épico de confiança, o que, alega-se, o setor de tecnologia nunca ganhou.

Embora Amodei, em seu post, tenha proposto um plano de três pontos que incluía monitoramento independente de modelos de IA à medida que são desenvolvidos, regulamentação em toda a indústria e regulamentação global, alguns observadores questionam como isso funcionaria na prática.

Ninguém deu uma explicação substancial do que “slowdown” significa," disse Ed Zitron, CEO da EZ Primary Research.

Colocar uma planta da METR, onde um dos caras que saiu da Anthropic se mudou, em todas as empresas de IA? Democrático e global 'co-ordination'? Não significa nada para mim.

Zitron said stopping training AI models would leave them vulnerable to Chinese rivals.

Their margins might improve but their products will be captured in amber and distilled by Chinese labs. They may have to change pricing. I truly don't know how it all works.

This could burst the bubble. But right now we are very thin on what a 'slowdown' means.

Há possibilidade de extinção humana", diz ex-funcionário da Anthropic sobre IA.

In the UK, we have heard about plans to roll out the tech more widely within the NHS to improve patient care, and how AI gave the UK economy a much-needed boost over the summer.

Estamos todos sendo incentivados a usá-lo cada vez mais no trabalho, na educação e em nossas vidas pessoais.

The industry is a key part of the UK's strategy to drive economic growth. "There is no plan B" a former government adviser told me, so could a slowdown wreck future prospects here in Britain.

A indústria de IA está consumindo enormes quantidades de dinheiro e recursos naturais e, até agora, não está gerando quase tanto faturamento. Existem vários relatos que sugerem que várias empresas que adotaram a tecnologia estão decepcionadas com ela.

Economists widely speculate that even the current giants are not all likely to survive and that some kind of "levelling" is coming – also known as a bursting bubble.

But those firms which do make it could end up becoming the most powerful mega-corporations the world has ever seen, and that comes with its own issues.

OpenAI escolher interromper sua marcha rumo ao mercado de ações pode ser visto como um momento de epifania ao assumir responsabilidade pela segurança pública — mas também pode ser a ação de uma empresa que percebeu que pode não receber o pagamento lucrativo que precisa enquanto todo o seu produto é percebido como letal.

One of the probably the biggest challenges that we have right now is that no one can predict with certainty how this technology is going to evolve," says Alexander Voica from the UK AI company Synthesia.

We know that these systems are getting more powerful, but we don't know where and how they're going to be used, and we haven't figured out essentially a way of taking full advantage of their potential.

My only concern in rushing to regulate now, where there's still a lot of open questions, is that it could actually backfire.

Também não podemos negar o fato de que a base de toda essa revolução tecnológica é um oceano de dinheiro dos investidores.

I'm not worried about the existential risks of AI, I'm worried about the corporate greed of the companies that are creating it," says Sasha Luccioni, the founder of Sustainable AI.

Leading computer scientist Professor dame Wendy Hall, who has advised the UN about AI, says the current crisis is all about the companies not behaving responsibly enough.

Ela compara a situação atual a um fazendeiro que tem um touro no campo, que escapa e causa destruição – e o fazendeiro culpa o touro.

Of course it's not the bull's fault – it's the farmer," she says. Clearly, the fences weren't robust enough, and that is exactly what she says we are seeing with AI guardrails right now.

Mas se esses guardrails se tornarem demasiado restritivos, isso pode significar o fim da IA.

Some believe there is a more secretive, politically-motivated push for a rules-based clampdown in order to "regulate AI into oblivion" as Parker Thayer, an investigative researcher at the Conservative-leaning Capital Research Centre think-tank, put it on X this week.

His post was viewed nearly eight million times. It is an extreme and unproven view but it shows that not everybody is on board with the idea of regulation saving the day.

Whatever the reality, the storm currently engulfing the AI industry could already have caused reputational damage to the firms currently in pole position forever.

Como a Professora Hall coloca: 'Você investiria em uma empresa que diz que vai causar a extinção humana.

Additional reporting by Tom McArthur.

Dramatic insider warnings over AI fall flat with some in Silicon Valley.

Trump minimiza os riscos da IA após alertas severos de especialistas e pedidos para desacelerar o desenvolvimento.