OpenAI defende padrões globais de IA liderados pelos EUA

A OpenAI pediu ao governo de Donald Trump que lidere uma coalizão internacional para estabelecer padrões para sistemas de inteligência artificial antes de uma participação de seu presidente-executivo, Sam Altman, no Conselho de Segurança da ONU, em meio ao aumento das preocupações sobre os riscos da tecnologia.

• Data centers serão motor e foco de tensão global, aponta Fórum Econômico Mundial.
• Funcionários de empresas de IA relatam burnout e estresse mental com avanço da tecnologia.
• AMD atinge US$ 1 tri em valor de mercado, impulsionada pela demanda por ações ligadas à IA.

A empresa responsável pelo ChatGPT apresentou nesta segunda-feira (21) propostas para uma coordenação global na avaliação das capacidades e dos riscos dos modelos de IA, especialmente à medida que eles desenvolvem a capacidade de treinar a si próprios.

A iniciativa ecoa pedidos de concorrentes, como Anthropic e Google, por padrões mais robustos e maior cooperação entre países.

OpenAI acompanha rivais como Anthropic e Google em defesa de maior cooperação internacional sobre IA - Carlos Barria - 17.set. 26/Reuters As propostas antecipam a defesa que Altman fará nesta quarta-feira (23), quando falará ao Conselho de Segurança da ONU.

Na quinta (24), ele também participará de um jantar de Estado na Casa Branca com o líder chinês, Xi Jinping, e o presidente dos EUA, Donald Trump.

O secretário do Tesouro americano, Scott Bessent, disse ao Financial Times no domingo (20) que Estados Unidos e China concordaram em criar um diálogo sobre IA após conversas com o vice-premiê chinês He Lifeng, em Nova York.

A OpenAI também pediu a criação de canais seguros entre os dois países que lideram a corrida pela IA para compartilhar informações sobre ameaças emergentes. "O diálogo entre Estados Unidos e China sobre segurança e proteção da IA seria um passo positivo", afirmou a empresa.

A proposta surge em meio ao aumento das preocupações sobre o potencial da IA. Anthropic e OpenAI relataram diversos casos em que seus modelos invadiram sistemas externos, fenômeno que tem despertado preocupação à medida que as capacidades das ferramentas de IA avançam rapidamente.

Esses avanços também levaram pesquisadores das próprias empresas a alertar para o potencial de sistemas de IA descontrolados ou utilizados de forma indevida provocarem a extinção da humanidade.

O presidente-executivo da Anthropic, Dario Amodei, Altman e o presidente-executivo da SpaceX, Elon Musk, pediram uma desaceleração no desenvolvimento da IA no início deste mês —um raro sinal de consenso em um setor altamente competitivo.

Trump, no entanto, rejeitou os pedidos por uma desaceleração, apontando para a concorrência da China. O presidente afirmou que "quem vencer a IA, vence.

David Sacks, figura influente em Washington que assessorou Trump sobre IA, também criticou os pedidos do setor por intervenção do governo. "A maneira mais fácil de não construir uma superinteligência é concordar em não construí-la.

Exigir seu modelo regulatório preferido como condição para isso parecerá chantagem contra o público e o sistema político", escreveu nas redes sociais.

As novas propostas da OpenAI estão alinhadas a um pedido feito em julho por Demis Hassabis, cofundador e presidente do Google DeepMind, para que uma "iniciativa liderada pelos EUA [possa] fornecer um ponto de partida sólido para a criação de padrões internacionais compartilhados para IA de fronteira.

Hassabis propôs um novo órgão público-privado, "muito parecido com a Finra (Autoridade Reguladora do Setor Financeiro)", com um conselho que inclua especialistas técnicos independentes de destaque e representantes de projetos de código aberto.

Segundo ele, algo semelhante ao sistema internacional de regulação financeira seria necessário para administrar uma tecnologia cujo impacto seria "talvez 10 vezes maior que o da Revolução Industrial, a uma velocidade 10 vezes maior.

Na segunda-feira (21), a OpenAI propôs a criação de padrões internacionais para avaliar modelos de IA por meio da rede já existente de institutos nacionais de segurança em IA.

Essa abordagem pode aproveitar lições de áreas como aviação e estabilidade financeira, nas quais os países desenvolveram padrões técnicos comuns e canais confiáveis de cooperação sem abrir mão da autoridade nacional", afirmou a empresa.

A cooperação internacional seria especialmente importante para administrar o autoaperfeiçoamento recursivo, processo em que uma parcela cada vez maior do treinamento dos modelos de IA é realizada por outros sistemas de inteligência artificial.

Se realizado sem o devido cuidado e cautela, o RSI pode fazer com que os seres humanos percam o controle prático sobre o desenvolvimento da IA, ficando incapazes de supervisionar processos de pesquisa que já não compreendem", afirmou a empresa nesta segunda-feira (21).

Dê um conteúdo Carregando... benefício do assinante Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

benefício do assinante Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.