Líderes de IA discutem riscos da tecnologia em reunião do Conselho de Segurança da ONU

Chefes de OpenAI, da Anthropic e da Hugging Face, três das maiores empresas de inteligência artificial do mundo, participaram de uma reunião do Conselho de Segurança da ONU (Organização das Nações Unidas) nesta quarta-feira (23).

• 🗒️ Tem alguma sugestão de reportagem? Mande para o g1.

A reunião foi convocada pela França, que preside o conselho, em meio aos alertas de que sistemas de IA mais poderosos poderiam se tornar mais capazes, escapar do controle humano e criar ameaças à segurança internacional.

Se mal gerenciada, acredito até que a IA poderia representar um risco para a humanidade como um todo", disse Dario Amodei, CEO da Anthropic, criadora do assistente de IA Claude.

O CEO da OpenAI, Sam Altman, defendeu cooperação internacional. "Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco", disse o líder da empresa criadora do ChatGPT.

Para Altman, a regulamentação da IA deve ser feita com processos democráticos e por governos que prestem contas às populações que servem.

Ao longo da história, houve momentos em que países que competem entre si — e nem sempre nutrem grande simpatia mútua — uniram-se em prol de interesses comuns e do bem coletivo diante de uma nova e poderosa tecnologia.

Acreditamos que este deve ser um desses momentos", afirmou.

O CEO da Hugging Face, Clement Dolangue, destacou o papel das ferramentas de inteligência artificial na defesa contra ataques cibernéticos. "Fomos atacados por IA, mas, o que é mais importante, nos defendemos com IA", afirmou, em referência à invasão por modelos da OpenAI revelada em julho.

Para o professor Yoshua Bengio, copresidente do painel da ONU sobre IA e considerado um dos "padrinhos da IA", os perigos em torno da tecnologia são "reais e iminentes.

Este conselho enfrenta uma ameaça sem precedentes: uma ameaça que nenhum de seus membros escolherias, que nenhum consegue conter sozinho e que não respeita as fronteiras que defendemos", afirmou.

Governos têm enfrentado o desafio de supervisionar a IA em meio a ataques cibernéticos realizados por meio desses sistemas e alegações de que a tecnologia pode representar uma ameaça para a humanidade.

Os Estados Unidos e a China, as duas principais potências no desenvolvimento de IA, permanecem divididos entre o interesse de manter a tecnologia avançar conforme o mercado e o desejo de criar diretrizes globais de segurança.