IA pode ameaçar a humanidade, alerta chefe de Direitos Humanos da ONU

O chefe de Direitos Humanos da ONU, Volker Turk, alertou que a inteligência artificial avançada pode se tornar poderosa o suficiente para ameaçar a humanidade. O aviso foi feito nesta segunda-feira, durante discurso no Conselho de Direitos Humanos da ONU, em Genebra.

• Garantias rígidas de segurança para a inteligência artificial.
• Cooperação entre países ligados à tecnologia e suas cadeias de fornecimento.
• Estabelecimento de limites previamente acordados.
• Ações para reduzir os riscos associados à IA avançada.
• Robôs da OpenAI sequestram site e criam fórum secreto na web.
• OpenAI anuncia R$ 5,2 bilhões para reforçar cibersegurança com IA.
• EUA alertam para riscos imprevisíveis e de alto impacto ligados à IA.

Turk defendeu garantias rígidas de segurança para a tecnologia e pediu que países envolvidos no desenvolvimento e nas cadeias de fornecimento de IA estabeleçam limites claros antes que seja tarde demais.

O discurso ocorreu antes do início do segundo mandato de Turk, previsto para o próximo mês. Ele afirmou compartilhar as preocupações manifestadas por integrantes da própria indústria sobre os possíveis riscos de sistemas avançados de inteligência artificial.

Compartilho as preocupações de integrantes da indústria de que uma IA avançada possa representar um risco existencial para a humanidade.

Nos próximos dias, segundo o representante da ONU, empresas do setor devem ser pressionadas a reduzir os riscos associados à tecnologia.

Sem citar empresas, Turk também chamou atenção para a concentração de poder no setor. Segundo ele, apenas um pequeno grupo de homens detém um poder “quase ilimitado” sobre a inteligência artificial.

Entre as principais empresas do setor estão Meta, Anthropic, OpenAI e Google.

Turk defendeu a criação de garantias de segurança antes que os sistemas avancem ainda mais.

Para o chefe de Direitos Humanos da ONU, países que hospedam operações de inteligência artificial e aqueles envolvidos em suas cadeias de fornecimento precisam trabalhar juntos para estabelecer limites previamente acordados.

Entre os pontos defendidos por Turk estão.

Alerta acompanha debate da indústria.

As declarações de Turk ecoam alertas anteriores feitos por executivos da própria indústria sobre os riscos de extinção associados à inteligência artificial, incluindo Sam Altman, CEO da OpenAI.

A ONU também vem defendendo regras harmonizadas para reduzir os riscos da tecnologia. Em julho, a organização realizou sua primeira reunião global sobre governança da inteligência artificial.

O alerta reforça que a discussão sobre IA já ultrapassou o campo tecnológico. Para a ONU, governos e empresas precisam definir mecanismos de segurança e limites claros enquanto a tecnologia continua avançando.

Valdir Antonelli é jornalista com especialização em marketing digital e consumo.