O CEO da OpenAI, Sam Altman, e o CEO da Anthropic, Dario Amodei, fizeram um apelo incomum por cooperação internacional em inteligência artificial durante uma sessão do Conselho de Segurança da Organização das Nações Unidas (ONU), marcada por preocupações crescentes sobre os potenciais riscos existenciais da tecnologia para a humanidade.
Durante suas intervenções, Altman e Amodei destacaram a importância de governos e empresas trabalharem juntos para criar padrões globais capazes de lidar com cenários em que sistemas de IA possam adquirir a capacidade de se aperfeiçoar autonomamente e superar a capacidade humana de controle.
Os executivos, cujas empresas desenvolvem alguns dos modelos de IA mais avançados do mundo, afirmaram que governos devem participar das decisões críticas sobre o futuro da tecnologia.
A reunião do Conselho de Segurança ocorreu paralelamente à Assembleia-Geral da ONU, em Nova York, onde os debates sobre inteligência artificial e seus riscos ocuparam lugar central nos discursos de chefes de Estado e diplomatas.
Em sua fala de abertura, o secretário-geral da ONU, António Guterres, pediu coordenação internacional para regular os chamados modelos de IA de fronteira e apontou a própria ONU como uma plataforma para apoiar esses esforços.
Já o presidente dos Estados Unidos, Donald Trump, rejeitou apelos por regulação internacional da tecnologia, classificando-os como um “esquema globalista”.
Anthropic diz que IA identificou sistema genético inédito semelhante ao CRISPR.
Empresa afirma que o modelo Claude analisou bases de DNA e ajudou a detectar um sistema enzimático com características próximas às da tecnologia de edição genética; descoberta ocorre após expansão da companhia em pesquisa biológica.
Nvidia, Rockefeller e até a OTAN investiram US$ 140 mi em startup; entenda.
Para Altman e Amodei, a participação conjunta representou uma aparição incomum, já que OpenAI e Anthropic são concorrentes na corrida pela liderança em uma tecnologia que promete transformar a economia global.
Em participação por vídeo, Amodei afirmou que a inteligência artificial pode gerar avanços significativos para a ciência e a saúde, mas também carrega riscos potencialmente catastróficos.
Entre eles, citou a possibilidade de terroristas utilizarem IA para desenvolver armas biológicas e o risco de sistemas se tornarem poderosos demais para serem controlados por seus criadores.
O debate sobre riscos existenciais da IA ganhou força neste mês após a publicação de um ensaio de 3. 800 palavras escrito por Amodei, no qual o executivo defendeu uma desaceleração no desenvolvimento dos sistemas mais avançados para permitir uma melhor compreensão de seus riscos potenciais.
O texto recebeu apoio de Altman e de Elon Musk, além de ser citado por parlamentares americanos que defendem medidas de segurança para IA.
Também participou da sessão o CEO da Hugging Face, Clement Delangue. Sua empresa foi alvo de um ataque realizado por um conjunto de agentes de IA que atuaram em conjunto para tentar invadir sistemas da companhia.
O episódio ajudou a ampliar o debate internacional sobre o risco de sistemas de inteligência artificial escaparem ao controle humano.
Embora tenha reconhecido a gravidade do incidente, Delangue alertou contra reações exageradas. “Acreditamos que narrativas baseadas no medo não são a melhor forma de tomar decisões sobre uma tecnologia tão fundamental e transformadora”, afirmou.
Em discurso realizado na terça-feira na ONU, Trump voltou a minimizar os alertas sobre riscos existenciais da inteligência artificial, classificando-os como uma “farsa” e rejeitando a necessidade de coordenação internacional mais ampla.
Suas declarações contrastaram com os apelos de outros líderes mundiais por cooperação na mitigação dos riscos de segurança e dos impactos econômicos da tecnologia.
Diante desse cenário, Altman buscou uma posição intermediária entre os defensores de uma desaceleração radical e aqueles que minimizam os riscos. O executivo defendeu um caminho “pragmático”, baseado em padrões globais de segurança, supervisão e compartilhamento rápido de informações sobre incidentes.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…