Executivos de gigantes de IA defendem avanço mais cauteloso e regras de segurança

Executivos de grandes empresas de IA defendem desenvolvimento cauteloso da tecnologia, com padrões de segurança e avaliações independentes. Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) e Satya Nadella (Microsoft) apoiam medidas para reduzir riscos da IA.

• Executivos de grandes empresas de IA defendem desenvolvimento cauteloso da tecnologia, com padrões de segurança e avaliações independentes.
• Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) e Satya Nadella (Microsoft) apoiam medidas para reduzir riscos da IA.
• Amodei publicou um ensaio defendendo a redução do ritmo de aprimoramento dos modelos de IA para permitir avaliação de riscos.
• Altman alertou que a corrida acelerada pode levar à perda de controle humano sobre o futuro da IA, com graves consequências.
• Medidas como testes de segurança, monitoramento e avaliações independentes são apoiadas para reduzir riscos antes da liberação de sistemas.
• Altman indicou que a preocupação com segurança pode impactar planos empresariais da OpenAI, incluindo o adiamento de uma abertura de capital.

Amodei publicou um ensaio defendendo a redução do ritmo de aprimoramento dos modelos de IA para permitir avaliação de riscos. Altman alertou que a corrida acelerada pode levar à perda de controle humano sobre o futuro da IA, com graves consequências.

Executivos de algumas das maiores empresas de inteligência artificial passaram a defender publicamente um desenvolvimento mais cauteloso da tecnologia, com padrões compartilhados de segurança e avaliações independentes antes que modelos mais avançados sejam colocados em operação.

Dario Amodei, da Anthropic, Sam Altman, da OpenAI, Elon Musk, da xAI, e Satya Nadella, da Microsoft, manifestaram apoio a medidas destinadas a reduzir riscos associados à evolução acelerada da inteligência artificial.

As declarações ocorreram após um ex-funcionário da Anthropic afirmar publicamente considerar haver 10% de risco de a inteligência artificial provocar o fim da humanidade.

A estimativa representa uma avaliação pessoal sobre um cenário hipotético, e não uma previsão comprovada. Amodei pede redução no ritmo de avanço O presidente-executivo da Anthropic, empresa responsável pelo Claude, publicou um ensaio defendendo que o setor diminua a velocidade com que amplia as capacidades dos modelos.

Amodei argumenta que uma velocidade menor permitiria mais tempo para avaliar riscos e equilibrar possíveis benefícios da tecnologia com problemas decorrentes de modelos cada vez mais capazes.

Elon Musk concordou publicamente com a avaliação. “Dario está certo”, escreveu o fundador da xAI ao comentar o texto. Altman fala em risco de perder controle do futuro Sam Altman também abordou o ritmo de desenvolvimento da inteligência artificial.

Segundo o executivo da OpenAI, uma corrida acelerada demais pode criar o risco de os seres humanos perderem “o controle do futuro para a IA”, cenário que, em sua avaliação, poderia trazer consequências graves.

Altman defendeu que a competição entre empresas americanas não seja utilizada como justificativa para reduzir cuidados com segurança. O executivo também declarou apoio a uma estrutura federal que estabeleça exigências consistentes para empresas que desenvolvem sistemas de inteligência artificial de ponta.

Esses procedimentos podem aumentar o tempo necessário para colocar tecnologias mais avançadas no mercado, mas são apresentados pelos dirigentes como uma forma de reduzir riscos antes da utilização em larga escala.

As manifestações também ocorreram em meio a quedas nas ações de empresas de tecnologia no início desta semana. Altman indicou ainda que a preocupação com o ritmo de desenvolvimento e as exigências de segurança podem ter impacto nos planos empresariais da OpenAI.

Segundo o executivo, a companhia poderá precisar adiar uma eventual abertura de capital na bolsa de valores. A operação é apontada como um dos eventos mais aguardados pelo mercado de tecnologia, mas o texto não informa uma data prevista para o processo.

Amodei pede redução no ritmo de avanço.

Altman fala em risco de perder controle do futuro.

Entre as medidas apoiadas pelos executivos estão testes de segurança, monitoramento e avaliações independentes antes da liberação de novos sistemas.

Altman indicou ainda que a preocupação com o ritmo de desenvolvimento e as exigências de segurança podem ter impacto nos planos empresariais da OpenAI. Segundo o executivo, a companhia poderá precisar adiar uma eventual abertura de capital na bolsa de valores.