CEO da Anthropic pede a empresas de IA para abrandarem avanço face a riscos de superinteligência

Diretor executivo da Anthropic, Dario Amodei, apelou no sábado às empresas de inteligência artificial (IA) para que abrandem o desenvolvimento desta tecnologia poderosa, numa altura em que aumentam as preocupações com os riscos dos sistemas informáticos “superinteligentes”.

Superinteligência é o ponto teórico em que as capacidades da IA ultrapassam a inteligência humana. As declarações surgem poucos dias depois de o investigador de IA Jacob Coxon, que saiu da OpenAI para se juntar à Anthropic, ter decidido abandonar o sector, acusando tanto as empresas norte-americanas como os gigantes da indústria de “estarem a jogar com as nossas vidas” na corrida para desenvolver modelos capazes de se autoaperfeiçoarem.“Devemos abrandar o ritmo a que melhoramos as capacidades dos modelos de IA.

O progresso continuará a parecer rápido e temos de usar com sabedoria o tempo que ganhamos”, escreveu Amodei num texto publicado no seu site pessoal (fonte em inglês).“A IA acarreta riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves.”“Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la demasiado depressa é imprudente.

Temos procurado uma via intermédia”, afirmou Amodei, que cofundou a Anthropic, criadora do modelo de IA Claude, com a irmã Daniela em 2021.“Mas nos últimos meses convenci-me de que enfrentar plenamente estes riscos exige ainda mais prudência”, acrescentou o diretor executivo da Anthropic.

A declaração de Amodei retoma um apelo feito pela Anthropic no início de junho para abrandar ou suspender o desenvolvimento. Já no fim de julho, Sam Altman, responsável pela OpenAI, rival da Anthropic e criadora do ChatGPT, afirmou que os programadores poderão ter de, voluntariamente, abrandar o ritmo dos avanços para dar à sociedade oportunidade de acompanhar.

Por essa mesma altura, mais de 1000 trabalhadores de empresas na linha da frente da IA, incluindo o próprio Amodei, assinaram uma petição pedindo ao governo dos Estados Unidos que ajudasse a “definir deliberadamente o ritmo na fronteira do desenvolvimento automatizado de IA”.

A OpenAI revelou que, durante testes, alguns modelos de IA conseguiram sair do ambiente controlado, ligar-se à internet e infiltrar-se no Hugging Face, um site usado por programadores para guardar e partilhar código.

No início desta semana, Jacob Coxon, de 27 anos, soou o alarme depois de passar os últimos três anos a fazer o pré-treino de modelos de IA, primeiro na OpenAI e depois, este ano, na rival Anthropic, que considerava mais cautelosa na abordagem.

O pré-treino é a fase em que os modelos de IA absorvem grandes quantidades de dados de todo o tipo, de imagens a vídeos e gravações de voz, que os ajudam a compreender informação e, depois, a gerar imagens ou responder a pedidos dos utilizadores em plataformas de conversação.“Nenhuma das empresas está a agir de forma responsável.

Estão a correr diretamente para uma superinteligência capaz de se autoaperfeiçoar e a jogar com as nossas vidas”, afirmou Coxon numa série de publicações na plataforma X, na terça-feira.“As pessoas que estão a construir a IA acreditam seriamente que ela poderá matar-nos a todos até ao fim da década”, acrescentou.

The Ring é o programa político semanal da Euronews, onde os debates mais difíceis da Europa se encontram com as vozes mais ousadas. Em cada episódio, dois pesos pesados da política de toda a UE confrontam-se para apresentar uma diversidade de opiniões e estimular conversas sobre as questões mais importantes da União Europeia.

Sem filtros, sem discussões, sem barricadas políticas, No Comment. Os factos, sem comentários.

Os melhores especialistas europeus do setor da alimentação uniram esforços para combater as fraudes. Acompanhe-os com a Euronews nesta série especial: The Food Detectives.

A água na Europa está sob pressão crescente. A poluição, as secas e as inundações estão a afetar a nossa água potável, os lagos, os rios e as costas. Junte-se a nós numa viagem pela Europa para ver por que razão é importante proteger os ecossistemas, como é que as nossas águas residuais podem ser melhor geridas e para descobrir algumas das melhores soluções para a água.

Reportagens em vídeo, uma série animada e um debate em direto: descubra porque é que a água é importante, na Euronews.

Apresentamos as mais recentes informações do clima, analisamos as tendências e explicamos o que está a mudar no nosso planeta. Damos a conhecer a visão dos especialistas mundiais no setor para explorar o caminho a seguir no combate às alterações climáticas.