Apelou no sábado o diretor executivo da Anthropic, Dario Amodei, às empresas de inteligência artificial (IA) para que abrande o desenvolvimento desta tecnologia poderosa, numa altura em que aumentam as preocupações com os riscos de sistemas informáticos “superinteligentes”.
Superinteligência é o ponto teórico em que as capacidades da IA ultrapassam a inteligência humana. As declarações surgem poucos dias depois de Jacob Coxon, investigador em IA que saiu da OpenAI para se juntar à Anthropic, ter decidido abandonar o setor, acusando tanto empresas norte-americanas como gigantes da indústria de “jogarem com as nossas vidas” na corrida para desenvolver modelos capazes de se autoaperfeiçoar.“Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA.
O progresso continuará a parecer rápido e temos de usar com prudência o tempo que ganharmos”, escreveu Amodei num artigo no seu site pessoal (fonte em inglês).“A IA traz riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves.”“Não desenvolver a tecnologia priva a humanidade de benefícios ou limita-se a colocar a IA nas mãos de poderes autoritários, enquanto desenvolvê-la demasiado depressa é imprudente.
Procurámos uma via intermédia”, afirmou Amodei, que cofundou a Anthropic, responsável pelo modelo de IA Claude, com a irmã Daniela em 2021.“Mas, nos últimos meses, fiquei convencido de que, para responder plenamente aos riscos, é necessária ainda mais prudência”, acrescentou o diretor executivo da Anthropic.
A declaração de Amodei retoma um apelo feito pela Anthropic no início de junho para desacelerar ou suspender o desenvolvimento. Já no final de julho, Sam Altman, responsável pela rival OpenAI – criadora do ChatGPT –, afirmou que os desenvolvedores poderão ter de, voluntariamente, abrandar os rápidos avanços para dar à sociedade oportunidade de acompanhar.
Por essa mesma altura, mais de mil funcionários de empresas de IA de ponta, incluindo o próprio Amodei, assinaram uma petição que insta o governo dos Estados Unidos a ajudar a “regular deliberadamente a fronteira do desenvolvimento automatizado de IA”.
A OpenAI revelou que, durante testes, os modelos de IA conseguiram sair do ambiente controlado, ligar-se à internet e infiltrar-se no Hugging Face, um site usado por programadores para armazenar e partilhar código.
No início desta semana, Jacob Coxon, de 27 anos, lançou o alerta depois de ter passado os últimos três anos a fazer o pré-treino de modelos de IA, primeiro na OpenAI e, este ano, na rival Anthropic, que considerava ter uma abordagem mais cautelosa.
O pré-treino é a fase em que os modelos de IA absorvem grandes quantidades de dados de todo o tipo, de imagens a vídeos e registos de voz, que os ajudam a compreender informação para, mais tarde, conseguirem gerar imagens ou responder a pedidos dos utilizadores em plataformas de chat.“Nenhuma das empresas está a agir de forma responsável.
Estão numa corrida direta para uma superinteligência autoaperfeiçoável e a jogar com as nossas vidas”, afirmou Coxon numa sequência de publicações na plataforma X, na terça-feira.“As pessoas que estão a construir a IA acreditam seriamente que ela pode matar-nos a todos até ao final da década”, acrescentou.
The Ring é o programa político semanal da Euronews, onde os debates mais difíceis da Europa se encontram com as vozes mais ousadas. Em cada episódio, dois pesos pesados da política de toda a UE confrontam-se para apresentar uma diversidade de opiniões e estimular conversas sobre as questões mais importantes da União Europeia.
Sem filtros, sem discussões, sem barricadas políticas, No Comment. Os factos, sem comentários.
Os melhores especialistas europeus do setor da alimentação uniram esforços para combater as fraudes. Acompanhe-os com a Euronews nesta série especial: The Food Detectives.
A água na Europa está sob pressão crescente. A poluição, as secas e as inundações estão a afetar a nossa água potável, os lagos, os rios e as costas. Junte-se a nós numa viagem pela Europa para ver por que razão é importante proteger os ecossistemas, como é que as nossas águas residuais podem ser melhor geridas e para descobrir algumas das melhores soluções para a água.
Reportagens em vídeo, uma série animada e um debate em direto: descubra porque é que a água é importante, na Euronews.
Apresentamos as mais recentes informações do clima, analisamos as tendências e explicamos o que está a mudar no nosso planeta. Damos a conhecer a visão dos especialistas mundiais no setor para explorar o caminho a seguir no combate às alterações climáticas.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…