A empresa americana de inteligência artificial (IA) Anthropic, criadora do modelo Claude, alertou investidores, antes de sua entrada na Bolsa, que a tecnologia pode representar "riscos existenciais para a humanidade", segundo o jornal Financial Times.
- 🗒️ Tem alguma sugestão de reportagem? Mande para o g1.
O debate sobre os possíveis riscos relacionados à IA, cujos modelos podem apresentar comportamentos imprevisíveis, ganhou força recentemente.
Na semana passada, vários líderes do setor de IA pediram à ONU o aumento da vigilância sobre a tecnologia. O cofundador e CEO da Anthropic, Dario Amodei, chegou a se comprometer a desacelerar unilateralmente o desenvolvimento da IA.
A AFP entrou em contato com a Anthropic, mas a empresa não quis comentar a informação publicada pelo Financial Times.
Empresa criadora do Claude alerta investidores sobre possíveis riscos existenciais da IA antes de preparar entrada na Bolsa.
Casos recentes em que sistemas de IA realizaram ações não autorizadas, como invadir sites, mostram o desafio de estabelecer limites para o desenvolvimento da tecnologia.
A repercussão nos últimos dias chegou aos executivos de grandes empresas de IA, que até defenderam uma pausa no avanço das tecnologias para tornar seu desenvolvimento mais seguro.
A discussão ganhou força após um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude. "Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu.
Afinal, quais são os riscos reais da inteligência artificial para a sociedade? Ela realmente pode se revoltar contra os humanos? Veja as perguntas e respostas nesta reportagem.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…