Apocalipse da IA: por dentro das conversas que tomaram a indústria de tecnologia

Quando Jacob Coxon, um pesquisador da Anthropic, pediu demissão publicamente da startup de inteligência artificial na semana passada, citando suas preocupações com a tecnologia poderosa, as mensagens internas começaram a pipocar.

As reações dentro da Anthropic foram ecoadas por pesquisadores de IA na OpenAI, Meta e Google, que analisaram as postagens de Coxon nas redes sociais descrevendo como a OpenAI e a Anthropic estavam “apostando nossas vidas” com a tecnologia.

Muitos se reuniram em canais de mensagens corporativas, chats criptografados e jantares privados, com o objetivo de se organizar para aumentar a conscientização sobre os riscos da IA, de acordo com uma dúzia de funcionários dessas empresas.

Para aqueles que fizeram da IA o trabalho de suas vidas, a mensagem de Coxon não era nova. Mas seus comentários se alastraram a ponto de se tornarem uma conversa global, e muitos viram nisso um momento para pedir mais cautela.

Alguns trabalhadores de IA agora estão se manifestando para altos executivos, pedindo uma pausa no desenvolvimento da tecnologia que avança rapidamente até que ela tenha as devidas salvaguardas, disseram seis dessas pessoas.

As conversas escancaram as tensões dentro dos principais laboratórios de IA sobre as formas mais seguras de desenvolver a tecnologia. Mesmo com os funcionários se sentindo encorajados a pedir uma desaceleração no desenvolvimento da IA, empresas como Anthropic e OpenAI estão equilibrando prioridades.

Ambas estão planejando ofertas públicas iniciais de grande porte no próximo ano. As empresas também temem que possam enfrentar preocupações antitruste se concordarem entre si em dar uma pausa no desenvolvimento da IA, disseram duas pessoas a par do assunto.

E startups chinesas já produziram modelos de IA competitivos, levantando a possibilidade de que empresas americanas fiquem para trás se desacelerarem.

Isso criou uma situação complicada para os principais executivos de IA, muitos dos quais concordam que a tecnologia apresenta riscos. Sam Altman, CEO da OpenAI, escreveu em uma postagem de blog em 2023 que a IA poderia “causar danos graves ao mundo”.

Dario Amodei, CEO da Anthropic, escreveu em um artigo de opinião no ano passado que a IA deveria ser regulamentada para controlar os riscos.

Em uma reunião de funcionários na semana passada, Altman disse que a OpenAI estava disposta a desacelerar o desenvolvimento junto com laboratórios concorrentes, de acordo com duas pessoas que participaram.

Ele acrescentou que esperava que desacelerações voluntárias se tornassem normais até que houvesse padrões de segurança amplamente reconhecidos. A reunião foi divulgada anteriormente pela Bloomberg.

E no sábado (12), Amodei publicou um ensaio de 3. 800 palavras pedindo prudência no desenvolvimento da IA. “Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu ele.

(O The New York Times processou a OpenAI e a Microsoft, alegando violação de direitos autorais de conteúdo jornalístico relacionado a sistemas de IA. As duas empresas negaram as alegações.).

As discussões sobre segurança da IA existem quase desde o surgimento da própria tecnologia. Mas a urgência aumentou nos últimos anos, à medida que pesquisadores fizeram avanços significativos.

As preocupações se intensificaram em julho, depois que a OpenAI revelou que alguns de seus modelos de IA haviam escapado do confinamento e invadido a Hugging Face, uma empresa de IA.

Pesquisadores de IA questionaram se era possível controlar os próprios sistemas que estavam construindo, com funcionários da OpenAI, Anthropic e Google DeepMind se reunindo para discutir o que fazer, disseram nove pessoas.

Muitos concordaram que a IA estava sendo desenvolvida rápido demais.

Alguns pesquisadores de IA criaram grupos com o objetivo de estabelecer salvaguardas duradouras. Um desses esforços, a Coalizão de Funcionários de IA Preocupados (Coalition of Concerned AI Staff), começou como um projeto secreto para criar “salvaguardas mais fortes” e ajudar os trabalhadores a, coletivamente, “responsabilizar uma empresa por seus compromissos de segurança”.

Depois que Coxon postou sua demissão da Anthropic na terça-feira (8), trabalhadores de IA pediram a altos executivos de suas empresas que pausassem o desenvolvimento da tecnologia para que tivessem mais tempo para trabalhar nela de forma segura.

Alguns brincaram que já haviam perdido a conta de quantas cartas abertas haviam assinado e de quantos grupos de chat privados sobre segurança de IA participavam, disseram duas pessoas.

Em uma entrevista na quarta-feira (9), Coxon disse que incidentes como a invasão da Hugging Face aumentaram sua preocupação de que os modelos de IA estavam se desenvolvendo muito mais rápido do que as empresas conseguiam controlá-los.

Outros trabalhadores de IA seguiram o exemplo de Coxon e se manifestaram publicamente. Evan Hubinger, pesquisador de segurança na Anthropic, disse em uma postagem nas redes sociais na terça-feira que acreditava haver uma probabilidade maior que 10% de a IA “matar todos os humanos” na próxima década.

Julie Steele, pesquisadora de segurança na OpenAI, disse na semana passada que acreditava que as empresas de IA precisavam “desacelerar”. Na sexta-feira, Andreas Kirsch, funcionário do Google DeepMind, escreveu que estava “preocupado que a IA vai matar todos nós, seja por riscos de curto prazo, longo prazo, ou ambos”.

A comoção chamou a atenção de Washington. Membros do Congresso de ambos os lados do espectro político — incluindo os senadores Bernie Sanders (independente de Vermont) e Josh Hawley (republicano do Missouri) — pediram investigações sobre a tecnologia e defenderam intervenção regulatória.

As empresas de IA responderam detalhando o que fazem em termos de segurança e quais outras medidas podem ser tomadas.

Na quinta-feira, a Anthropic disse em um comunicado que testa regularmente seus modelos de IA “para capacidades perigosas em áreas como cibersegurança e biologia” e compartilha publicamente suas pesquisas.

O Google DeepMind se recusou a comentar.

Chris Lehane, principal executivo de políticas da OpenAI, disse em uma postagem de blog na quarta-feira que a empresa iria “desacelerar ou interromper o desenvolvimento ou a implantação de sistemas” que não pudesse proteger adequadamente.

Jakub Pachocki, diretor científico da empresa, pediu regras de segurança “aplicadas por uma rede de auditores terceirizados, agências governamentais ou organismos internacionais”.