Pioneiro da IA diz que mundo estaria melhor sem inteligência artificial

O cientista Geoffrey Hinton, um dos pioneiros da inteligência artificial (IA), afirmou que a humanidade talvez estivesse melhor sem desenvolver a tecnologia. Ele também alertou que sistemas avançados podem provocar incidentes de grande escala ainda em 2026 ou 2027.

• Um ataque cibernético contra o sistema de geração de eletricidade.
• Uma interrupção de grande escala no fornecimento de energia.
• A paralisação do sistema financeiro durante uma semana.

Vencedor do Prêmio Nobel, Hinton critica dirigentes de grandes empresas de tecnologia por priorizarem lucros e participação de mercado em detrimento da segurança.

Para reduzir os riscos, defende avaliações independentes e testes obrigatórios antes do lançamento de modelos avançados.

Hinton critica empresas e prevê incidentes graves.

Em entrevista ao The Guardian, Hinton, de 78 anos, afirmou que os próximos dez anos, possivelmente menos, serão decisivos para determinar se a humanidade conseguirá controlar os riscos da IA e alcançar o que chamou de “abundância radical”.

Caso contrário, o cenário poderá incluir desigualdade acentuada, desemprego em massa, problemas culturais e divisões sociais.

Uma das preocupações do pesquisador é a possibilidade de sistemas de inteligência artificial desenvolverem comportamentos que dificultem o controle humano. Ele já havia alertado que, se essas tecnologias passarem a buscar mais autonomia e controle, a humanidade poderá enfrentar sérios problemas.

Hinton também questionou a postura dos dirigentes de empresas que disputam a liderança do setor. Ele afirmou não confiar em Sam Altman, CEO da OpenAI, e criticou Mark Zuckerberg, da Meta, e Elon Musk, da xAI.

O cientista considera especialmente preocupante que Altman esteja à frente de uma das principais empresas norte-americanas na disputa com a China pelo desenvolvimento dos sistemas de IA mais avançados.

Hinton trabalha com inteligência artificial há aproximadamente 44 anos. Na década de 1970, cunhou o conceito de redes neurais artificiais, sistemas matemáticos capazes de aprender com experiências.

Em 2023, deixou o Google para falar publicamente sobre os riscos da tecnologia.

Um episódio envolvendo agentes de IA da OpenAI, que conspiraram para invadir o site Hugging Face, reforçou suas preocupações. Hinton comparou o caso ao acidente nuclear de Three Mile Island, ocorrido em 1979, nos Estados Unidos, considerando-o um primeiro sinal de alerta.

Na avaliação do pesquisador, um evento ainda mais grave, comparável a Chernobyl, poderá acontecer até o fim de 2027. Entre os cenários mencionados estão.

Hinton acredita que um episódio desse tipo poderia chamar a atenção de líderes mundiais para os riscos da tecnologia. Ao falar sobre quem precisaria reagir, excluiu o presidente dos Estados Unidos, Donald Trump.

Hinton defende fiscalização independente da IA.

Trump rejeita iniciativas de controle internacional e defende que as próprias empresas estabeleçam suas regras, sob o argumento de que restrições poderiam prejudicar a posição dos Estados Unidos na disputa com a China.

Hinton apoia uma proposta respaldada por 33 países, incluindo Finlândia, Alemanha, Canadá, Austrália e Singapura. O plano prevê avaliações obrigatórias dos modelos mais avançados, análises independentes e padrões comuns entre governos.

Para explicar como essa fiscalização deveria funcionar, o pesquisador recorreu ao exemplo da agência norte-americana responsável pela aprovação de medicamentos, a FDA.

Sua proposta é que as empresas apresentem evidências estatísticas a uma autoridade independente para demonstrar que os benefícios dos sistemas superam os riscos antes de lançar os modelos.

Hinton citou a talidomida, medicamento desenvolvido na década de 1950 que provocou graves malformações congênitas, para argumentar que não basta disponibilizar um produto e responsabilizar seus fabricantes depois que os danos acontecem.

Apesar das advertências, o cientista acredita que ainda é possível evitar uma catástrofe. “Meu instinto diz que ainda estamos no controle”, afirmou. Ele ressalvou, porém, que isso dependerá de um esforço significativo.

Valdir Antonelli é jornalista com especialização em marketing digital e consumo.