A IA pode ter vontade própria ou se revoltar contra humanos?

Parece lixo de IA': por que plataformas agora estão 'dedurando' conteúdos feitos com IA.

• 🗒️ Tem alguma sugestão de reportagem? Mande para o g1.
• Robôs 'protestam' contra uso descontrolado da IA na Polônia.
• Trump diz que termo 'IA' não é bom e cria enquete para mudar nome da tecnologia.
• CEO da Nvidia diz que IA não vai acabar com o mundo até 2030.
• Pesquisadores dizem ter hackeado OpenAI usando IA Claude.

As dúvidas e discussões sobre os riscos da inteligência artificial dominaram o noticiário nos últimos dias. Líderes de grandes empresas de tecnologia têm se posicionado sobre o tema e demonstrado preocupação com a velocidade do desenvolvimento da tecnologia.

O estopim para a discussão foi um texto publicado por Dario Amodei, CEO da Anthropic, empresa dona do Claude. A posição também foi defendida por Sam Altman, CEO da OpenAI, do ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.

A IA pode ser um risco para a humanidade.

É importante reforçar que a IA não tem vontade própria, explica Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação. Segundo ele, a tecnologia apenas completa padrões estatísticos a partir dos dados usados em seu treinamento.

Pense assim: para funcionar, a IA depende de uma grande quantidade de informações. São textos, fotos e vídeos, por exemplo, que ela usa para identificar padrões e, a partir deles, formular uma resposta.

Tudo que parece comportamento estranho ou mentira é uma ideia emprestada da própria base de treinamento, ou seja, dos dados e informações usados para treinar a tecnologia", completa o especialista.

Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a IA não tem nenhum tipo de consciência e, por isso, não poderia se revoltar contra os humanos. "O que pode acontecer é que esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas.

Segundo Cortiz, a tecnologia pode tomar alguma decisão que vá contra nossos valores e princípios e, de certa forma, prejudicar a humanidade em determinados níveis de controle.

Mas isso seria resultado do processamento do sistema, e não porque a IA decidiu conscientemente se revoltar contra nós.

Essa ausência de vontade própria, porém, não significa que a IA seja inferior aos humanos em todas as tarefas. Em memória, busca de padrões e geração de textos e imagens em escala, por exemplo, ela já superou o desempenho humano há anos, acredita Edney.

Em tarefa que não depende de emoção, ela vai continuar ficando superior em cada vez mais domínios, e isso é rápido", diz.

Eu não acredito que, sozinha, a IA iria exterminar toda a humanidade. Mas causar danos em larga escala, sim. Ela foi usada em 2026 para criar novos vírus, por exemplo.

A gente pode ter uma ameaça, uma nova bomba que ninguém conhece", diz Izabela Anholett, especialista em IA e fundadora da Nura AI.

Mas, de novo, não é a IA por si só, mas o ser humano por trás dela para criar isso", completa Anholett.

O que está por trás do discurso de pausa no desenvolvimento.

Diogo Cortiz diz que, de fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas. Por isso, segundo ele, a preocupação com o avanço da tecnologia é legítima.

Ao mesmo tempo, é difícil saber até que ponto o discurso de pausa é motivado por segurança ou por uma estratégia para proteger o próprio mercado e a indústria.

Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história", completa.

Segundo Cortiz, outros fatores também ajudam a explicar a preocupação com o ritmo de desenvolvimento da IA.

🍃 Energia: os Estados Unidos enfrentam um desafio energético para sustentar toda a IA que prometem desenvolver, enquanto o ritmo de construção de data centers está mais lento do que gostariam.

💵 Retorno dos investimentos: os resultados estão demorando mais do que o esperado, o que dificulta justificar novos aportes no setor.

🌏 Concorrência chinesa: os modelos de IA da China estão ganhando espaço na adoção global e são mais baratos que os norte-americanos. Em muitos casos, oferecem capacidade semelhante por um custo menor.

🚨 Regulação: propor regras mais duras pode dificultar a entrada de novas empresas no mercado e favorecer as que já estão na liderança, aumentando a concentração do setor.

Sistemas de câmeras usam inteligência artificial e prometem se antecipar a crimes.