Figure caption, Watch: As empresas de tecnologia estão "essencialmente semeando uma nova espécie de silício", diz o chefe de IA da Microsoft, Mustafa Suleyman.
- Por que há preocupações de que a IA possa ameaçar a humanidade e quão reais elas são?Publicado há 1 hora.
- OpenAI revela mais seis problemas de segurança e revela plano para divulgar incidentesPublicado há 7 horas.
Chefe da OpenAI diz que o mundo tem 'right to be afraid', mas deve confiar nas empresas de IA.
O chefe da IA da Microsoft alertou que, sem salvaguardas adequadas, o desenvolvimento da IA pode levar ao surgimento de uma nova “silicon species” que compete com os humanos.
Mustafa Suleyman disse que a empresa rival Anthropic está tratando a IA como se fosse humana, uma abordagem que ele chamou de "equivocada", o que poderia criar uma tecnologia que a humanidade não pode controlar.
Falando ao programa Today da BBC, o executivo-chefe disse que era "certo" que as pessoas se preocupassem com a IA, mas havia "coisas muito práticas que podemos fazer" para controlá-la.
Os comentários são os mais recentes de uma série de alertas severos da indústria de IA sobre os possíveis perigos da tecnologia. O Anthropic foi abordado para comentários.
Falando no programa Today na quinta-feira, Suleyman alertou contra empresas que continuem criando sistemas de IA capazes de estabelecer seus próprios objetivos, ganhar dinheiro e possuir ativos.
Isso significaria "essencialmente semear uma nova espécie de silício", disse ele, que poderia "sem dúvida competir conosco por recursos, não importa o quanto se preocupe com a humanidade e nos ame.
Os comentários de Suleyman à BBC seguem um ensaio que ele publicou no início desta semana, external, no qual ele questionou a abordagem da Anthropic para treinar seu modelo de IA Claude, apesar de elogiar o chefe Dario Amodei e sua equipe como "pessoas intelectualmente honestas.
Nele, ele criticou a Anthropic por ensinar sua IA a ter qualidades semelhantes às humanas, uma prática conhecida como antropomorfização, que, segundo ele, fazia parecer que Claude tinha seus próprios desejos, valores e senso de identidade.
Ele também alertou que as empresas de tecnologia correm o risco de criar algo "impossível" de controlar, tratando a tecnologia como um ser humano.
Eles não sentem, experimentam ou sofrem. Eles não têm preferências inatas ou motivações subjacentes.
Eles são mecanismos de conclusão de sequência, internamente ocos, projetados para seguir instruções e atingir metas estabelecidas por humanos.
Fonte da imagem, Bloomberg via Getty Images Legenda da imagem, Dario Amodei é o chefe da empresa de IA Anthropic, que Suleyman criticou por tratar sua IA como se fosse humana.
O chefe da Microsoft disse que é necessária maior transparência em torno de como os sistemas de IA são treinados e avaliados.
Isso, disse ele, incluía uma análise independente do comportamento da IA e ferramentas mais fortes para monitorar e controlar a tecnologia.
Não devemos entrar em uma decisão de forma adormecida que mais tarde venha a nos arrepender amargamente," ele escreveu.
Dame Wendy Hall, professora de Ciência da Computação da Universidade de Southampton, descreveu os comentários como "o tipo de conversa que precisamos ter internacionalmente", contrastando-a com os "histriônicos" de algumas empresas de IA que, segundo ela, só serviam para "assustar a todos.
A questão de quanta autonomia os sistemas de IA devem ter está dividindo cada vez mais o setor.
Falando à BBC sobre uma próxima cúpula de IA, Suleyman pediu "alinhamento" para criar tecnologia que deve ser "subordinada" à humanidade.
Alinhamento é um campo que visa incorporar ideias e princípios éticos humanos na IA. Em outras palavras, busca mantê-la alinhada com o que os humanos valorizam.
Acho que a boa notícia aqui é que todo ser humano terá um interesse muito forte em garantir que os sistemas que todos nós criamos e.
são usados em todo o mundo em todas as nações são seguros e controláveis e subordinados à humanidade ", disse ele.
Microsoft fundou sua própria equipe de superinteligência em outubro de 2025 e a empresa, assim como seu rival Anthropic, também está buscando esforços em desenvolvimento avançado de IA.
Os comentários de Suleyman refletem o rascunho inicial da Microsoft de seu Código de Conduta de IA Humanista, externo, um "manual de treinamento" publicado na segunda-feira sobre como a empresa está desenvolvendo sua IA, que estabelece a ideia de "superinteligência humanista.
Isso, afirma o código, é "uma IA muito avançada que sempre funciona para as pessoas, permanece dentro dos limites e permanece sob controle humano.
A visão da empresa de uma IA "humanista" destaca o desafio central que a tecnologia enfrenta - como torná-la mais poderosa, sem perder de vista os valores que ela deve servir.
Cobertura adicional por Henry Moore.
Você foi afetado pelos problemas desta história? Compartilhe sua experiência.
A equipe de IA está "genuinamente assustada" com o futuro da humanidade, disse um ex-pesquisador antrópico à BBC.
Uma reação negativa em relação aos data centers é outra ameaça à força da IA.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…