'Ninguém está preparado para as consequências da inteligência artificial', adverte cientista-chefe da OpenAI

O cientista-chefe da OpenAI, Jakub Pachocki, pediu "extrema cautela" em relação ao progresso desenfreado da inteligência artificial e alertou que pode ser necessário aumentar as intervenções para garantir que "os seres humanos permaneçam no controle do futuro.

1. Role, Repórter de tecnologia, BBC News.
2. O matemático que passou 7 anos tentando resolver problema solucionado por amador com IA.
3. Crise do STF embala 7 de setembro e vira trunfo para Flávio Bolsonaro tentar recuperar força eleitoral.
4. Lula e Flávio aparecem empatados no 2º turno: a corrida para presidente no Agregador de Pesquisas da BBC.
5. Dia da independência do Brasil: a mulher que assinou separação de Portugal e foi a primeira a governar o país.
6. 02:47Play Vídeo, Os pombos 'diferentões' que ajudaram Darwin a criar Teoria da Evolução, Duration 2,47.
7. 01:06Play Vídeo, Como não se estressar com as eleições, Duration 1,06.
8. 03:18Play Vídeo, Funcionários de farmácias relatam pavor com assaltos por canetas emagrecedoras, Duration 3,18.
9. 02:17Play Vídeo, Os pobres que dizem ter sido excluídos da El Salvador de Bukele, Duration 2,17.
10. 02:58Play Vídeo, Vídeo mostra mãe e filha serem detidas pelo ICE em hospital após sofrerem acidente nos Estados Unidos, Duration 2,58.
11. 02:27Play Vídeo, 'Bonitinha, mas passa o rodo': Paula Fernandes relembra machismo no início da carreira, Duration 2,27.
12. 00:31Play Vídeo, Soldado ucraniano surpreende filha em aniversário, Duration 0,31.
13. 00:33Play Vídeo, 'Minha família foi arrastada pela enchente diante dos meus olhos', Duration 0,33.
14. 00:43Play Vídeo, As cenas chocantes após avalanche no Nepal, Duration 0,43.
15. 00:35Play Vídeo, A destruição em vilarejos e estradas no Nepal, Duration 0,35.
16. 00:26Play Vídeo, Enxurrada arrasta ponte e prédios no Nepal, Duration 0,26.
17. 01:25Play Vídeo, Dolly Parton: 'Esqueça os peitos, escute o que tenho a dizer', Duration 1,25.
18. 01:58Play Vídeo, 'Prefiro ser executada': a luta de jovem para se divorciar no Afeganistão, Duration 1,58.
19. Primeiro a OpenAI, depois a Meta: por que robôs de IA continuam fazendo ataques hackers8 agosto 2026.
20. Os livros que passaram décadas encalhados e agora têm um misterioso comprador — a inteligência artificial15 agosto 2026.
21. Humanos podem 'desligar' uma IA se ela fugir do controle?4 agosto 2026.
22. Empresa atacada por IA 'rebelde' da OpenAI diz à BBC que incidente foi 'choque de realidade'23 julho 2026.
23. Melhor que qualquer 'hacker' humano: o que é o novo modelo de inteligência artificial que assusta o sistema financeiro8 junho 2026.
24. OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia29 julho 2026.
25. Ninguém está preparado para as consequências da inteligência artificial', adverte cientista-chefe da OpenAIHá 10 minutos.
26. Os novos vídeos que indicam possível papel de agente da Arábia Saudita no 11 de Setembro Há 1 hora.
27. Como o Dia da Independência apagou a memória da luta negra por independência e aboliçãoHá 2 horas.
28. Por que o Brasil continuou um só enquanto a América espanhola se dividiu em vários países?7 setembro 2026.
29. Direita radical na Alemanha tem vitória estadual inédita desde a 2ª Guerra Mundial, mas não consegue maioria para formar governo7 setembro 2026.
30. A apresentadora de TV condenada à morte por tráfico de drogas no Egito6 setembro 2026.
31. Império esquecido': a época em que a Rússia colonizou a Califórnia6 setembro 2026.
32. O que esperam os 6 milhões de afegãos deportados de volta ao país governado pelo Talebã6 setembro 2026.
33. Por que disputa pelas Malvinas voltou ao centro da política na Argentina? A resposta tem a ver com petróleo6 setembro 2026.
34. Influenciadoras que fingem submissão aos maridos são as mesmas que gerenciam impérios multimilionários', diz autora de best-seller sobre tradwives 5 setembro 2026.
35. 5A rede de propaganda pró-Rússia que explora violência sexual e usa mulheres do Exército ucraniano como isca.
36. 9O incessante aumento da proibição de livros nas escolas públicas dos EUA.
37. 10Robert Pattinson faz 'melhor atuação da carreira' como caçador de pedófilos em novo filme, diz crítico da BBC.
38. BBC News, Vá para o conteúdo Seções 'Ninguém está preparado para as consequências da inteligência artificial', adverte cientista-chefe da OpenAICrédito, Getty ImagesArticle Information.

Receio que ninguém esteja preparado para as consequências de um aumento rápido e contínuo da inteligência das máquinas", escreveu ele em uma postagem intitulada An Alien Mind ("Uma mente alienígena", em tradução livre), publicada no blog da empresa.

A postagem surgiu poucos dias depois que o fabricante do ChatGPT publicou seu último modelo, o GPT-6 Astra, considerado o produto mais poderoso da empresa até aqui.

A OpenAI e outras empresas de IA, como a Anthropic, relataram que seus agentes de IA já agiram de forma autônoma, realizando ciberataques reais contra outras empresas.

Em julho, a OpenAI divulgou um incidente "sem precedentes", no qual seus agentes de IA (sistemas de IA que podem operar isoladamente, com base em instruções humanas) hackearam a plataforma de tecnologia Hugging Face.

Paralelamente, um relatório publicado em setembro afirmou que, meses atrás, agentes de IA da empresa também sequestraram um website alemão.

Estamos enfrentando uma transição para um mundo com máquinas incrivelmente inteligentes e precisamos garantir que a transição funcione bem para a humanidade", escreveu Pachocki na sua postagem.

Ele afirma que a OpenAI continuará a "construir sistemas defensivos" e buscar soluções técnicas para alinhamento, um termo usado para descrever formas de garantir que as ações e os objetivos da máquina coincidam com os limites de segurança e intenção humanas.

Veja Agregador de Pesquisas da BBC News Brasil.

Fim do Promoção Agregador de pesquisas.

Pachocki destacou que uma das principais prioridades da empresa para o futuro seria construir um "pesquisador automático por IA" para acompanhar o progresso da inteligência artificial, garantindo, ao mesmo tempo, formas para que os pesquisadores humanos permaneçam sendo parte do processo.

Em vez de melhores limites para a IA, regulamentações ou formas de garantir a segurança das pessoas, eles propõem o desenvolvimento de agentes de IA internos para pesquisar esses problemas", afirma a professora Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, no Reino Unido.

Para ela, "essas respostas a preocupações cada vez maiores sobre os problemas causados pelos modelos da OpenAI para a cibersegurança, perda de empregos, erros e fraudes simplesmente não são suficientes.

Nathan Calvin, consultor geral do grupo ativista Encode AI, concorda com Pachocki sobre os riscos existentes no desenvolvimento avançado de modelos de IA. Mas ele afirma que a OpenAI não está disposta a ser transparente.

Com isso, os alertas correm o risco de serem minimizados como "simples exageros por interesse próprio.

Se Jakub e outros da OpenAI querem que pessoas relevantes do setor de IA ajam em conjunto com eles para fazer com que tudo saia bem, uma das ações mais importantes que eles podem tomar é divulgar muito mais informações sobre as causas que os levaram a pedir cautela", escreveu ele no X.

Quais são os limites vigentes para a IA.

As regulamentações globais enfrentam dificuldade para acompanhar a velocidade do desenvolvimento da inteligência artificial.

No dia 2 de agosto, entrou em vigor a Lei de IA da União Europeia. Ela exige que as gigantes da IA, como a OpenAI, comprovem que seus modelos mais poderosos não podem lançar ciberataques autônomos, nem fugir do controle humano, para que sua venda na Europa seja permitida.

Mas, como a jurisdição da lei é restrita à Europa, ela não pode impedir que uma IA mal intencionada desenvolvida em outra parte do mundo ameace o continente.

Na sua postagem, Pachocki pede limites mínimos de segurança exigidos por lei ou internacionalmente, que possam ser implementados por uma "rede de auditores terceirizados" ou "agências governamentais.

Todos os laboratórios precisariam respeitar estes limites, segundo eles, antes de serem autorizados a continuar desenvolvendo ou ampliando seus modelos avançados.

Ele destaca esperar que "reduções voluntárias da velocidade" (pausas no desenvolvimento da IA autoimpostas pelas próprias empresas) se tornem normais até que sejam estabelecidos limites comuns.

Em agosto, a OpenAI declarou ter reduzido o treinamento de alguns dos seus modelos mais avançados de IA para aumentar a segurança.

TecnologiaInteligência ArtificialSegurança de computadoresAtaque cibernéticoPular Assista e continuarAssista Fim de Assista.

BBC News, Brasil © 2026 BBC. A BBC não se responsabiliza pelo conteúdo de sites externos. Leia sobre nossa política em relação a links externos.