IA promete utopia, mas pode nos roubar o controle sobre o mundo

Imagine que fosse oferecido aos americanos este acordo: apertem um grande botão vermelho e a China se tornará a primeira hiperpotência mundial. Ela ultrapassará rapidamente os Estados Unidos em sofisticação técnica, capacidade de produção e geração de riqueza.

• IA teria solucionado um dos Problemas do Milênio da matemática, afirma OpenAI Novo modelo da OpenAI teria resolvido problema de Navier-Stokes.
• OpenAI pode ter feito uso não autorizado de dados para solução de Problema do Milênio Empresa teria começado a olhar problema após rumores sobre pesquisa de matemático da NYU e insistiu para tê-lo em anúncio.
• Solução do Problema do Milênio aponta nova relação entre humanos e IA na matemática Até que ponto essa é realmente uma vitória da IA e será que episódio prenuncia declínio do matemático humano.
• Cientista diz que usava Claude para investigar tema de descoberta atribuída pela Anthropic à IA Pesquisador da Universidade de Copenhague afirmou que sua equipe vinha compartilhando pesquisas com Claude.

A China se tornará tão tecnologicamente avançada, e sua força de trabalho humana e robótica tão imensa, que os americanos ficarão com apenas a mais vaga compreensão do que está acontecendo na fronteira econômica, científica e talvez até geopolítica.

Mas as recompensas por abrir mão do nosso próprio poder são magníficas. A economia global decola, e os americanos ficam mais ricos do que nunca. Recebemos novas curas, energia barata e entretenimentos maravilhosos.

Máquinas realizam nosso trabalho e drogas que melhoram o humor protegem nossas mentes. Não precisamos lutar —talvez nem precisemos trabalhar— para viver longas vidas de luxo e conforto.

Aí está, então, a troca: ceder o controle e muito do que lutamos para ter pode ser nosso. Mas o controle, uma vez perdido, não volta mais.

O debate sobre a inteligência artificial se concentra na possibilidade de uma catástrofe. Eu quero centrar a questão no sucesso: e se a IA funcionar não como seus arquitetos temem, mas como seus inventores e investidores esperam.

Afaste-se do "p(doom)" do Vale do Silício —a abreviação deles para a probabilidade de a IA extinguir a raça humana— e você poderá notar que a sua "p(utopia)" também tem problemas.

Eles imaginam algo como o mundo que esbocei acima, mas mais extremo, com a IA desempenhando o papel atribuído à Pequim.

Uma colisão curiosa dessas visões ocorreu quando Jacob Coxon, 27, delator da OpenAI e da Anthropic, deu uma entrevista a Jon Stewart no "The Daily Show.

Coxon estava lá para alertar que a IA poderia matar a todos nós, mas quando Stewart zombou casualmente da "utopia futura" dos arquitetos de IA, ele o interrompeu.

Bem, eu acredito na utopia futura", disse Coxon. Mas o que ele afirmou em seguida soou mais sombrio: "Então, ouvi você falando sobre empregos. Acho que não haverá empregos.

Coxon continuou a descrever "o mundo que está sendo imaginado pelas pessoas que constroem essa tecnologia" como um mundo de "nenhum emprego. Renda universal alta.

Os dividendos da produção econômica totalmente automatizada podem ser distribuídos entre humanos reais.

Essa visão, ou alguma variante dela, é bastante comum nas empresas de IA. Já ouvi isso com frequência. Mas a maioria das pessoas, frente a frente com essa ideia, fica incrédula ao ouvir esse mundo —no qual praticamente todo o trabalho cognitivo avançado é feito pela IA— descrito como utópico.

Stewart certamente ficou. "Então, nós todos vamos apenas atuar em uma peça?", perguntou ele.

Tendo a ser cético em relação ao futuro sem empregos. Os seres humanos são excelentes em encontrar o que fazer. (Quem teria imaginado, em nosso exaustivo passado agrário, que fazer podcasts poderia ser um trabalho em tempo integral?).

Mas acho fácil imaginar como o controle e a compreensão humanos de grande parte da sociedade poderiam ser entregues às máquinas. Alguns desenvolvimentos recentes —um refletindo o limite externo do que a IA avançada pode fazer e o outro refletindo sua utilidade crescente na vida diária— revelam as maneiras como isso já está acontecendo.

Algumas semanas atrás, a OpenAI lançou de uma só vez mais de 700 manuscritos propondo soluções para quase 400 problemas matemáticos avançados. Se você não é matemático e não tem proximidade com nenhum, isso pode ter passado despercebido.

Não sou matemático, mas meu pai é. A área da matemática em que ele trabalhava tinha a ver com a forma como os elétrons se movem através de cristais desordenados.

No centro do seu campo de atuação havia dois problemas que eram mais do que apenas não resolvidos; eles estavam, diz meu pai, "totalmente fora de alcance, ninguém tinha ideia de como resolvê-los.

Os sistemas da OpenAI os resolveram em uma tarde. "É o fim da matemática como a conhecemos", ele me enviou por mensagem de texto. "É a primeira vez que fico feliz por ter me aposentado.

A recém-formada Associação de Matemática Humana, que tem cerca de mil membros, divulgou rapidamente um comunicado: "Os matemáticos não pediram que esse trabalho fosse feito.

Deveriam os matemáticos poder decidir quais problemas de matemática são ou não resolvidos? Como pesamos os benefícios e custos de um mundo onde a fronteira da matemática avança rapidamente, mas os humanos não a compreendem mais.

Imagine o processo da OpenAI sendo executado repetidamente, ao longo de anos: enxames de IA resolvendo problemas que nenhum humano resolveu, em seguida, usando essas soluções para propor novos problemas, que são resolvidos por outros enxames de IA que absorveram o trabalho feito por seus predecessores, o que permite a formulação de ainda mais problemas, e assim por diante.

É muita matemática nova para os humanos compreenderem, mas as IAs podem absorvê-la facilmente, e de fato o fazem, impulsionando avanços nas ciências dos materiais e na produção de energia.

Os humanos não entendem toda essa nova ciência, mas se beneficiam dela.

Esse mundo é tão diferente do qual habitamos agora? Poucos de nós entendem muito sobre as fronteiras do conhecimento humano. Não consigo compreender remotamente a matemática que meu pai fazia.

Quão diferente é se nenhum de nós conseguir entender a matemática que a IA faz.

E ainda assim, um mundo onde a fronteira mais distante do conhecimento e do progresso reside em sistemas algorítmicos, em vez de em mentes humanas, de fato me parece diferente.

O controle humano —que é, a meu ver, inseparável da compreensão humana— vale alguma coisa, não vale.

As histórias mais sombrias sobre a IA muitas vezes se concentram em um único momento no qual a superinteligência foge do nosso controle e começa a planejar a nossa destruição.

Mas o cenário que considero mais provável e mais irresistível é chamado de "desempoderamento gradual.

Nessa narrativa, não há um momento único em que a humanidade perde o controle. Em vez disso, há uma progressão de pequenos momentos em que nós, voluntariamente, cedemos o controle porque é a coisa racional a se fazer.