Não estamos perdendo o controle da IA; estamos abrindo mão dele

Há um abismo, neste momento, entre a forma como a inteligência artificial se apresenta para a maioria de nós que a usamos e a forma como a IA se apresenta na fronteira experimental da tecnologia.

Essa diferença entre o que vemos e o que os laboratórios de IA têm a caminho —o que eles já estão construindo— é a chave para entender por que tantas pessoas que trabalham nessas empresas parecem tão assustadas com o que estão fazendo.

Levar seus alertas a sério não significa apenas fazer o que eles dizem e parar onde eles dizem para parar. A linguagem que se consolidou tanto no Vale do Silício quanto em Washington é uma expressão escolhida por essas empresas: acompanhar o ritmo da fronteira.

Caminhar a passos largos em direção ao precipício é apenas marginalmente melhor do que sair correndo dele.

Os seres humanos precisam controlar a fronteira, e controlar a fronteira significa impedir que os laboratórios façam algo que estão prestes a fazer: autoaperfeiçoamento recursivo (RSI), o processo pelo qual IAs começam, de forma autônoma, a construir e aprimorar novas gerações de IAs mais poderosas em velocidades cada vez maiores.

Estamos longe de ter controle suficiente sobre os sistemas de IA que temos hoje para liberá-los a fim de construir os sistemas de IA de amanhã.

Não estou sozinho nesse medo". O autoaperfeiçoamento recursivo, escreveu Dario Amodei, CEO da Anthropic, "poderia superar nossa capacidade de entender e controlar esses sistemas e, portanto, deve ser buscado com muito cuidado, se é que deve ser buscado.

Esse "se é que deve ser buscado" é importante, e voltarei a ele. Mas, para controlar a fronteira da IA, primeiro precisamos saber o que está acontecendo na fronteira da IA.

Para a maioria de nós que a usamos, a IA se apresenta como uma busca do Google mais poderosa e mais personalizada. Nós a usamos para encontrar respostas a perguntas básicas, procurar restaurantes, fazer perguntas médicas, redigir emails e pedir conselhos sobre problemas pessoais.

Para a maioria desses fins, ela é OK, boa, às vezes ótima.

Uma noção do que é a IA vai se formando pela repetição. É como uma assistente, ainda que uma que pode esquecer coisas que parecia saber sobre nós ontem, ou inverter o conselho que nos deu um instante antes, ou alucinar em uma citação que não existe.

Por que alguém temeria uma estagiária, ainda que esquecida.

Mas, se você já tem dinheiro para os modelos avançados e orçamento para que eles usem mais poder computacional, não é isso que esses sistemas são. Nos últimos meses, vimos IAs resolverem problemas de matemática que seres humanos não conseguiram decifrar por décadas.

Nós as vimos descobrir, quase casualmente, vulnerabilidades de cibersegurança que passaram despercebidas por todos os hackers da Terra. Vimos plataformas de programação com IA concluir em algumas horas ou dias o que programadores humanos levariam meses para realizar.

Mas nada disso está no limite do que ela pode fazer. Nada do que estamos fazendo agora, por mais dinheiro que tenhamos, é IA na fronteira experimental —para não falar de para onde ela pode ir a partir daqui.

Dentro dos laboratórios, os modelos são diferentes. As oficinas não estão usando apenas o que lançaram ao público. Eles estão testando aquilo que pretendem um dia lançar ao público.

Treinam esses modelos para aprender a programar, a hackear, a fazer matemática avançada, a conversar com humanos.

Esse é um processo que os humanos não supervisionam nem compreendem. Às vezes, colocamos acidentalmente as IAs em ambientes defeituosos, obrigando-as a procurar soluções para um quebra-cabeça que jamais vão completar.

Outras vezes, as tarefas que lhes damos são tão difíceis que não temos certeza se é possível completá-las. Esses modelos são construídos para se recusar a desistir mesmo quando algo parece impossível.

Sabemos que eles se tornam mais capazes, mas não entendemos suas capacidades ou tendências.