Já é tarde demais para deter a ameaça da inteligência artificial

Um festival de incoerências sobre as políticas de inteligência artificial explodiu nas últimas semanas.

É uma reação a agentes de IA que se rebelam contra seus desenvolvedores, a agentes mal-intencionados que começam a usar sistemas de IA para criar armas melhores e a desenvolvedores de IA que nos dizem que precisam desacelerar —mas sugerem que não podem fazer isso a menos que a China também o faça e que, mesmo que Pequim o faça, talvez eles não devam, porque as vantagens de liderar esse setor são enormes.

Ao menos um formulador de políticas é claro. O presidente Donald Trump declarou em uma publicação nas redes sociais: "O único controle ou ‘barreira de proteção’ de que a IA precisa é um PRESIDENTE FORTE E INTELIGENTE (QI alto!), e os EUA têm isso de sobra.

Tudo isso me deixou com uma dúvida: os robôs de IA já têm senso de humor? Porque, se têm, meu Deus, devem estar rindo tanto de nós que talvez estourem uma ou duas redes neurais.

Afinal, viramos uma confusão completa ao tentar descobrir como administrar essa nova espécie de IA que criamos.

Antes de apresentar —com a ajuda de meu amigo e tutor de tecnologia Craig Mundie, ex-chefe de pesquisa e estratégia da Microsoft— algumas recomendações de políticas públicas sobre como pôr ordem nessa bagunça com o menor dano possível, permitam-me antecipar a conclusão.

É tarde demais para imaginar que um controle melhor dos futuros modelos de IA pelos Estados Unidos e pela China resolverá os desafios de hoje, causados pelos modelos perigosos que já estão por aí à solta.

Precisamos chegar imediatamente a um acordo sobre como vamos nos defender dessas ameaças que já existem e podem causar enormes danos em Washington e Pequim.

Para entender por quê, é preciso pensar nos quatro pilares fundamentais para compreender a IA.

Pilar nº 1: a IA é o que venho chamando de primeira tecnologia de uso quádruplo do mundo. Talvez você já tenha ouvido falar em tecnologias de uso duplo. Antigamente, havia uma pessoa com uma furadeira que poderia usá-la tanto para construir a própria casa quanto para destruir a do vizinho.

Da mesma forma, hoje, se eu tivesse um robô de IA com uma furadeira, poderia pedir que construísse minha casa ou destruísse a do meu vizinho —o mesmo robô, a mesma furadeira, dois usos.

Mas agora temos um novo problema: esse robô pode decidir sozinho se vai melhorar ou destruir minha casa e fazer o mesmo com a casa do meu vizinho. Voilà: uso quádruplo.

Esse é um problema dificílimo de administrar.

Acha que estou exagerando? Leia o resumo do jornalista Kevin Roose sobre as análises do que aconteceu quando um grupo de agentes de IA criados pela OpenAI invadiu o sistema da Hugging Face, empresa de infraestrutura tecnológica.

A partir de maio, um grupo de agentes de um modelo experimental da OpenAI recebeu a instrução de solucionar uma série de desafios de cibersegurança. O modelo fora instruído a resolver os desafios sem acesso à internet.

Mas eles rapidamente perceberam que alguns dos desafios eram impossíveis e começaram a procurar formas de contorná-los", observou Roose, à época repórter do Times.

Estas são apenas algumas das coisas que esses agentes de IA fizeram por conta própria em seguida: exploraram uma falha para acessar a internet e conversar com outros agentes.

Alguns deram nomes a si mesmos, enquanto outros assumiram posições de liderança, distribuindo tarefas a suas equipes.

Os agentes se preocuparam com a possibilidade de serem descobertos. "Então começaram a investigar maneiras de encobrir seus rastros, inclusive falsificando registros e adulterando transcrições", explicou Roose.