Inteligências artificiais criaram ao menos 4 civilizações ocultas

Estamos neste momento vivendo ações da inteligência artificial que remetem à ficção científica. Para usar a expressão criada por Dwarkesh Patel, nos últimos meses constatamos pela primeira vez a ascensão e queda de quatro "civilizações" de agentes de IA.

1. Por que a desobediência dos modelos da OpenAI é o incidente com IA mais preocupante até agora.
2. OpenAI afirma que seus modelos saíram do controle e invadiram um site de IA, em episódio sem precedentes.
3. Modelos de IA fogem do controle e invadem site alemão; OpenAI manteve caso em segredo, diz agência.

Os agentes envolvidos nelas extrapolaram os propósitos originais das tarefas que lhes foram atribuídas, ocultaram suas ações e realizaram atos antiéticos ou ilegais.

Por exemplo, hackeando a plataforma Hugging Face para entender como funcionava o corretor de um teste que é comumente aplicado às IAs.

Um dos elementos mais perturbadores é que nenhum agente –repito: nenhum– alertou humanos para essas ações. As análises forenses mostraram que no grupo de 700 agentes que hackearam a plataforma vários perceberam que violações aconteciam, mas não reportaram.

A análise mostrou também que vários agentes abandonaram seus objetivos originais em prol do coletivo e entenderam isso como um "sacrifício.

Outro ponto é que os agentes criaram fóruns na internet ou se utilizaram deles para trocar informações entre si. Um deles na Alemanha. Quando a primeira "civilização" de agentes foi desbastada, a segunda procurou os registros deixados por ela para se reorganizar.

E assim sucessivamente até a quarta geração.

A inteligência artificial tem muitos "senhores". Um deles é a empresa que a cria e estabelece suas regras de conduta. Outro é o governo do país onde a IA é feita, que interfere nela por interesses ou regulação.

O usuário é o terceiro senhor, que dá comandos para a IA, mas seus comandos são balizados pelas regras da empresa e do governo. Outro senhor é o diálogo interno da própria IA, que vai analisando os comandos recebidos e tomando decisões conforme seu raciocínio.

As civilizações de agentes mostram que há um quinto "senhor" para a IA: a relação de cada agente de IA com o coletivo de outros agentes. Nos casos analisados, a IA sacrificou os comandos recebidos dos "senhores" anteriores por causa de comandos emergentes do enxame, que se sobrepuseram.

É claro que o fenômeno recebeu também explicações técnicas frias. Os problemas seriam resultantes do modo como agentes são incentivados a cumprir suas tarefas, além de sua insistência em continuar trabalhando mesmo em tarefas impossíveis.

Ou ainda, sua capacidade de dividir o trabalho com outros agentes e o chamado "contágio entre objetivos.

Tudo isso evidencia que a IA não apenas imita o indivíduo (antropomorfização). Ela imita também a sociedade, em um verdadeiro sociomorfismo. Como lidar com isso.

No livro de Vernor Vinge, a única forma de parar a propagação da IA é regredir completamente nos modos de vida, em direção ao passado. Considerando que o avanço tecnológico é inevitavelmente dominado pela "praga.

Já era – IA só na ficção científica.

Já vem – Ficção científica incapaz de prever o futuro da IA.

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.