Autorregulação da IA só funciona se for independente

O tema da autorregulação da inteligência artificial entrou no radar no mundo todo. No dia 29 de setembro a Casa Branca recebeu líderes das maiores empresas de IA.

A expectativa era a criação de regras objetivas, o que não aconteceu.

O modelo proposto é insuficiente. Os compromissos são voluntários e foram chamados de obrigações "morais". Não há prazo nem penalidades. Cada empresa escolhe os próprios auditores internos e externos e não há obrigação sequer de publicar as avaliações.

Dois dias depois, o Conselho de Supervisão Independente da Meta, do qual faço parte, publicou uma carta aberta ao setor de IA. O título é: "Sim, a IA precisa de supervisão independente, mas é preciso desenhá-la direito.

O conselho da Meta foi criado a partir do escândalo Cambridge Analytica. Sua função é supervisionar a Meta, tomando decisões sobre conteúdos e fazendo recomendações de mudanças na empresa, que precisam ser publicamente respondidas.

Entre seus integrantes estão a ex-primeira-ministra da Dinamarca, uma vencedora do prêmio Nobel da Paz e o ex-editor do jornal The Guardian.

Em seis anos de atuação, conseguiu implementar 75% das recomendações, impactando bilhões de usuários, gerando transparência, correções de rota na empresa e melhorando a forma como a Meta trata seus usuários.

O Conselho não é perfeito. Mas seu desenho foi feito de forma cuidadosa por especialistas de fora da Meta, liderados pelo professor Noah Feldman, de Harvard. Neste momento em que é improvável que os EUA adotem qualquer lei federal para regular a IA, a autorregulação parece ser o único caminho imediato.

E, neste contexto, o conselho tem algumas lições importantes de desenho institucional.

A carta do conselho aponta justamente para o paradoxo da autorregulação. Para ser minimamente crível, a empresa precisa abrir mão do controle sobre quem a fiscaliza.

O primeiro é independência. O órgão supervisor precisa ser uma entidade separada, com orçamento e composição próprios. A empresa não pode demitir quem a supervisiona.

Segundo, é preciso poder de fato: acesso a informações que não são públicas e capacidade de tomar decisões que obrigam a empresa, além de iniciar investigações por conta própria e dizer quais mudanças devem ser realizadas.

Terceiro, transparência. Tudo precisa ser publicado e fundamentado publicamente. O quarto requisito é que a composição precisa ter especialistas de várias áreas e não apenas pessoas ligadas às empresas.