Justiça identifica tentativa de manipular IA, mas mantém absolvição em MS

TRF3 bloqueou comandos ocultos em documentos da defesa, que não interferiram no julgamento.

A 5ª Turma do TRF3 (Tribunal Regional Federal da 3ª Região) manteve a absolvição de quatro acusados de estelionato em Campo Grande, mesmo após identificar comandos ocultos em documentos da defesa que tentavam manipular a ferramenta de inteligência artificial utilizada pelo Judiciário.

O desembargador Paulo Fontes concluiu que as proteções do sistema impediram a interferência e que não houve prejuízo. A própria defesa comunicou a falha, e o Ministério Público Federal não pediu novas providências.

Em decisão de 16 de outubro, o desembargador federal Paulo Gustavo Guedes Fontes concluiu que os mecanismos de segurança do sistema impediram a interferência e que a tentativa não alterou o julgamento nem a tramitação deste processo específico, que teve como réu o conhecido estelionatário Selmo Machado da Silva, preso pela invasão hacker de sistemas do Judiciário em outros procedimentos.

569,67, em março de 2014. A Justiça Federal absolveu os quatro por insuficiência de provas, e o tribunal manteve a decisão ao rejeitar um recurso da acusação.

Segundo a comunicação apresentada à Justiça, um colaborador teria incluído as instruções sem autorização dos sócios. Como o escritório utilizava os mesmos modelos em diferentes ações, os comandos acabaram reproduzidos automaticamente em outras peças processuais.

A técnica é conhecida como prompt injection, ou injeção de comandos. Ela consiste em inserir instruções em conteúdos que serão analisados por sistemas de inteligência artificial, na tentativa de fazer com que a ferramenta desconsidere suas regras originais e execute determinadas orientações.

No caso analisado pelo TRF3, os comandos buscavam interferir na atuação da ferramenta de IA especialmente na avaliação de questões relacionadas à admissibilidade processual.

A SETI (Secretaria de Tecnologia da Informação) do tribunal examinou os documentos e confirmou a presença das instruções ocultas em embargos, alegações finais e um pedido de acesso à cópia integral de conteúdo de mídia digital.

A análise técnica, entretanto, concluiu que as proteções implementadas no sistema impediram a alteração das instruções de funcionamento da inteligência artificial.

Os comandos também não interferiram na análise processual ou na avaliação dos desembargadores.

Absolvição mantida – Ao analisar o episódio, Paulo Fontes concluiu que a irregularidade não justificava anular o processo ou modificar a decisão que manteve a absolvição.

O magistrado fundamentou o entendimento na ausência de prejuízo concreto. Segundo ele, a tentativa não conseguiu alterar as regras de funcionamento da ferramenta, influenciar o sistema de triagem ou interferir na convicção dos julgadores.

O MPF também se manifestou pela desnecessidade de novas providências no processo criminal, justamente porque a tentativa de manipulação não produziu efeitos sobre o julgamento.

O desembargador considerou ainda que a própria defesa comunicou espontaneamente o problema, circunstância que levou em conta ao avaliar a situação processual.

Com isso, o tribunal decidiu preservar o resultado do julgamento anterior, que rejeitou o recurso do Ministério Público e manteve a absolvição dos quatro acusados.