O Tribunal Superior Eleitoral (TSE) deve definir na noite desta terça-feira (1) um dos temas centrais da eleição deste ano: como deve ser o uso de deepfakes pelas campanhas.
Lista completa
- uma ala defende a aplicação de multa, sob o entendimento de que o material se enquadra como deepfake e poderia levar parte do público a acreditar que a manifestação era autêntica.
- outra corrente avalia que não caberia punição, porque o vídeo foi exibido em um evento partidário fechado, destinado principalmente a convencionais e filiados.
Deepfake nas eleições: entenda o que é e por que pode enganar o eleitor.
🔎 Deepfake é uma tecnologia de inteligência artificial (IA) usada para criar ou alterar vídeos, áudios e imagens de maneira realista.
Ministros do TSE indicam de forma reservada que a tendência é que a Corte mantenha o veto ao uso de vídeos gerados por IA quando o conteúdo apresentar grau de realismo, seja criando pessoas reais, fictícias ou mortas.
Deve pesar na configuração de deepfake o elevado grau de realismo da manipulação.
Os ministros também devem discutir qual a punição para o candidato ou campanha que usar a ferramenta.
A indicação é de que, além da remoção do vídeo, deve ser aplicada uma multa pelo descumprimento das regras.
As sanções mais graves, como cassação do registro, só devem ser aplicadas nos casos em que ficarem demonstradas a gravidade da conduta, a reincidência e o impacto na disputa.
Também deve ficar expresso que o conteúdo produzido com IA não será permitido apenas por conter rótulo identificando que a peça utilizou a tecnologia.
Na prática, se o plenário confirmar esse entendimento, memes, caricaturas, montagens satíricas, animações e outras representações que não busquem reproduzir a realidade de forma convincente tendem a receber tratamento distinto.
O objetivo do tribunal, segundo interlocutores, é evitar que a vedação alcance manifestações claramente identificáveis como ficção ou humor, concentrando a proibição em conteúdos capazes de induzir o eleitor a erro.
Uma resolução eleitoral aprovada neste ano proíbe o uso, para favorecer ou prejudicar candidaturas, de conteúdo sintético em áudio ou vídeo gerado ou manipulado digitalmente para criar, substituir ou alterar a imagem ou a voz de pessoas vivas, falecidas ou fictícias.
O texto prevê a vedação mesmo quando houver autorização da pessoa cuja imagem ou voz tenha sido reproduzida. Algumas campanhas, no entanto, passaram a defender que a regra permitia a chamada "deepfake do bem", que é feita a favor do candidato, por exemplo.
Ministros do TSE, porém, afirmam que a liberação do "deepfake do bem", além de não ser garantia de que o eleitor não será enganado, pode provocar uma enxurrada de ações na Justiça Eleitoral.
A discussão no TSE foi provocada a partir de uma ação da Federação Brasil da Esperança, formada por PT, PCdoB e PV, questionando um vídeo feito por IA que explorava a imagem do ex-presidente Jair Bolsonaro (PL) exibido na convenção do PL que, confirmou o nome do senador Flávio Bolsonaro (PL-RJ) como candidato do partido à Presidência.
Na gravação, a imagem do ex-presidente afirma estar "preso e calado por uma decisão arbitrária", diz que "nenhuma prisão vai calar o sentimento de esperança" e pede que os apoiadores recebam Flávio Bolsonaro "de braços abertos" como candidato à Presidência.
Bolsonaro cumpre atualmente uma pena de 27 anos e 3 meses de prisão. Desde o dia 24 de março deste ano, ele está sob prisão domiciliar humanitária, autorizada por Moraes por um prazo inicial de 90 dias, para que o ex-presidente se recupere de uma broncopneumonia.
Trata-se, portanto, de expediente que potencializa a propaganda eleitoral antecipada e, simultaneamente, afronta a vedação do uso de inteligência artificial que objetive criar conteúdo sintético para substituir imagem e voz de pessoa viva, além de burlar a restrição judicial imposta ao ex-presidente mediante o emprego de tecnologia de reprodução sintética”, diz a ação.
A campanha de Flávio Bolsonaro afirmou ao TSE que o vídeo não violou a legislação eleitoral, porque o uso da tecnologia não foi ocultado e o público foi informado de que não se tratava da presença física, de uma transmissão ao vivo ou de uma gravação autêntica Bolsonaro.
A defesa também sustenta que o material não se enquadra no conceito de deepfake previsto pela Justiça Eleitoral e compara o recurso tecnológico ao uso de máscaras, bonecos e outros instrumentos de representação já utilizados historicamente em campanhas políticas.
Segundo os advogados, houve apenas a criação de um "boneco tecnológico", com avisos e identificação sobre o uso de inteligência artificial, sem indução do público a erro.
Segundo ministros ouvidos pelo blog do Valdo Cruz, no caso específico de Flávio, a tendência é que o plenário se divida em duas correntes sobre a exibição do vídeo durante a convenção do PL.
Em ações que anteciparam o debate sobre o uso de inteligência artificial nas eleições, o ministro André Mendonça negou, de forma provisória, pedidos da Federação formada por PT/PCdoB/PV para a remoção de conteúdos que usaram IA na produção e indicou sua visão sobre o assunto.
O ministro afirmou que a utilização de montagem ou recurso visual artificial não conduz automaticamente à ilicitude eleitoral.
Para Mendonça, embora o uso de ferramentas de edição e geração audiovisual possa intensificar a carga emocional da mensagem, para retirar o conteúdo do ar “provisoriamente” é preciso demonstrar que o uso da tecnologia “tenha produzido falsidade objetiva, manipulação fraudulenta da realidade ou descontextualização grave apta a induzir o eleitor em erro”.
A ministra Estela Aranha discordou de Mendonça e votou pela remoção dos conteúdos nesses casos.
Em outra ação que aborda o uso IA, a ministra afirmou que a configuração de deepfake “independe da demonstração de aptidão concreta da manipulação para induzir o eleitor em erro, assim como não é afastada pela indicação de que o conteúdo foi produzido mediante inteligência artificial”.
Os julgamentos foram interrompidos por pedidos de vista do presidente da Corte, Nunes Marques, até que o plenário enfrentasse o tema.
Em outro caso, também relatado por André Mendonça, o ministro propôs uma tese, segundo a qual a deepfake deve ser considerada uma “representação artificial de pessoa real em situação inexistente mediante imagens dotadas de realismo e verossimilhança suficientes para emular a realidade”.
