Representantes da OpenAI e da Meta alertaram integrantes do Judiciário dos Estados Unidos na quinta-feira (15) sobre as dificuldades crescentes para identificar vídeos e áudios falsos produzidos por inteligência artificial (IA).
Segundo os especialistas, os chamados deepfakes estão se tornando tão sofisticados que será cada vez mais difícil verificar a autenticidade de provas audiovisuais apresentadas em julgamentos.
O alerta foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. Desde 2023, o grupo discute como lidar com os riscos de conteúdos fabricados por IA nos tribunais e quais critérios devem ser aplicados para confirmar a validade desse tipo de evidência.
Deepfakes dificultam a verificação de provas.
Shira Anderson, advogada de políticas públicas da OpenAI, afirmou que os avanços na geração de imagens por IA tornam cada vez mais difícil desenvolver métodos científicos capazes de identificar conteúdos artificiais.
Devin Norder, diretor de gerenciamento de produtos da Meta, também destacou a evolução da tecnologia. Segundo ele, conteúdos produzidos pelos modelos de IA mais avançados já podem ser indistinguíveis, para observadores humanos, de mídias autênticas ou de outros materiais gerados artificialmente.
Norder acrescentou que o custo e o tempo necessários para criar esse tipo de conteúdo são muito baixos. Isso aumenta a preocupação com a possibilidade de materiais falsos serem apresentados como provas legítimas em processos judiciais.
Poucos casos identificados até agora.
Apesar dos alertas, ainda há poucos registros de disputas judiciais envolvendo deepfakes nos Estados Unidos. Em março, o Centro Judicial Federal, órgão de pesquisa do Judiciário americano, informou que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma das partes contestou a apresentação de provas por suspeitar que fossem deepfakes.
Jesse Furman, juiz federal de Manhattan e presidente do comitê, afirmou que existe uma quantidade significativa de análises acadêmicas e previsões sobre o impacto da tecnologia nos tribunais, mas que os casos concretos ainda são limitados.
Na reunião de quinta-feira, Furman nomeou um subcomitê para aprofundar a análise do problema. Especialistas da indústria, da academia e do governo, porém, ressaltaram que o desafio não deve ser tratado como uma possibilidade distante.
Para eles, a capacidade dos tribunais de impedir o uso de provas falsas tende a se tornar mais difícil.
Ferramentas de detecção têm limitações.
Empresas como OpenAI e Meta vêm desenvolvendo ferramentas e serviços para ajudar a verificar a autenticidade de conteúdos visuais. Além disso, novas leis na Califórnia e na União Europeia exigem o uso de marcas d’água digitais destinadas a facilitar a identificação de deepfakes.
Anderson, no entanto, alertou que não existe um padrão universal para detectar essas marcas ou confirmar a autenticidade de imagens e vídeos. Como cada empresa adota seus próprios sistemas, as ferramentas disponíveis não permitem uma verificação confiável de todos os conteúdos.
A representante da OpenAI também afirmou acreditar que os mecanismos de identificação continuarão evoluindo, mas não serão totalmente infalíveis.
Juízes defendem cautela na criação de regras.
Valerie Caproni, juíza federal de Manhattan e integrante do comitê, demonstrou cautela em relação à criação imediata de regras específicas para provas geradas por IA.
Segundo ela, ainda faltam dados que indiquem que os deepfakes se tornaram um problema disseminado nos tribunais.
Caproni também observou que as normas e leis atuais já proíbem a apresentação de provas fraudulentas e permitem que juízes avaliem se determinado material foi falsificado.
A magistrada ressaltou que a manipulação de evidências não é um problema novo no sistema judicial. Por isso, a discussão envolve determinar se as regras existentes são suficientes para lidar com as dificuldades adicionais trazidas pela inteligência artificial.
Ana Figueiredo é editora de tecnologia do Olhar Digital. É formada em Jornalismo pela Universidade Federal de Uberlândia (UFU).
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…