O Tribunal Superior Eleitoral (TSE) reafirmou sua decisão de proibir o uso de deepfakes nas campanhas eleitorais, mas com uma ressalva importante: para que um material seja considerado ilícito, deve apresentar um grau de realismo que o torne inconfundível com a realidade. Em um cenário onde a tecnologia avança a passos largos, a distinção entre o verdadeiro e o fabricado se torna cada vez mais nebulosa.
Durante uma reunião do Comitê Consultivo sobre Regras de Provas nos Estados Unidos, especialistas da OpenAI e da Meta expressaram preocupações sobre a dificuldade crescente em identificar vídeos e áudios manipulados por inteligência artificial. A discussão, que já se estende por três anos, busca soluções para mitigar os riscos associados a essas falsificações no âmbito judicial.
Shira Anderson, consultora da OpenAI, enfatizou que as imagens geradas por IA estão se aperfeiçoando a um ponto que torna a detecção de fraudes praticamente inviável. O comitê examinou a necessidade de processos rigorosos para garantir que as provas geradas por IA sejam tratadas com o mesmo critério de confiabilidade que as evidências tradicionais, embora, até agora, os casos concretos envolvendo deepfakes nos tribunais ainda sejam raros.
O juiz federal Jesse Furman, que preside o comitê, destacou que, apesar de muitos estudos teóricos sobre o assunto, a prática ainda não refletiu essa preocupação. Apenas 15 dos 931 juízes consultados relataram ter enfrentado um caso em que a autenticidade de uma prova foi contestada devido à suspeita de que fosse um deepfake.
Contudo, especialistas alertam que a ameaça não deve ser subestimada. Devin Norder, da Meta, apontou que as tecnologias atuais permitem a criação de conteúdos que, para o olho humano, podem ser indistinguíveis das produções autênticas, e o custo e tempo para gerar esses materiais são cada vez mais acessíveis.
Em resposta a essa realidade, legislações na Califórnia e na União Europeia têm buscado implementar marcas d’água em conteúdos digitais, uma tentativa de facilitar a identificação de falsificações. No entanto, Anderson adverte que não existe um método infalível para garantir a autenticidade, uma vez que cada empresa pode adotar sistemas distintos de identificação.
À medida que a tecnologia avança, a capacidade de discernir entre o verdadeiro e o falso se torna uma preocupação premente, não apenas para os tribunais, mas para a sociedade como um todo. A luta contra as deepfakes exige vigilância constante e inovações contínuas nas estratégias de verificação e regulamentação.
Crédito da imagem: Foto: Pixabay — PublicDomainPictures (pixabay)
