O Tribunal Superior Eleitoral (TSE) reafirmou sua posição contra o uso de deepfakes nas campanhas eleitorais, destacando a necessidade de um padrão realista para que esses conteúdos sejam considerados ilícitos. Enquanto especialistas em tecnologia alertam sobre a crescente sofisticação dos vídeos e áudios gerados por inteligência artificial, a questão se torna cada vez mais relevante nas discussões sobre a integridade das informações divulgadas em períodos eleitorais.
Durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, realizada em Boston, representantes da OpenAI e da Meta expressaram preocupações sobre a dificuldade em distinguir conteúdos falsificados de materiais autênticos. Essa evolução tecnológica não apenas ameaça a veracidade das informações, mas também coloca em dúvida a confiabilidade das provas em processos judiciais, especialmente em um futuro próximo.
Shira Anderson, consultora da OpenAI, enfatizou que as imagens geradas por IA estão se tornando cada vez mais convincentes, o que levanta um alerta sobre a capacidade de identificação desses conteúdos tanto por humanos quanto por sistemas automatizados. Desde 2023, o comitê tem buscado soluções para garantir que provas geradas por IA cumpram os mesmos critérios de autenticidade exigidos de outras evidências.
Apesar da crescente preocupação com os deepfakes, os tribunais americanos ainda registram poucos casos relacionados. Um estudo recente revelou que apenas 15 de 931 juízes enfrentaram disputas sobre a autenticidade de provas suspeitas. O juiz Jesse Furman, que lidera o comitê, observou que, embora haja previsões acadêmicas sobre o aumento de casos envolvendo deepfakes, a realidade ainda não reflete essas expectativas.
Especialistas concordam que o risco de manipulações por IA é real e crescente. Devin Norder, da Meta, alertou que os conteúdos gerados por IA estão se tornando indistinguíveis para o olho humano, com a produção desses materiais sendo acessível em termos de tempo e custo. Em resposta a essa preocupação, empresas como OpenAI e Meta estão desenvolvendo ferramentas para verificar a autenticidade de conteúdos visuais.
Além disso, novas legislações na Califórnia e na União Europeia estão introduzindo o uso de marcas-d’água como uma forma de identificação de conteúdos falsificados. Contudo, Anderson ressaltou que não existe um método infalível para garantir a autenticidade de materiais, uma vez que cada empresa pode adotar sistemas diferentes, limitando a eficácia dessa abordagem.
À medida que a tecnologia avança, a necessidade de um debate contínuo sobre a regulamentação e a verificação de informações se torna cada vez mais urgente. O desafio será encontrar um equilíbrio que proteja a integridade das campanhas eleitorais e, ao mesmo tempo, promova a inovação no uso de tecnologias emergentes.
Crédito da imagem: Foto: Pixabay — dangquangn (pixabay)
