Deepfakes estão cada vez mais difíceis de detectar, alertam especialistas da OpenAI e Meta

TSE mantém proibição de deepfake na campanha, mas exige realismo para ser ilícito
Especialistas em tecnologia da OpenAI e da Meta alertaram nesta quinta-feira (15) que os vídeos e áudios falsificados por inteligência artificial (IA), conhecidos como deepfakes, estão cada vez mais difíceis de distinguir de conteúdos autênticos.
O avanço da tecnologia pode dificultar a verificação de provas apresentadas em julgamentos nos Estados Unidos.
O alerta foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, acompanhada pela Reuters, que discute há três anos como lidar com os riscos de materiais falsificados por IA nos tribunais.
Segundo os especialistas, os avanços da chamada IA generativa — tecnologia capaz de criar conteúdos, como imagens, vídeos e áudios, a partir de comandos — tornaram as falsificações difíceis de identificar tanto por pessoas quanto por programas de computador.
“As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, disse Shira Anderson, consultora de políticas da OpenAI.
Desde 2023, o comitê debate como verificar a autenticidade de materiais suspeitos de serem deepfakes e como garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade exigidos de outros tipos de evidência, incluindo aquelas analisadas por especialistas humanos.
Apesar da preocupação, ainda há poucos registros de casos do tipo nos tribunais americanos.
Em março, o Centro Federal do Judiciário, órgão de pesquisa do Poder Judiciário dos EUA, informou que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado um caso em que uma das partes contestou uma prova por suspeitar que ela fosse um deepfake.
“Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, disse o juiz federal Jesse Furman, de Manhattan, que preside o comitê.
Especialistas da indústria, da academia e do governo, porém, afirmam que o risco não é apenas hipotético. Para eles, será cada vez mais difícil para os tribunais identificar provas fabricadas com inteligência artificial.
Devin Norder, diretor de gestão de produtos da Meta, afirmou à Reuters que conteúdos criados pelos modelos de IA mais avançados já podem ser indistinguíveis, para os seres humanos, de mídias autênticas. Ele também destacou que produzir esse tipo de material exige pouco tempo e dinheiro.
OpenAI e Meta estão entre as grandes empresas que desenvolvem ferramentas e serviços para ajudar a verificar a autenticidade de conteúdos visuais.
Novas leis exigem marca d’água
Na Califórnia e na União Europeia, novas leis também exigem o uso de marcas-d’água para ajudar a identificar materiais falsificados por IA. Essas marcas são sinais incorporados ao conteúdo para indicar sua origem ou auxiliar na identificação.
Anderson, consultora de políticas da OpenAI, no entanto, alertou que não existe um método universal capaz de identificar com segurança todas essas marcas ou confirmar a autenticidade de um conteúdo visual.
Como cada empresa utiliza seu próprio sistema, a verificação continua sujeita a limitações.
“Minha impressão é que isso certamente continuará melhorando”, disse ela. “Não acho que algum dia será à prova de falhas.”
Imagem ilustrativa; deepfake; crimes cibernéticos; cyberbullying.
Freepik