Especialistas em tecnologia da OpenAI e da Meta alertaram que vídeos e áudios falsificados por inteligência artificial (IA), conhecidos como deepfakes, estão cada vez mais difíceis de diferenciar de conteúdos verdadeiros.
O avanço da tecnologia preocupa especialistas do sistema judiciário dos Estados Unidos, que discutem como verificar a autenticidade de provas que podem ter sido produzidas ou manipuladas por inteligência artificial.
O alerta foi feito durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, realizada em Boston. O grupo debate o assunto há três anos, buscando formas de lidar com os riscos das falsificações digitais nos tribunais.
Segundo os especialistas, as ferramentas de IA generativa evoluíram a ponto de tornar conteúdos falsos difíceis de identificar tanto por pessoas quanto por programas de computador.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por inteligência artificial estão cada vez mais realistas e demonstrou preocupação com a possibilidade de detectar essas falsificações de maneira científica no futuro.
Apesar do alerta, os registros de casos envolvendo suspeitas de deepfakes nos tribunais americanos ainda são limitados. Em março, um levantamento do Centro Federal do Judiciário dos Estados Unidos apontou que apenas 15 dos 931 juízes participantes haviam enfrentado situações em que uma prova foi contestada por suspeita de falsificação por IA.
Especialistas da indústria, da academia e do governo, no entanto, avaliam que o problema pode se tornar mais frequente. Devin Norder, diretor de gestão de produtos da Meta, destacou que conteúdos produzidos pelos modelos mais avançados já podem ser indistinguíveis de materiais autênticos para o público, além de serem criados com pouco tempo e dinheiro.
NOVAS LEIS EXIGEM IDENTIFICAÇÃO DE CONTEÚDOS
Na Califórnia e na União Europeia, novas legislações também estabelecem exigências relacionadas ao uso de marcas-d’água para ajudar a identificar conteúdos gerados por inteligência artificial.
Esses sinais podem indicar a origem de imagens e vídeos, mas ainda existem limitações. Segundo Anderson, não há um método universal capaz de identificar com segurança todas as marcas ou garantir a autenticidade de um conteúdo visual.
A preocupação é que, com a evolução das ferramentas de IA, a identificação de falsificações se torne cada vez mais complexa, trazendo novos desafios para a Justiça e para a verificação de provas digitais.
Fonte: G1
