Deepfakes podem embaralhar a confiança na Justiça dos EUA

Os juízes, advogados e promotores dos Estados Unidos estão tentando se familiarizar com novas armadilhas tecnológicas que viabilizam a fabricação de provas falsificadas. São técnicas chamadas deepfakes (falsificações profundas) e cheapfakes (falsificações baratas).

Reprodução/YouTube

Cheepfakes são obviamente mais fáceis de identificar porque, muitas vezes, são uma fabricação caseira de provas. Qualquer pessoa com algum conhecimento de computação pode adulterar um áudio, por exemplo, com a ajuda de algum software e de algum tutorial que encontra na internet.

Em uma disputa de guarda do filho na Grã-Bretanha, que repercutiu nos EUA, a mulher usou uma cheapfake para adulterar um áudio, que serviria de prova de que o ex-marido a ameaçava. Mas o advogado do marido contratou um perito para analisar o áudio e bastou um estudo de metadados na gravação para expor a adulteração.

Nos casos de deepfakes, o problema é muito maior para juízes, advogados e promotores que querem checar a autenticidade de vídeos, porque são bem feitas. A técnica usa tecnologias de aprendizagem de máquina e inteligência artificial para falsificar vídeos. Assim, é possível mostrar, em um vídeo, uma pessoa fazendo o que ela não fez ou falando o que ela não falou.

De acordo com um relatório da firma Deeptrace Labs, 96% dos vídeos manipulados na internet são pornográficos. Mas, de uns tempos para cá, os vídeos adulterados com a técnica de deepfake vem se infiltrando na política e também na justiça.

À medida que a tecnologia cresce em complexidade, tornando mais difícil identificar imagens adulteradas, os juízes, advogados e promotores terão mais dificuldades para identificar a falsificação e autenticar a prova. Como determinar o que é falso ou verdadeiro?

'Os deepfakes podem corroer a confiança no sistema de justiça', disse ao Jornal da ABA a diretora de vigilância e segurança do Centro para a Internet e Sociedade da Faculdade de Direito de Stanford, Riana Pfefferkorn.

Os autores de um estudo sobre deepfakes, Robert Chesney e Danielle Citron, também afirma que deepfakes podem minar a confiança pública nas instituições, incluindo o sistema de justiça. Afinal, se uma imagem (como uma fotografia) vale mais que mil palavras, um vídeo pode valer mais de um milhão.

Isso vai aumentar os custos de uma ação judicial, porque as partes terão de contratar especialistas para ajudar a autenticar as provas. E os jurados vão esperar que, nos casos em que houver uma disputa sobre se um vídeo é falso ou verdadeiro, elas usem o testemunho de peritos. Se não o fizerem, será porque a outra parte tem razão.

A situação vai se complicar ainda mais, porque a tecnologia evolui, se torna mais barata e disseminada e pode cair nas mãos de qualquer um que tenha um smartphone, disse ao Jornal da ABA o perito de ciência forense digital, Hany Farid. Vai chegar ao ponto em que detectar deepfakes será como uma "briga de gato e rato".

Por enquanto, os peritos estão tomando uma atitude passiva, buscando inconsistências nos vídeos que outras pessoas não veem, tais como se a iluminação e as sombras são consistentes com toda a imagem. Mas vai chegar a um ponto em que as pessoas preocupadas em garantir, a qualquer tempo, a autenticidade de um vídeo, terão que colocar marcas d'água nele.