Uso de IA nas campanhas: segurança jurídica nas eleições

Quando do advento da Lei nº 9.504/1997 (Lei Geral das Eleições), o inciso II do artigo 45 tinha a seguinte redação ^[1]:

Art. 45. A partir de 1º de julho do ano da eleição, é vedado às emissoras de rádio e televisão, em sua programação normal e noticiário:
[…]
II – usar trucagem, montagem ou outro recurso de áudio ou vídeo que, de qualquer forma, degradem ou ridicularizem candidato, partido ou coligação, ou produzir ou veicular programa com esse efeito;
[…]

Já o Código Eleitoral, no artigo 242, desde 1986 determina que não se deve empregar, na propaganda eleitoral, meios publicitários destinados a criar, artificialmente, estados mentais, emocionais ou passionais na opinião pública ^[2].

Esses dispositivos, em sua origem, tinham por objetivo regulamentar a programação normal e a propaganda eleitoral nas emissoras de rádio e de televisão.

À época da edição das normas, o rádio e a televisão representavam os principais veículos para exposição das plataformas das pessoas candidatas, portanto, o legislador tinha uma preocupação especial para disciplinar a maneira como a propaganda ocorreria.

Avanços tecnológicos

Buscando acompanhar os avanços tecnológicos, a partir da Resolução nº 22.718, de 28 de fevereiro de 2008, o Tribunal Superior Eleitoral (TSE) passa a disciplinar a propaganda eleitoral na internet, ainda que timidamente, para a eleição daquele ano.

Com a entrada em vigor da Lei nº 12.034/2009, que inseriu os artigos 57-A a 57-I na Lei das Eleições, a internet passou a ganhar cada vez mais protagonismo nas campanhas eleitorais. Destaca-se que a regulamentação eleitoral é uma das primeiras sobre internet no país, antes mesmo do Marco Civil da Internet, que é do ano de 2014.

As eleições municipais de 2024 se aproximam e com elas novos desafios que cada pleito traz consigo. Se antes a visibilidade dos candidatos e candidatas era em maior medida pelo rádio e televisão, hoje a internet tem espaço cativo para que o eleitorado conheça quem está concorrendo e quais são suas propostas.

As mídias sociais estão integradas a uma parcela da população que possui acesso à internet e aos equipamentos necessários para uma boa navegação.

Já é possível sentir o calor da campanha e o crescente número de representações por propaganda eleitoral antecipada e utilização de desinformação em contexto eleitoral, inclusive, com a utilização de deepfake.

O que é deepfake

O termo “deepfake” é uma combinação de dois termos “aprendizado profundo” e “falso”. Usando deepfake, qualquer pessoa pode substituir ou mascarar o rosto de outra pessoa no rosto de outra pessoa em uma imagem ou vídeo.

Não apenas isso, deepfake pode modificar a voz original e expressões faciais também em uma imagem ou vídeo. Hoje em dia, o deepfake usa técnicas como aprendizado profundo e IA para substituir o rosto, a voz ou as expressões originais. É muito difícil para um ser humano detectar que o conteúdo foi manipulado por técnicas de deepfake (Chadha et al, 2021) (tradução dos autores).

Há notícia de supostos áudios gerados por mecanismos sintéticos que reproduzem com fidedignidade a voz de pré-candidatos e pré-candidatas, colocando em suas bocas palavras que, supostamente, nunca teriam sido ditas (Góes, 2024).

A questão gera preocupação por causa do efeito prejudicial que a ação pode trazer para as campanhas eleitorais. Imagine que em um município surja um áudio criado por inteligência artificial no qual o atual prefeito ou a atual prefeita confesse ter cometido um crime grave.

Até que as coisas se expliquem (e se é que elas conseguirão ser explicadas), o prejuízo eleitoral já terá ocorrido e poderá sepultar carreiras políticas.

Ciente de que a sociedade ainda precisa amadurecer sobre o uso da inteligência artificial nas eleições, o Tribunal Superior Eleitoral, no artigo 9-C, § 1º, da Res. TSE nº 23.610/2019 (inserido pela Res. TSE nº 23.732/2024) proibiu por completo a utilização das deepfakes:

Art. 9º-C É vedada a utilização, na propaganda eleitoral, qualquer que seja sua forma ou modalidade, de conteúdo fabricado ou manipulado para difundir fatos notoriamente inverídicos ou descontextualizados com potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral. (Incluído pela Resolução nº 23.732/2024)

• 1º É proibido o uso, para prejudicar ou para favorecer candidatura, de conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep fake). (Incluído pela Resolução nº 23.732/2024)[…]

A proibição veio em boa hora e demonstra, mais uma vez, a preocupação da Justiça Eleitoral em promover eleições justas e equilibradas, em que o eleitorado pode ter acesso à informações corretas e precisas para escolher em quem votar. Como técnica de desinformação, a deepfake pode deixar o ambiente informacional ainda mais confuso e fazer com que as pessoas não saibam discernir o real do criado por máquinas.

A utilização de deepfake durante a campanha eleitoral, nos termos do §2º do artigo 9-C, citado acima, configura abuso do poder político ^[3] e uso indevido dos meios de comunicação social, acarretando a cassação do registro ou do mandato, e impõe apuração das responsabilidades nos termos do § 1º do artigo 323 do Código Eleitoral, sem prejuízo de aplicação de outras medidas cabíveis quanto à irregularidade da propaganda e à ilicitude do conteúdo.

Na aplicação prática, a norma trará alguns desafios nos processos judiciais. Tratando especificamente de áudios, o primeiro deles será identificar o responsável pela produção do material sintético. Uma vez que o áudio pode ser fabricado e disparado em aplicativos de mensageria instantânea com utilização de criptografia, como saber de onde veio? Quem foi o sujeito inicial que soltou o conteúdo? O rastreamento demandará trabalho das equipes envolvidas no ajuizamento de ações ^[4].

Um outro problema é que as representações têm um rito célere e não demandam dilação probatória:

“[…] Representação. Propaganda eleitoral negativa […] 2. O entendimento deste Tribunal Superior é de que o procedimento especial das representações por propaganda eleitoral é célere, exigindo prova pré–constituída e não admitindo, portanto, dilação probatória e a realização de diligências no curso do procedimento. Precedente. (Ac. de 26.10.2022 na Ref-RP nº 060140557, rel. Min. Paulo de Tarso Sanseverino.)

Como provar que aquele conteúdo realmente é deepfake e não real?

Os autores deverão instruir as representações de maneira que a Justiça Eleitoral tenha segurança para deferir eventual pedido liminar de remoção de conteúdo por utilização de propaganda irregular. Assim, as partes processuais terão que procurar os meios necessários para convencer o órgão julgador, anexando nos autos documentos que corroborem seu pleito.

Um terceiro problema: se algum áudio real for vazado e prejudicar uma pessoa que está concorrendo nas eleições, ela não poderá dizer que aquele conteúdo é deepfake? Seria uma defesa às avessas. A pessoal taxa o real de falso e acaba saindo pela tangente. E o pior: requer que o Judiciário promova a remoção do conteúdo para limpar sua imagem.

Por isso, é necessário que o Poder Legislativo avance nos debates sobre a regulamentação da inteligência artificial no Brasil. O pleito de 2024, por ser municipal, será uma espécie de laboratório sobre o que enfrentaremos nas no próxima processo eleitoral.

O país precisa, urgente, de segurança jurídica já de olho nas eleições presidenciais de 2026. Se agora a preocupação maior tem sido a defesa da honra de candidatos, em 2026 o medo é outro: imagina conteúdos sintéticos colocando falas na boca de ministros do TSE ou do STF?  A democracia brasileira precisa estar protegida para os futuros dilemas que enfrentará.

_________________________

Referências
Chadha, A., Kumar, V., Kashyap, S., Gupta, M. (2021). Deepfake: An Overview. In: Singh, P.K., Wierzchoń, S.T., Tanwar, S., Ganzha, M., Rodrigues, J.J.P.C. (eds) Proceedings of Second International Conference on Computing, Communications, and Cyber-Security. Lecture Notes in Networks and Systems, vol 203. 25 May 2021. Springer, Singapore. https://doi.org/10.1007/978-981-16-0733-2_39

GÓES, Bruno. Fake news 2.0: pré-campanha já tem suspeita de adulteração de áudios com uso de inteligência artificial em três estados. O Globo. 14 jan. 2024. Disponível em: https://oglobo.globo.com/politica/noticia/2024/01/14/fake-news-20-pre-campanha-ja-tem-suspeita-de-adulteracao-de-audios-com-uso-de-inteligencia-artificial-em-tres-estados.ghtml

MENDES,  Anna Paula Oliveira. O Abuso do Poder no Direito Eleitoral. Belo Horizonte: Fórum, 2022.

^[1] O art. 45, II, da Lei nº 9.504/1997 foi declarado inconstitucional no julgamento da ADI 4451.

^[2] O art. 242 do Código de Eleitoral, na jurisprudência do TSE, deve ter sua aplicação feita com parcimônia para que a liberdade de expressão das candidatas e candidatos não seja esvaziada.

^[3] Sobre abuso de poder: MENDES,  Anna Paula Oliveira. O Abuso do Poder no Direito Eleitoral. Belo Horizonte: Fórum, 2022.

^[4] Ressalta-se que tal  preocupação não é exclusiva da Justiça Eleitoral. A estratégia pode ser utilizada em ofensas fora do contexto eleitoral.