O que Elis Regina, Maria Rita e Belchior têm a ver com a regulação da IA?

A Volkswagen lançou no último mês de julho uma campanha publicitária em comemoração aos seus 70 anos no Brasil [1], na qual a cantora Maria Rita aparece ao lado de sua mãe, Elis Regina, morta em 1982 e recriada por ferramentas de inteligência artificial (IA). Elas cantam juntas a música Como nossos pais, do compositor Belchior.

Antes de tudo, cumpre mencionar que, na peça publicitária, foi utilizada deepfake, uma técnica de síntese de imagens ou sons humanos baseada em IA. Geralmente ela é usada para combinar a fala a um vídeo já existente, para fazer o rosto de uma pessoa ser colocada no rosto de outra, ou mesmo manipular o rosto de alguém para ter uma expressão que essa pessoa originalmente não teve. Apesar da tecnologia existir há bastante tempo, com os recentes avanços em IA tem ficado cada vez mais difícil identificar quando tal tecnologia foi utilizada.

Especialista apontam empregos benéficos da tecnologia de deepfake, e.g., uso em reuniões internacionais virtuais, em que, apesar do intérprete fazer a tradução das falas, a voz seria da pessoa que fez o discurso, até mesmo com a adaptação dos movimentos labiais; no setor de saúde/hospitalar, quando o paciente precisasse ter contato com um rosto familiar; no metaverso, a tecnologia permitiria um avatar mais realista; isso sem falar em fins recreativos: quem não se lembra das imagens do "papa fashion" que viralizaram na Internet? [2]. Ou mesmo Elvis Presley sendo "ressuscitado" no programa America's Got Talent 17? [3].

Entretanto, há situações de deepfake que são deveras preocupantes, e.g., alteração de sons e imagens para prática de estelionato; manipulações de fotos de crianças para fins pornográficos [4]. Por incrível que pareça, esses seriam os easy cases, para os quais a ação implicaria em alguma tipificação penal já existente para o mundo "analógico" que poderia ser aplicada ao mundo "digital". Os hard cases são aqueles que todavia não foram enfrentados, sobretudo quando encontram interface com limites éticos, i.e., situados na zona cinzenta entre o permitido e o proibido.

Agora voltando ao pano de fundo trazido pela propaganda da VW… Se por um lado muitos se emocionaram com as diversas simbologias presentes: duas mulheres fortes, mãe e filha, ícones de suas épocas, dirigindo lado a lado, num dueto, cada uma no seu tempo, mas com sonhos parecidos. Por outro lado, foram suscitados debates polêmicos como a provável contradição de se usar a imagem de Elis Regina e a música de Belchior, que abertamente se posicionaram contra a ditadura militar no país, numa publicidade da VW, empresa que teria apoiado o regime.

Fato é que três dias depois, em 10/7/2023, o Conselho Nacional de Autorregulamentação Publicitária abriu a Representação nº 134/23 contra a campanha da VW suscitada por queixas de consumidores. Segundo o Conar, três pontos seriam avaliados à luz do código que regulamenta a propaganda no país: 1) o uso ético da IA para reproduzir a imagem de pessoa falecida; 2) se herdeiros podem autorizar o uso da imagem de pessoa falecida para utilização em peça publicitária criada por meio de IA, com a geração de cenas ficcionais das quais jamais participou em vida; 3) o fato da peça publicitária não alertar os espectadores do uso da IA para criação da cena, com o potencial de causar confusão em parte do público sobre o que é virtual e o que é real, em especial àqueles que não conhecem a cantora Elis Regina e podem ter sido levados a acreditar tratar-se de pessoa real, que ainda está viva.

O caso teve um desfecho na terça-feira passada, 22/8/2023, quando a 7ª Câmara do Conar considerou, quanto aos itens 1 e 2 acima postos, por unanimidade, "improcedente o questionamento de desrespeito à figura da artista, uma vez que o uso da sua imagem foi feito mediante consentimento dos herdeiros e observando que Elis aparece fazendo algo que fazia em vida".

Quanto ao item 3, os conselheiros teriam levado em consideração as recomendações de boas práticas sobre a matéria, mas também a falta de regulamentação específica em vigor para concluir, por maioria de votos (13 a 7), pelo arquivamento da denúncia, registrando que "a transparência é princípio ético fundamental e que, no caso específico, foi respeitada, reputando que o uso da ferramenta estava evidente na peça publicitária".

A íntegra da decisão ainda será divulgada, mas diante dos impactos do uso da IA na criação de conteúdos publicitários, a 7ª Câmara também aprovou moção à direção do Conar com vistas ao acompanhamento e discussão de casos e recomendações [5].

Outro aspecto: a Lei nº 10.406/2002 (Código Civil) estabelece, em seu artigo 6º, que "[a] existência da pessoa natural termina com a morte", como corolário deste fato, cessa a personalidade civil, deixando a pessoa de ser sujeito de direitos e obrigações. Não obstante, a imagem, a identidade, a palavra, as publicações, a memória, a honra, a boa fama, a dignidade e a respeitabilidade da pessoa podem permanecer no universo das relações jurídicas, fazendo jus a proteção jurídica.

É o que nos dizem os artigo 12 e 20 do CC (em especial seus parágrafos únicos) que admitem a tutela jurídica de direitos de personalidade do falecido pelos familiares mais próximos; bem como o artigo 943 do CC que determina que "[o] direito de exigir reparação e a obrigação de prestá-la transmitem-se com a herança", que trata da transmissão do direito de ação capaz de proteger os bens da personalidade.

Mas o tema não é pacífico, havendo doutrinadores de peso que defendem posicionamentos distintos para a tutela post mortem: 1) que a personalidade não se extinguiria (totalmente) com a morte; 2) que a personalidade cessaria com a morte, mas a proteção se daria em função da memória do morto, um bem jurídico autônomo; 3) que a tutela seria das pessoas vivas, legitimadas pelo CC, afetadas pelas ofensas à memória do morto (exigindo-se reste demonstrada a lesão à memória do falecido, não à personalidade do familiar).

Mais do que isso, muitas dúvidas pairam sobre o assunto: como definir esse ativo intangível, esse bem imaterial, que subsiste após a morte, sobretudo no caso de celebridades, que muitas vezes têm persona associada a sua figura pública, distinta da pessoa privada? Quem teria direitos a sua exploração? Poderia ser cedida a terceiros que não familiares? Como utilizar a imagem do indivíduo após a morte? Qual a destinação dos rendimentos contabilizados com essa exploração? Há mais perguntas do que respostas.

Mas este artigo não trata especificamente sobre isso. Das derivações possíveis do tema, a que nos interessa aqui, nesta coluna Fábrica de Leis, é o debate acerca do aspecto legiferante, em especial sobre o papel do Congresso como caixa de ressonância da sociedade.

Em consonância com o pensamento habermasiano, a sociedade civil é composta por organizações que, afinadas com a ressonância dos problemas sociais nos domínios da vida privada, condensam e transmitem tais reações de forma amplificada para a esfera pública política.

Nesse diapasão, em 19/7/2023, duas semanas após o lançamento da propaganda da VW, foi apresentado, no Senado, o Projeto de Lei (PL) n° 3.592/2023, que "estabelece diretrizes para o uso de imagens e áudios de pessoas falecidas por meio de inteligência artificial (IA), com o intuito de preservar a dignidade, a privacidade e os direitos dos indivíduos mesmo após sua morte". O PL pretende determinar que: 1) o uso de imagem de pessoas falecidas com IA só poderia ser feito com consentimento expresso da pessoa em vida ou de familiares próximos; 2) o consentimento deve ser claro e documentado, com objetivos especificados; 3) se o falecido optou por não usar sua imagem após a morte, essa vontade dever ser soberana; 4) publicidades com imagens geradas por IA devem informar o uso dessa tecnologia ao consumidor.

Internacionalmente, em termos práticos, o tema tem tido algum destaque. Recentemente, a cantora Madonna esteve internada em UTI devido a uma infecção bacteriana, após receber alta, ela teria estabelecido regras estritas de como o legado e a fortuna deveriam ser administrados após a sua morte. Em especial, ela teria sido enfática com algumas exigências, dentre elas, a proibição do uso de hologramas com sua imagem em shows póstumos [6]. Já o testamento do ator e comediante Robin Williams, falecido em 2014, teria limitado o uso de sua imagem até 2039, de maneira que ele não pode ser digitalmente inserido em shows, filmes ou propagandas até a data determinada [7].

Não se pode negar que a discussão do PL n° 3.592/2023 está inserida em um contexto maior, de regulação da IA, que conta com iniciativas como: 1) a criação, no âmbito do Senado, da Comissão de Juristas responsável por subsidiar a elaboração de substitutivo para instruir a apreciação dos Projetos de Lei que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da IA no Brasil (Cjusbia); 2) a apresentação do PL nº 2.338/2023, que institui o marco legal da Inteligência Artificial, apresentado pelo presidente do senado, Rodrigo Pacheco, cujo anteprojeto foi resultado dos trabalhos da Cjusbia; 3) bem como a instalação, há menos de duas semanas, em 16/8/2023, também no Senado, da Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA) [8]. Teremos oportunidade de discutir estas iniciativas em momentos futuros desta Coluna.

Por originar-se da necessidade social, a norma jurídica sobrevém aos fatos que pretende regular, tem "os olhos dirigidos ao passado enquanto é levado inevitavelmente ao futuro". De fato, discutir a regulamentação da IA é uma necessidade estratégica.

Nesse aspecto, a União Europeia (UE), embora não seja o único ator global em busca de respostas para as questões de regulação da IA, tem mostrado protagonismo em experiências normativo-regulatórias, fixando critérios e padrões globais em mercados e segmentos legais que operam de forma transnacional, no chamado "efeito Bruxelas" [9]. Neste sentido, a Proposta do Artificial Intelligence Act (AIA) [10] da UE, que vem sendo discutida há mais de seis anos (desde, pelo menos, 2017), tem o potencial de conferir à Europa um papel de liderança na definição do padrão-ouro global no que diz respeito à regulação da IA.

No AIA, sistemas que geram ou manipulam conteúdo de imagem, áudio ou vídeo (i.e., deepfakes) têm sido considerados sistemas de risco limitado, segundo o qual estariam sujeitos a um conjunto limitado de obrigações de transparência. Sem embargo, uma das críticas que se tem apresentado quanto ao AIA, é a necessidade de um procedimento que permitisse à Comissão Europeia ampliar a lista de sistemas de IA proibidos e, desde logo, já proibir sistemas de IA que representem um risco inaceitável para os direitos fundamentais, dentre eles têm sido apontados os deepfakes (mas também a identificação biométrica remota; o reconhecimento de emoções; a categorização biométrica; o score social; a predição criminal; todos inicialmente classificados em outras categorias de risco).

No Brasil, os primeiros PLs a respeito da regulação da IA surgiram em 2019 (e.g., PL nº 5.051/2019 e PL nº 5.691/2019), mas foi somente há dois anos, a partir de setembro de 2021, com a remessa do PL nº 21/2020, de iniciativa da Câmara dos Deputados ao Senado, que a discussão começou a tomar fôlego. Ou seja, o debate do tema é ainda muito recente no país.

Levando em conta o nosso horizonte cultural, é normal, e até mesmo esperado, que os PLs sejam apresentados de forma incipiente e que, por meio da discussão nas diferentes instâncias se alcance um amadurecimento da matéria, inclusive é comum encontrar-se nas justificações dos PLs expressões do tipo "esperançosos de que surjam contribuições para o aperfeiçoamento da matéria".

Essa pressa existe, entre outros motivos, porque ser o primeiro a apresentar uma matéria pode significar que, a depender da tramitação, as demais propostas correlatas serão a ela apensadas e o autor contará não só com o protagonismo (a "paternidade") da iniciativa, mas com a possibilidade de capitalizá-la politicamente (prerrogativa também compartilhada pelo relator).

Essa prematuridade quanto à maturação da matéria quando da apresentação dos PLs, em princípio, não é um problema, o transtorno surge quando não se tem um aperfeiçoamento durante a fase deliberativa (principalmente por restrição do debate nas comissões).

Ainda quanto ao amadurecimento da proposta, compete ressaltar que é decisivo imprimir maior racionalidade ao processo legiferante, premissa fundamental da atividade de produzir boas leis. A esse respeito, a Análise de Impacto Legislativo (AIL), entendida como a abordagem sistemática para avaliar criticamente os efeitos positivos e negativos de atos legislativos, bem como alternativas não-normativas, reconhecidamente contribui para ganhos informacionais no debate público e na eficiência do devido processo legislativo. O Brasil dá seus primeiros passos neste sentido, ainda se ressentindo de uma institucionalização efetiva [11].

O mais importante de toda a polêmica que veio com a peça publicitária da VW, é a discussão que ela levantou e a possibilidade de debate de um tema que como outros que permeiam a IA estarão cada vez mais presentes e para os quais é importante uma discussão que leve à utilização informada, legítima, segura e equilibrada da IA.