Criação de imagens íntimas e inteligência artificial: desafios jurídicos e éticos

Em 2011, a atriz americana Scarlet Johansson teve fotos íntimas vazadas por um criminoso que invadiu contas de e-mail de dezenas de celebridades. No mesmo ano, a atriz brasileira Carolina Dieckmann também foi alvo de exposição de fotos pessoais, incluindo imagens íntimas. Nos dois casos, os criminosos foram identificados e punidos, com o rigor de cada legislação [1]. Em 2023, ao menos 20 meninas de uma escola particular foram vítimas da criação de imagens íntimas falsas criados por meio de inteligência artificial, em um episódio lamentável e alarmante para o país [2].

Nos casos de divulgação de imagens íntimas reais, a exposição está condicionada à obtenção das imagens, seja de forma lícita, como em uma gravação consensual entre os envolvidos, ou de forma ilícita, pela invasão de dispositivos tecnológicos, como computadores pessoais e celulares [3]. O necessário acesso às imagens reais dificulta a divulgação do material íntimo, embora não raro nos deparemos com casos de pornografia de vingança ou outro tipo igualmente repugnante de divulgação não consentida.

Embora o meio de divulgação das imagens seja diferente nos casos citados, ambos retratam uma triste tendência em expor mulheres sem o devido consentimento, independentemente da forma adotada.

Hoje, novas ferramentas de inteligência artificial, impulsionadas pela capacidade de processamento e análise de informações, tornam possível a exposição de qualquer pessoa cujas imagens possam ser obtidas para criar material de nudismo [4]. Uma das ferramentas analisadas para a pesquisa deste artigo revela possuir “algoritmos sofisticados e tecnologia avançada” para a criação de “representações incrivelmente realistas de corpos nus perfeitos”, para “servir apenas a um propósito — sua satisfação sexual [do usuário]”.

Há diversas preocupações com o avanço dessa tecnologia de geração de imagens cada vez mais sofisticadas de nudismo. Primeiramente, tais imagens exploram uma noção irreal, machista e preconceituosa de corpos femininos “perfeitos”, aprofundando o grave problema de desprezo pela mulher enquanto indivíduo, reduzindo-a a mero corpo objetificável. Além disso, a produção indiscriminada, antiética e irrefletida dessas imagens ignora, muitas vezes, o dano existencial causado às vítimas dessas criações lamentáveis, visando unicamente à “satisfação sexual” dos usuários.

E essa tendência é bastante preocupante. Um estudo de 2019 realizado pela Sensity AI estima que entre 90% e 95% de todos os vídeos deepfake online são pornôs não consensuais, e cerca de 90% desses vídeos incluem mulheres [5]. A facilidade de produção dessas imagens, associada à rápida proliferação em aplicativos de mensagens, torna o fenômeno ainda mais preocupante, especialmente porque vítimas de exposição sexual não consentida (revenge porn, mais comumente) muitas vezes consideram o suicídio como a única saída para o sofrimento psicológico enfrentado [6]. E não há motivos para pensar que no cenário atual, em que a inteligência artificial pode criar milhares de imagens íntimas de alguém, seria diferente.

O impacto da criação dessas imagens e divulgação indiscriminada, notadamente em crianças e adolescentes, pode ser devastador e demanda das escolas e autoridades públicas o desenvolvimento de uma cultura ética na utilização dessas ferramentas de inteligência artificial. Um importante passo nessa direção foi a aprovação da base nacional comum curricular da computação (BNCC da computação), que dentre seus eixos de organização dispõe sobre a cultura digital, que “envolve aprendizagens voltadas à participação consciente e democrática por meio das tecnologias digitais, o que pressupõe compreensão dos impactos da revolução digital e seus avanços na sociedade contemporânea; bem como a construção de atitude crítica, ética e responsável em relação à multiplicidade de ofertas midiáticas e digitais, e os diferentes usos das tecnologias e dos conteúdos veiculados; […]”.

Os recentes acontecimentos no país acendem o alerta para o tratamento jurídico do que é feito com inteligência artificial e um alerta ético do uso dessas ferramentas. A resposta jurídica, com elaboração e revisão da legislação para abarcar temas como esse, pode demorar muito dada a complexidade do tema. Por outro lado, o debate sobre o uso ético e responsável dessas ferramentas, especialmente no cenário escolar, pode ser implementado desde já, com a participação da direção, professores, pais e alunos. E cabe também à sociedade discutir esse tema e repudiar “criações” que violem direitos da personalidade e exponham à humilhação qualquer pessoa.

[1] O criminoso responsável pela divulgação das imagens da atriz Scarlet Johansson foi solto em janeiro de 2023, após cumprir os dez anos de prisão a que foi condenado. No caso brasileiro, a situação deu notoriedade a um novo tipo de crime, para o qual a resposta foi a edição da Lei nº 12.737/2012, que inclui no Código Penal a tipificação de crimes virtuais e delitos informáticos, como a invasão de dispositivos informáticos com o fim de obter, adulterar ou destruir dados ou informações sem autorização expressa ou tácita do proprietário.

[2] O nome da instituição de ensino foi deliberadamente omitido para evitar mais constrangimento às vítimas e aos familiares.

[3] Embora toda divulgação não consentida seja crime, a forma da obtenção das imagens faz diferença quando da responsabilização penal. Se o autor do crime se aproveitou da confiança dada anteriormente, e utilizou as imagens após o fim do relacionamento, por exemplo, deve responder pela divulgação não autorizada. Se, por outro lado, invadiu dispositivos da vítima para obtenção das imagens, responde também por este crime.

[4] As imagens podem ser geradas a partir de fotos reais de uma pessoa, obtidas das redes sociais, colocando-a em um contexto sexual, ou a partir de outros contextos, como filmes pornográficos, por exemplo, trocando o rosto dos participantes da cena pelo da vítima, notadamente mulheres.

[5] Novo aplicativo de Inteligência Artificial coloca mulheres em vídeos pornôs com um clique. Disponível em: <https://mittechreview.com.br/novo-aplicativo-de-inteligencia-artificial-coloca-mulheres-em-videos-pornos-com-um-clique/>. Acesso em 06 nov. 2023.

[6] Many revenge porn victims consider suicide – why aren’t schools doing more to stop it? Disponível em:< https://www.theguardian.com/lifeandstyle/2018/may/07/many-revenge-porn-victims-consider-suicide-why-arent-schools-doing-more-to-stop-it>. Acesso em 07 nov. 2023.