Fábrica de Leis

Inovação, inteligência artificial, reconhecimento facial e processo legislativo

Autor

  • Shana Schlottfeldt

    é analista legislativo da Câmara dos Deputados professora colaboradora do mestrado profissional em Poder Legislativo do Cefor-CD (Centro de Formação Treinamento e Aperfeiçoamento da Câmara dos Deputados) doutora pela UnB (Universidade de Brasília) visiting PhD student at University of York mestre pela Universidad Carlos 3º de Madri especialista em Direito Parlamentar e Poder Legislativo pelo ILB (Instituto Legislativo Brasileiro) do Senado bacharela em Direito pela UnB LLB exchange student at Australian National University pesquisadora do Observatório da LGPD-UnB pesquisadora do Grupo de Estudos em Direito das Telecomunicações (Getel/UnB/CNPq) autora do livro "All Eyes on Me: riscos e desafios da Tecnologia de Reconhecimento Facial à luz da Lei Geral de Proteção de Dados".

18 de julho de 2023, 8h00

"Who are you? Who, who, who, who? I really wanna know!" [1]. Com o perdão do anglicismo (esse não será o único), começo esta coluna com um questionamento trazido do refrão de uma das mais conhecidas bandas de rock britânica The Who  inclusive tema de abertura da série investigativa CSI Las Vegas , para resgatar uma das perguntas mais constantes e elementares da nossa vida em sociedade e que, de certa forma, "atormenta" quem trabalha no Parlamento. Espero que ao longo deste artigo fique clara a importância e a criticidade, no Processo Legislativo, de se obter, da maneira mais imediata possível, a resposta à pergunta "Quem é você?" (e digo isso em sentido literal, não filosófico ou político).

ConJur
A resposta a essa pergunta pode ser obtida de diversas maneiras, assim como variados são os meios de identificação de uma pessoa. Mas sem dúvida, uma das primeiras e mais básicas formas de identificação, que aprendemos ainda na infância, é o reconhecimento facial (com base nas características físicas da face do indivíduo).

Nesse diapasão, de todas as tecnologias biométricas, a tecnologia de reconhecimento facial (facial recognition technology, ou FRT) é a que mais de perto imita como as pessoas identificam os outros: examinando seus rostos.

No livro All Eyes on Me: Riscos e Desafios da Tecnologia de Reconhecimento Facial à Luz da Lei Geral de Proteção de Dados discute-se exatamente a proposta do título: as possibilidades, riscos e desafios do uso da FRT sob a perspectiva da Lei Geral de Proteção de Dados (LGPD), em especial na sua intersecção com a vigilância em massa e em espaços públicos.

Naquele trabalho seminal, no que diz respeito à identificação do indivíduo por meio do processamento biométrico, demonstrou-se que podem ser estabelecidas as seguintes premissas: 1) toda tecnologia capaz de detectar uma face humana pode ser considerada FRT; 2) dados referentes a faces humanas são dados pessoais; 3) todo reconhecimento facial envolve o tratamento de dados pessoais; 4) dados de faces humanas tratadas no contexto do reconhecimento facial são dados (biométricos) sensíveis; 5) eventual anonimização dos dados não descaracteriza o tratamento de dados pessoais. Desta forma, a FRT não só lida com dados pessoais, mas com dados pessoais sensíveis que, neste sentido, gozam de proteção especial, conforme a LGPD.

A questão da utilização ética da FRT é uma reflexão que vale à pena ser feita, uma vez que essa tecnologia emergente tem o potencial de moldar a vida pública futura. Procura-se, desta forma, colaborar com uma discussão que leve à utilização informada, legítima, segura e equilibrada da FRT.

Como toda tecnologia, a FRT não é neutra. Ao mesmo tempo que seu emprego vem acompanhado do discurso de benefícios, eficiência, facilidade, rapidez, comodidade e conveniência (como para desbloqueio de smartphones; confirmação de pagamento em aplicativos; identificação automática de pessoas em imagens de mídias sociais; em sistemas de segurança de aeroportos; na permissão de entrada em academias, em escolas, em sistemas de transporte público, em locais de trabalho e em instalações de saúde), ela carrega consigo, também, muitas dúvidas e controvérsias.

A face tem um significado que vai além da aparência  é um marcador de identidade e individualidade únicas. Mas com a disseminação da FRT, a face torna-se uma coleção de pontos que podem ser literalmente transformados em commodities e comercializados. Isso tem sérias repercussões em questões de privacidade, liberdade, dignidade, integridade humana, e mesmo democracia e não discriminação.

Sem embargo, neste ponto, gostaria de fazer um recorte de uma aplicação na qual o emprego da FRT poderia, em princípio, ser considerada aceitável: uma ferramenta capaz de reconhecer, de maneira automatizada, a face dos parlamentares que estão fazendo uso da palavra em Plenário. E desde logo se destaca que esse é um uso distinto da vigilância em massa em espaços públicos.

Atualmente, esse trabalho de reconhecimento de parlamentares é feito de forma manual/analógica, por uma equipe reduzida, geralmente dispersa entre os diferentes profissionais das distintas atividades que necessitam da identificação do parlamentar. A tarefa, à primeira vista, pode parecer simples, mas ela é crítica. A informação serve de subsídio para registros taquigráficos; para legendagem dos canais oficiais, e.g., TV Câmara e TV Senado (tanto do canal de televisão, quando do streaming no Youtube); para controle de concessão e tempo de uso da palavra; para elaboração de ata das sessões/reuniões; para identificação de parlamentares que subscreveram oralmente uma proposição; para identificação de líderes e vice-líderes, bem como para o exercício de suas prerrogativas (e.g., para aprovação de requerimento de verificação de votação); dentre outras aplicações, tendo, portanto, consequências no próprio andamento do Processo Legislativo (inclusive na legitimidade de realização de algumas etapas).

Considerando-se que: 1) a verificação da identidade deve ser feita de maneira acurada; 2) em um tempo que não ultrapasse alguns poucos segundos; 3) que o efetivo de parlamentares na Câmara é de 513 deputados e no Senado é de 81 senadores, muitas vezes sendo substituídos por suplentes (o que aumenta o número de parlamentares "identificáveis"); tem-se a dimensão do desafio e estresse inerentes à atividade. Acresça-se ao cenário, o fato que a necessidade de verificação da identidade do parlamentar pela equipe técnica ocorre não apenas nas sessões realizadas no Plenário da Casa, mas também nas reuniões nos Plenários das Comissões (e.g., atualmente, só a Câmara dos Deputados possui 30 comissões permanentes e várias comissões especiais em funcionamento) e, possivelmente, em outros eventos.

Entre os benefícios do uso da FRT, estariam não só a já citada identificação automatizada do orador nas transmissões dos canais oficiais (TV Câmara ou TV Senado, por exemplo), mas a possibilidade de a ferramenta indexar automaticamente fotos e vídeos de forma a atribuí-los aos parlamentares em suas redes oficiais institucionais.

Nesse contexto de grande pressão, de necessidade de pessoal treinado, de recursos humanos cada vez mais escassos, a automação da tarefa  o que inerentemente envolveria o emprego de FRT  surge como uma possível alternativa. A solução sugerida/desenhada envolveria supervisão humana, na medida em que a verificação inicial da identidade do parlamentar se daria pela FRT, mas a informação passaria por uma etapa de confirmação/validação por uma pessoa, antes de utilizada pela TV Câmara e outros serviços.

Óbvio está que toda questão de proteção de dados, recentemente reconhecida como direito e garantia fundamental pela Constituição (artigo 5º, LXXIX, da CF [2], incluído pela Emenda Constitucional (EC) nº 115/2022) perpassa a temática, exigindo a proposta de normativo no âmbito da Casa Legislativa para que a FRT possa ser de fato empregada, delimitando-se o seu escopo de uso e explicitando a finalidade do tratamento dos dados.

Como boa prática, entende-se que o uso de FRT deveria implicar, necessariamente, a análise de riscos e consequente elaboração de Relatório de Impacto de Proteção de Dados (RIPD) a fim de identificar e mitigar tais riscos. Mas, desde logo, aponta-se que como o público-alvo é delimitado (apenas parlamentares, pessoas públicas, que serão informadas de antemão do emprego da técnica), num ambiente controlado (apenas em Plenários da Casa Legislativa), numa conjuntura específica e para uma finalidade definida (verificação de quem fará/está em uso da palavra), entende-se que esta seria uma aplicação legítima e controlada da FRT que não implicaria, em princípio, em risco a direito fundamental  mas claro, isso teria que restar demonstrado no RIPD.

Considerando que geralmente uma das etapas do tratamento biométrico é o "cadastramento biométrico", fase que, usualmente, implica a participação do indivíduo (e.g., a coleta de impressões digitais para fins de votação e registro de presença do parlamentar na Casa Legislativa, de foto para uso nos sistemas internos, etc.), este pode ser um momento adequado para fornecer-lhe aviso e informações acerca do tratamento dos dados, bem como para a obtenção de termo de consentimento do parlamentar (titular dos dados).

Em geral, a LGPD se apoia fortemente no consentimento do titular de dados para o tratamento dos dados pessoais, ainda que não seja a única hipótese, nem hierarquicamente superior às demais elencadas no artigo 7º (dados pessoais, de uma maneira geral) ou no artigo 11 (dados pessoais sensíveis, como no tratamento de dados biométricos, que seria o caso da FRT). Cumpre destacar que no caso da FRT, para que haja tratamento válido, não havendo o consentimento do titular de dados, é necessário o enquadramento em uma das sete hipóteses previstas no artigo 11, II da LGPD.

A busca pelo equilíbrio entre a promoção da inovação e a garantia que a tecnologia é "confiável" e "centrada no ser humano", pode sugerir uma série de técnicas reguladoras para a área:

— Dos princípios de proteção de dados e privacidade by design [3] (desde o desenho e a concepção da solução) e by default (por padrão) no desenvolvimento e uso de FRT;

— Da transparência e da responsabilidade sobre o uso de dados pessoais, sua governança e direitos aplicáveis aos indivíduos;

— Dos princípios enunciados no artigo 6º da LGPD [4] no processamento de dados pessoais;

— De uma abordagem ética para o uso de dados biométricos.

Importa mencionar que a proposta de normativo para regular a utilização da FRT, no contexto descrito, pode parecer uma temática simples, mas o desafio é enorme! Prova disso é o debate da regulação da Inteligência Artificial (ramo do qual a FRT faz parte), que está em intensa discussão no âmbito internacional, mas também no nacional. A esse respeito, destaca-se o Projeto de Lei nº 2.338/2023, que institui o marco legal da Inteligência Artificial, apresentado pelo presidente do Senado, Rodrigo Pacheco, cujo anteprojeto foi resultado dos trabalhos da CJSUBIA [5].

É sabido que a FRT envolve tradeoffs, mas ainda se está descobrindo o alcance que essa tecnologia tem em diferentes aspectos da vida. Embora o estudo empreendido no livro All Eyes on Me indique fortemente que, em determinados contextos (como o reconhecimento facial na segurança pública [6]), o uso da FRT deva ser restringido e mesmo proibido, não se trata de um movimento "anti-inovação", mas de um mecanismo de pesos e contrapesos para garantir que essa tecnologia contribua para a sociedade, ao mesmo tempo que esta mesma sociedade é protegida contra riscos. Como mencionado anteriormente, a questão da utilização ética da FRT é uma reflexão que vale à pena ser feita!

 


[1] Quem é você? Quem, quem, quem, quem? Eu realmente quero saber!

[2] Artigo 5º […] LXXIX – é assegurado, nos termos da lei, o direito à proteção dos dados pessoais, inclusive nos meios digitais.

[3] Geralmente é utilizado para designar o amplo conceito de medidas tecnológicas para garantir a privacidade.

[4] O artigo 6º da LGPD dispõe que o tratamento de dados pessoais deve observar a boa-fé e os princípios da finalidade, adequação, necessidade, livre acesso, qualidade dos dados, transparência, segurança, prevenção, não discriminação, responsabilização e prestação de contas.

[5] "Comissão de Juristas responsável por subsidiar a elaboração de substitutivo para instruir a apreciação dos Projetos de Lei nº 5.051/2019, nº 21/2020, e nº 872/2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil".

[6] A sociedade civil organizada tem se manifestado pela proibição do uso de FRT em determinadas situações. Como exemplos, tem-se: 1) o movimento europeu ReclaimYourFace, lançado em novembro de 2020, que pede a proibição do uso de biometria facial para vigilância em massa em espaços públicos devido ao seu impacto sobre direitos e liberdades; 2) o movimento Ban Biometric Surveillance que lançou em junho de 2021 uma "carta aberta para banimento global de usos de reconhecimento facial e outros reconhecimentos biométricos remotos que permitam vigilância em massa, discriminatória e enviesada"; 3) a campanha #TireMeuRostoDaSuaMira, apresentada em junho de 2022, mobilizando a sociedade civil para pedir a proibição total do uso de tecnologias digitais de reconhecimento facial na segurança pública no Brasil.

Autores

  • Brave

    é analista legislativo da Câmara dos Deputados, professora colaboradora do Mestrado Profissional em Poder Legislativo do Centro de Formação, Treinamento e Aperfeiçoamento da Câmara dos Deputados, doutora pela Universidade de Brasília (UnB), visiting PhD student at University of York, mestre pela Universidad Carlos III de Madrid, Especialista em Direito Parlamentar e Poder Legislativo pelo Instituto Legislativo Brasileiro do Senado Federal, bacharela em Direito pela UnB, LLB exchange student at Australian National University, pesquisadora do Observatório da LGPD-UnB, pesquisadora do Grupo de Estudos em Direito das Telecomunicações (GETEL/UnB/CNPq), autora do livro “All Eyes on Me: riscos e desafios da Tecnologia de Reconhecimento Facial à luz da Lei Geral de Proteção de Dados”.

Tags:

Encontrou um erro? Avise nossa equipe!