Inovação, inteligência artificial, reconhecimento facial e processo legislativo

"Who are you? Who, who, who, who? I really wanna know!" [1]. Com o perdão do anglicismo (esse não será o único), começo esta coluna com um questionamento trazido do refrão de uma das mais conhecidas bandas de rock britânica The Who — inclusive tema de abertura da série investigativa CSI Las Vegas —, para resgatar uma das perguntas mais constantes e elementares da nossa vida em sociedade e que, de certa forma, "atormenta" quem trabalha no Parlamento. Espero que ao longo deste artigo fique clara a importância e a criticidade, no Processo Legislativo, de se obter, da maneira mais imediata possível, a resposta à pergunta "Quem é você?" (e digo isso em sentido literal, não filosófico ou político).

Nesse diapasão, de todas as tecnologias biométricas, a tecnologia de reconhecimento facial (facial recognition technology, ou FRT) é a que mais de perto imita como as pessoas identificam os outros: examinando seus rostos.

No livro All Eyes on Me: Riscos e Desafios da Tecnologia de Reconhecimento Facial à Luz da Lei Geral de Proteção de Dados discute-se exatamente a proposta do título: as possibilidades, riscos e desafios do uso da FRT sob a perspectiva da Lei Geral de Proteção de Dados (LGPD), em especial na sua intersecção com a vigilância em massa e em espaços públicos.

Naquele trabalho seminal, no que diz respeito à identificação do indivíduo por meio do processamento biométrico, demonstrou-se que podem ser estabelecidas as seguintes premissas: 1) toda tecnologia capaz de detectar uma face humana pode ser considerada FRT; 2) dados referentes a faces humanas são dados pessoais; 3) todo reconhecimento facial envolve o tratamento de dados pessoais; 4) dados de faces humanas tratadas no contexto do reconhecimento facial são dados (biométricos) sensíveis; 5) eventual anonimização dos dados não descaracteriza o tratamento de dados pessoais. Desta forma, a FRT não só lida com dados pessoais, mas com dados pessoais sensíveis que, neste sentido, gozam de proteção especial, conforme a LGPD.

A questão da utilização ética da FRT é uma reflexão que vale à pena ser feita, uma vez que essa tecnologia emergente tem o potencial de moldar a vida pública futura. Procura-se, desta forma, colaborar com uma discussão que leve à utilização informada, legítima, segura e equilibrada da FRT.

Como toda tecnologia, a FRT não é neutra. Ao mesmo tempo que seu emprego vem acompanhado do discurso de benefícios, eficiência, facilidade, rapidez, comodidade e conveniência (como para desbloqueio de smartphones; confirmação de pagamento em aplicativos; identificação automática de pessoas em imagens de mídias sociais; em sistemas de segurança de aeroportos; na permissão de entrada em academias, em escolas, em sistemas de transporte público, em locais de trabalho e em instalações de saúde), ela carrega consigo, também, muitas dúvidas e controvérsias.

A face tem um significado que vai além da aparência — é um marcador de identidade e individualidade únicas. Mas com a disseminação da FRT, a face torna-se uma coleção de pontos que podem ser literalmente transformados em commodities e comercializados. Isso tem sérias repercussões em questões de privacidade, liberdade, dignidade, integridade humana, e mesmo democracia e não discriminação.

Sem embargo, neste ponto, gostaria de fazer um recorte de uma aplicação na qual o emprego da FRT poderia, em princípio, ser considerada aceitável: uma ferramenta capaz de reconhecer, de maneira automatizada, a face dos parlamentares que estão fazendo uso da palavra em Plenário. E desde logo se destaca que esse é um uso distinto da vigilância em massa em espaços públicos.

Atualmente, esse trabalho de reconhecimento de parlamentares é feito de forma manual/analógica, por uma equipe reduzida, geralmente dispersa entre os diferentes profissionais das distintas atividades que necessitam da identificação do parlamentar. A tarefa, à primeira vista, pode parecer simples, mas ela é crítica. A informação serve de subsídio para registros taquigráficos; para legendagem dos canais oficiais, e.g., TV Câmara e TV Senado (tanto do canal de televisão, quando do streaming no Youtube); para controle de concessão e tempo de uso da palavra; para elaboração de ata das sessões/reuniões; para identificação de parlamentares que subscreveram oralmente uma proposição; para identificação de líderes e vice-líderes, bem como para o exercício de suas prerrogativas (e.g., para aprovação de requerimento de verificação de votação); dentre outras aplicações, tendo, portanto, consequências no próprio andamento do Processo Legislativo (inclusive na legitimidade de realização de algumas etapas).

Considerando-se que: 1) a verificação da identidade deve ser feita de maneira acurada; 2) em um tempo que não ultrapasse alguns poucos segundos; 3) que o efetivo de parlamentares na Câmara é de 513 deputados e no Senado é de 81 senadores, muitas vezes sendo substituídos por suplentes (o que aumenta o número de parlamentares "identificáveis"); tem-se a dimensão do desafio e estresse inerentes à atividade. Acresça-se ao cenário, o fato que a necessidade de verificação da identidade do parlamentar pela equipe técnica ocorre não apenas nas sessões realizadas no Plenário da Casa, mas também nas reuniões nos Plenários das Comissões (e.g., atualmente, só a Câmara dos Deputados possui 30 comissões permanentes e várias comissões especiais em funcionamento) e, possivelmente, em outros eventos.

Entre os benefícios do uso da FRT, estariam não só a já citada identificação automatizada do orador nas transmissões dos canais oficiais (TV Câmara ou TV Senado, por exemplo), mas a possibilidade de a ferramenta indexar automaticamente fotos e vídeos de forma a atribuí-los aos parlamentares em suas redes oficiais institucionais.

Nesse contexto de grande pressão, de necessidade de pessoal treinado, de recursos humanos cada vez mais escassos, a automação da tarefa — o que inerentemente envolveria o emprego de FRT — surge como uma possível alternativa. A solução sugerida/desenhada envolveria supervisão humana, na medida em que a verificação inicial da identidade do parlamentar se daria pela FRT, mas a informação passaria por uma etapa de confirmação/validação por uma pessoa, antes de utilizada pela TV Câmara e outros serviços.

Óbvio está que toda questão de proteção de dados, recentemente reconhecida como direito e garantia fundamental pela Constituição (artigo 5º, LXXIX, da CF [2], incluído pela Emenda Constitucional (EC) nº 115/2022) perpassa a temática, exigindo a proposta de normativo no âmbito da Casa Legislativa para que a FRT possa ser de fato empregada, delimitando-se o seu escopo de uso e explicitando a finalidade do tratamento dos dados.

Como boa prática, entende-se que o uso de FRT deveria implicar, necessariamente, a análise de riscos e consequente elaboração de Relatório de Impacto de Proteção de Dados (RIPD) a fim de identificar e mitigar tais riscos. Mas, desde logo, aponta-se que como o público-alvo é delimitado (apenas parlamentares, pessoas públicas, que serão informadas de antemão do emprego da técnica), num ambiente controlado (apenas em Plenários da Casa Legislativa), numa conjuntura específica e para uma finalidade definida (verificação de quem fará/está em uso da palavra), entende-se que esta seria uma aplicação legítima e controlada da FRT que não implicaria, em princípio, em risco a direito fundamental — mas claro, isso teria que restar demonstrado no RIPD.

Considerando que geralmente uma das etapas do tratamento biométrico é o "cadastramento biométrico", fase que, usualmente, implica a participação do indivíduo (e.g., a coleta de impressões digitais para fins de votação e registro de presença do parlamentar na Casa Legislativa, de foto para uso nos sistemas internos, etc.), este pode ser um momento adequado para fornecer-lhe aviso e informações acerca do tratamento dos dados, bem como para a obtenção de termo de consentimento do parlamentar (titular dos dados).

Em geral, a LGPD se apoia fortemente no consentimento do titular de dados para o tratamento dos dados pessoais, ainda que não seja a única hipótese, nem hierarquicamente superior às demais elencadas no artigo 7º (dados pessoais, de uma maneira geral) ou no artigo 11 (dados pessoais sensíveis, como no tratamento de dados biométricos, que seria o caso da FRT). Cumpre destacar que no caso da FRT, para que haja tratamento válido, não havendo o consentimento do titular de dados, é necessário o enquadramento em uma das sete hipóteses previstas no artigo 11, II da LGPD.

A busca pelo equilíbrio entre a promoção da inovação e a garantia que a tecnologia é "confiável" e "centrada no ser humano", pode sugerir uma série de técnicas reguladoras para a área:

— Dos princípios de proteção de dados e privacidade by design [3] (desde o desenho e a concepção da solução) e by default (por padrão) no desenvolvimento e uso de FRT;

— Da transparência e da responsabilidade sobre o uso de dados pessoais, sua governança e direitos aplicáveis aos indivíduos;

— Dos princípios enunciados no artigo 6º da LGPD [4] no processamento de dados pessoais;

— De uma abordagem ética para o uso de dados biométricos.

Importa mencionar que a proposta de normativo para regular a utilização da FRT, no contexto descrito, pode parecer uma temática simples, mas o desafio é enorme! Prova disso é o debate da regulação da Inteligência Artificial (ramo do qual a FRT faz parte), que está em intensa discussão no âmbito internacional, mas também no nacional. A esse respeito, destaca-se o Projeto de Lei nº 2.338/2023, que institui o marco legal da Inteligência Artificial, apresentado pelo presidente do Senado, Rodrigo Pacheco, cujo anteprojeto foi resultado dos trabalhos da CJSUBIA [5].

É sabido que a FRT envolve tradeoffs, mas ainda se está descobrindo o alcance que essa tecnologia tem em diferentes aspectos da vida. Embora o estudo empreendido no livro All Eyes on Me indique fortemente que, em determinados contextos (como o reconhecimento facial na segurança pública [6]), o uso da FRT deva ser restringido e mesmo proibido, não se trata de um movimento "anti-inovação", mas de um mecanismo de pesos e contrapesos para garantir que essa tecnologia contribua para a sociedade, ao mesmo tempo que esta mesma sociedade é protegida contra riscos. Como mencionado anteriormente, a questão da utilização ética da FRT é uma reflexão que vale à pena ser feita!