Ética e IA no Poder Judiciário

Desde 2019, o Centro de Inovação, Administração e Pesquisa do Judiciário da FGV (Fundação Getulio Vargas), sob a coordenação do ministro Luis Felipe Salomão, faz o levantamento inédito das iniciativas de inteligência artificial nos tribunais brasileiros por meio da pesquisa "Inteligência Artificial: Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário brasileiro" [1]. 

Em 2021, na 2ª edição da pesquisa [2], o levantamento foi replicado nos tribunais brasileiros, tendo em vista a dinamicidade dos dados, e encontrou 64 ferramentas de inteligência artificial. Esta edição ampliou o mapeamento das tecnologias utilizadas, as quais passaram a englobar a inteligência computacional/inteligência artificial e analytics/business intelligence.

O referido mapeamento incluiu informações sobre a equipe responsável; aspectos técnicos; base de dados; avaliação e monitoramento. A amostra dos tribunais pesquisados se manteve a mesma da 1ª edição e a metodologia incluiu um formulário mais abrangente, com maior número de variáveis para investigação.

Com o objetivo de aprofundar, de forma mais prática, sobre alguns dos sistemas de IA utilizados pelos tribunais do país, em 2022, o Centro do Judiciário deu sequência à terceira fase da pesquisa. Nesta 3ª etapa do estudo, foram analisadas de forma mais aprofundada as ferramentas de IA disponíveis no STF, STJ, TST, TRF 1ª Região e TJ-DF [3]. A investigação buscou trazer um fluxo do funcionamento da aplicação dessa tecnologia, bem como analisou a adequação da IA aos aspectos éticos elencados pelo CNJ na Resolução N°. 332 de 2020.  

No entanto, aqui precisamos entender claramente a diferença entre regras morais e pontos de vista éticos. As regras morais são como leis universais que devem ser seguidas por todos. Já os pontos de vista éticos são mais sobre crenças e valores que as pessoas ou grupos particulares possuem [4].

Pense em questões éticas como aquelas que afetam "nós", ou seja, o que uma comunidade específica acredita serem os critérios ou valores que devem guiar suas vidas. Isso se relaciona com a ideia de uma vida boa ou, pelo menos, uma vida que seja bem-sucedida.

Mas aqui está a parte importante: as questões éticas não exigem que as pessoas se desvinculem de seus próprios interesses ou da sociedade. Elas estão ligadas ao que é melhor para o grupo.

Habermas [5], por exemplo, fala sobre a diferença entre o que é "justo" (moral) e o que é "bom" (ético). O "bom" é o que um grupo de pessoas quer, baseado em um valor compartilhado. Mas o "justo" vai além, lidando com o que é correto e os direitos que todos têm.

No mundo moderno, o Direito mudou. Não é mais apenas uma extensão da moral, mas algo que complementa, com suas próprias regras. Isso é feito através da ideia de soberania popular (ou autonomia pública) e direitos humanos (ou autonomia privada).

A partir desse ponto de vista, a ética intervém antes e ao lado da lei com o objetivo de servir de parâmetro para delimitação do "bom" para a comunidade, entre o que é ou não tolerável, entre o que beneficia ou prejudica um grupo, entre o que contribui ou não para o bem comum.

Em matéria de IA, a noção da ética tenta se concentrar sobre as problemáticas normativas ligadas à concepção, desenvolvimento, implantação e utilização dos modelos de IA, mas sempre com um grande dilema de seu nível de obrigatoriedade sistêmica, ou seja, de enforcement. Em um contexto [6] caracterizado por constantes avanços tecnológicos e por fortes incertezas de quanto à amplitude e conteúdo da regulação desse tema, a ética se apresenta como uma diretriz fundante, que porém, no plano regulatório, ainda pode carecer da força necessária para dirimir os dilemas e complexidades atinentes ao uso de uma tecnologia que se tornou de propósito geral e ubíqua em todos os sistemas sociais.

É notável que grande parte dos comitês e relatórios relacionados à ética da IA possuem um conteúdo bastante repetitivo, essencialmente voltado à proteção da vida privada e dos dados pessoais. De fato, esses valores éticos relacionados a essa ferramenta formam um suposto consenso retórico que mascara uma série de desafios que a IA submete ao indivíduo e à sociedade.

Como a IA é uma ferramenta que se expande em diversos aspectos da vida humana, é importante garantir que ela sirva ao Homem e, portanto, não lhe cause prejuízo [7]. A discussão ética sobre IA está no centro do debate mundial e de todos os setores econômicos. Essa tecnologia é aplicada, majoritariamente, por multinacionais e no setor privado, que têm criado grupos específicos para o estudo do tema. Assim, a Meta (antigo Facebook) [8] criou em 2018 uma equipe voltada especificamente à questão, enquanto o DeepMind [9] implementou um departamento de pesquisa em ética e sociedade. De forma coletiva, 50 grandes empresas de tecnologia, organizações não governamentais e centros de pesquisa [10] firmaram uma parceria tendo em vista beneficiar o indivíduo e a sociedade.

As iniciativas nesse sentido se multiplicam e congregam as mais variadas instituições. Assim, o Vaticano anunciou uma parceria com a Microsoft e a IBM para criar um prêmio universitário destinado a promover a ética no domínio da IA, de acordo com os valores antropológicos cristãos. Essa associação resultou na publicação "Rome call for AI Ethic" [11].

O debate sobre a ética, ao mesmo tempo em que avança nas discussões acadêmicas e institucionais, apresenta alguns pontos de atenção. O destaque é que a onipresença desse tema nos discursos comerciais serve de uma vitrine publicitária que encobre uma estratégia agressiva da indústria no sentido de ganhar credibilidade junto ao público, aos governos e órgãos potenciais de regulação, sem representar reais preocupações de se garantir o combate à (v.g) discriminação algorítmica, opacidade (etc.) e que garanta realmente FTA (Fainess, transparency e accountability).

Na prática, chama atenção que CEOs de grandes empresas criem recursos tecnológicos cada vez mais intrusivos no comportamento humano, ao mesmo tempo desaconselham seus familiares a utilizarem essas ferramentas [12].

Em 2020, um levantamento estimou a existência de mais de 200 [13] documentos com o objetivo de estabelecer diretrizes éticas sobre o uso da IA. Um grupo de trabalho fez uma cartografia da maior parte desse material, sobretudo os elaborados no âmbito dos Estados-membros da União Europeia, América do Norte e Ásia, e verificou que esses instrumentos convergem no que concerne aos princípios, porém, nas recomendações, o cenário é marcado por uma forte diversidade de propostas. No momento atual, a mobilização consiste em colocar em prática esses conteúdos.

Neste contexto, uma constatação parece irrefutável: a IA modificou, sobremaneira, nosso cotidiano. Para a Comissão Europeia [14], se trata de uma transformação tão disruptiva quanto àquela provocada pela Revolução Industrial. Sobretudo pela perspectiva econômica, o homem teve sua importância concentrada nos seus dados e a IA é, na atualidade, a mais importante ferramenta para tratamento dessas informações.

A razão pela qual a IA enfrenta uma série de desafios éticos se deve ao seu modo de funcionamento, que tem como premissa a coleta e o tratamento de uma quantidade massiva de dados (que, por vezes, têm natureza pessoal).

Diversos países criaram sua legislação de proteção de dados pessoais com base no regulamento europeu [15]. Esse papel de referência mundial fez com que a UE buscasse reforçar a sua liderança em matéria ética e de regulação da IA. Contudo, outras nações também concorrem para servir de parâmetro nesse campo; o que faz da ética um problema geopolítico [16].

O protagonismo europeu ganha impulso com as parcerias de instituições e organizações internacionais, a exemplo da OCDE, do G20 e da ONU. Ainda que o mercado tecnológico esteja mais concentrado nos Estados Unidos e na China, é notável que a ética se tornou um instrumento econômico relevante. A ética compõe um aspecto da estratégia em termos de concorrência e serve de contrapeso [17] para a competitividade europeia.

As normas brasileiras têm se inspirado nas normativas europeias quanto aos aspectos éticos. Assim, o CNJ editou a Resolução n° 332 de 2020 [18], a qual dispôs sobre a ética, a transparência e a governança na produção e no uso da IA no Poder Judiciário, a partir da Carta europeia de ética sobre o uso da IA em sistemas judiciais e seu ambiente [19].

A Resolução n° 332 de 2020 trata sobre os seguintes aspectos: respeito aos direitos fundamentais, não discriminação, publicidade e transparência, governança e qualidade, segurança, controle do usuário, pesquisa, desenvolvimento e implantação, prestação de contas e responsabilização.

De fato, a ideação de uma parte considerável das ferramentas de IA em uso pelos tribunais foi feita em um momento prévio à elaboração da Resolução n° 332 do CNJ, o que impõe maiores desafios de adaptação.

Ela foi determinante para atual etapa de nossa pesquisa de monitoramento das iniciativas de IA em nosso Judiciário.

A rigor, foi constatada na pesquisa a necessidade de adequação nos pontos de publicidade e transparência, governança e qualidade, segurança e controle do usuário. Nesse sentido, o relatório apresentou, fundamentalmente, as seguintes proposições:

– Atualização online do painel do CNJ sobre os sistemas de IA dos tribunais, de modo a dar continuidade a um mapeamento contínuo dessas ferramentas em âmbito judiciário;
– É válido o investimento em segurança da informação, de modo a garantir a integridade das bases de dados utilizadas para o treinamento da IA;
–  Com relação aos quesitos de publicidade e transparência, averiguou-se a necessidade de divulgação pelos Tribunais de relatórios periódicos sobre os sistemas de IA em produção ou desenvolvimento, de modo a contemplar as exigências de transparência do artigo 8º da Resolução CNJ nº 332/2020;
– No que se refere ao controle do usuário, a pesquisa destacou a importância da capacitação dos servidores e magistrados (usuários internos das ferramentas) sobre o funcionamento e conceitos gerais da IA no Judiciário, a fim de evitar qualquer espécie de vinculação à solução apresentada por essa tecnologia. Em relação aos usuários externos, seria importante que os tribunais abrissem no respectivo site uma aba específica sobre essas ferramentas, com explicação sobre o seu funcionamento em linguagem clara e simples.

O Centro do Judiciário da FGV, com sua equipe de pesquisadores e rede interinstitucional de pesquisa, continua a monitorar os documentos éticos nacionais e internacionais publicados sobre a ética e a IA e a se preocupar em sondar diversas modalidades regulatórias hábeis a dimensionar a pluralidade de desafios trazidos pelos modelos de IA analíticas e, agora, generativas.