Consultor Jurídico

Opinião

A fundamentação da decisão e a inteligência artificial no Direito Penal

Por 

A inteligência artificial (IA) emerge como uma das tecnologias que, dado o nível de desenvolvimento tecno-científico das últimas décadas, têm encontrado aplicação também no cotidiano da esfera jurídica. No entanto, os algoritmos de análise de dados e tomada de decisões são sujeitos ao enviesamento ideológico das informações com as quais são alimentados, incluindo preconceitos e discriminações. No dia-a-dia do direito penal e processual penal, cogitar-se da aplicação de um sistema de inteligência de máquina tendencioso, sem um adequado mecanismo de controle — como a fundamentação da decisão — pode resultar em danos inimagináveis à esfera de direitos fundamentais do indivíduo.

A inteligência artificial sempre permeou o imaginário humano. Uma das mais icônicas abordagens do tema científico foi a obra cinematográfica de ficção 2001: Uma Odisseia no Espaço, lançada em 1968 pelo diretor Stanley Kubrick. Na história, a inteligência artificial HAL 9000 (Heuristically Programmed Algorithmic Computer) passa a apresentar falhas a respeito da operação da nave espacial tripulada e, quando os cientistas decidem por sua desativação, a "máquina" os ataca, resultando na morte de quatro dos astronautas [1]. Apesar de se tratar de obra de ficção, a inteligência artificial da qual já se dispõe atualmente traz diversas complexidades — e uma delas perpassa justamente a problemática da possibilidade de demonstração de consciência e correlação interpretativa de dados pelas máquinas.

Já em 1998, Taruffo alertava que, a qualquer momento, pode ser desenvolvida uma inteligência artificial que demonstre eficiência no ato de racionalização da sentença judicial [2]. Ainda que, atualmente, não se conte com um algoritmo conceituado como forte (Artificial General Intelligence — AGI), isto é, próximo o suficiente do intelecto humano para empreender um espectro de atividades diferentes, e não apenas aquela para a qual foi programado [3], não se pode descartar que as inteligências de máquina já vêm sendo aplicadas na esfera jurídica, como é o caso do robô Victor, empregado no Supremo Tribunal Federal para análise vinculada ao sistema de repercussão geral [4]. Há que se reconhecer que, eventualmente, haverá uma inteligência artificial apta a proferir decisão de mérito.

Entretanto, o procedimento pelo qual as inteligências artificiais processam novos dados sem interferência constante humana, conhecido como machine learning [5], notadamente enseja a criação de vieses algorítmicos [6]. Nesse sentido, os dados fornecidos à máquina pelo ser humano são (como é inerente à própria natureza humana) tendenciosos, e padecem de preconceitos e discriminações. A inteligência artificial, que meramente correlaciona conceitos, mas não os compreende [7], replica as ideologias que lhe são fornecidas, resultando em decisões injustas.

Em apertada síntese, vale-se das palavras de Barrat: "AI is a dual-use technology like nuclear fission. Nuclear fission can illuminate cities or incinerate them[8].

Sob o prisma da sentença de mérito, Fenoll suscita quatro aspectos relevantes que não podem ser esquecidos quando se cogita da aplicação de uma inteligência artificial para julgamento: 1) a motivação da valoração probatória; 2) o procedimento probatório, notadamente a fase de admissão da prova aos autos; 3) a incidência dos standards — ou padrões — de prova [9]; e, por derradeiro, 4) a análise acerca da presunção de inocência [10].

Evidentemente, o perigo da inteligência artificial reside na simplificação dos conceitos arbitrados pelos humanos aos dados que lhe são oferecidos, uma vez que a máquina não é capaz de compreender o significado [11]. E, ao que parece, a fundamentação da decisão judicial continuará atuando como mecanismo de controle revisional de uma decisão de mérito proferida, no bojo do processo penal, por uma inteligência artificial, para fins de preservação da própria segurança jurídica [12].

Outrossim, Boeing e Morais da Rosa já antecipam o futuro ao proporem uma abordagem que, ao menos no primeiro momento do processo judicial, elimina o julgador humano da relação processual, incumbindo a inteligência de máquina com a tarefa de julgamento do mérito da causa [13]. Ao juiz humano, por sua vez, compete o papel de revisão, como "uma espécie de instância recursal", ainda que refiram que seu uso deva ser limitado a casos pouco complexos [14]. Partindo deste cenário, faz-se imprescindível compreender que a inteligência artificial deverá ser ensinada não somente a julgar, mas a fundamentar suas decisões, permitindo a revisão posterior pelo ser humano. Atrelado a isso, encontra-se o direito de defesa, uma vez que não há como impugnar uma decisão incompreensível.

A fundamentação das decisões é uma das garantias processuais que atuam como pilar do próprio Estado democrático de direito [15] [16] [17], viabilizando eventual controle de legalidade sobre o decisum proferido [18].

A partir do momento em que se admite que as máquinas podem ser enviesadas ideologicamente pelos preconceitos humanos — como comprovadamente podem —, a decisão exarada por uma inteligência artificial deve obrigatoriamente ser embasada por fundamentação que possa ser averiguada e supervisionada pelo seu humano [19]. Mais do que isto, ainda, a decisão judicial também serve como resposta democrática à própria sociedade [20], e a fundamentação deste instrumento assumirá maior relevância quando forem empregados algoritmos de julgamento, sendo que a transparência da inteligência artificial haverá de ser o determinante para sua boa aplicação na esfera jurídica [21].

 

Referências bibliográficas
2001: Uma Odisseia no Espaço. Direção de Stanley Kubrick. Estados Unidos da América: Metro-Goldwyn-Mayer; Stanley Kubrick Productions, 1968. 1 DVD (142 min).

BARRAT, James. Our Final Invention: Artificial Intelligence and the End of the Human Era. New York (EUA): Thomas Dunne Books, 2013.

BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de
máquina no Judiciário. Florianópolis: Emais Academia, 2020.

CANTÓN, Fernando Díaz. La Motivación de la Sentencia Penal y Otros Estudios. Buenos Aires: Del Puerto, 2005.

FENOLL, Jordi Nieva. Inteligencia Artificial y Proceso Judicial. Marcial Pons: Madrid, 2018.

GALVÃO, Danyelle da Silva; PEIXOTO JUNIOR, Hélio; LOBO, Ricardo. O artigo 489 do Novo Código de Processo Civil (Lei 13.105/2015) e suas implicações no Direito Processual Penal. Revista dos Tribunais, v. 105, n. 971, set./2016, p. 283-312.

GIACOMOLLI, Nereu José. O Devido Processo Penal: abordagem conforme a Constituição Federal e o Pacto de São José da Costa Rica. 2ª ed. São Paulo: Atlas, 2015.

GOMES FILHO, Antonio Magalhães. A garantia da motivação das decisões judiciais na Constituição de 1988. In: PRADO, Geraldo; MALAN, Diogo. (Coords.). Processo Penal e Democracia: estudos em homenagem aos 20 anos da Constituição da República de 1988. Rio de Janeiro: Lumen Juris, 2009.

INTELIGÊNCIA artificial vai agilizar a tramitação de processos no STF. Supremo Tribunal Federal, Brasília, 30 mai. 2018. Disponível em:
<http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=380038>. Acesso em: 20 out. 2020.

KNIJNIK, Danilo. Os standards do convencimento judicial: paradigmas para o seu possível controle. Revista Forense, Rio de Janeiro, n. 353, jan.-fev. 2001.

LYU, Shing. Practical Rust Projects. Building game, physical computing, and machine learning applications. Nova Iorque: Apress, 2020.

MORALES, Rodrigo Rivera. La Prueba: un análisis racional y práctico. Madrid: Marcial Pons, 2011.

NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito
processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo, v. 285, pp. 421-447, 2018.

STRECK, Lenio L.; MENDES, Gilmar F. Comentário ao artigo 93, IX. In: CANOTILHO, J. J. Gomes; SARLET, Ingo W.; ______ (Coords.). Comentários à Constituição do Brasil.
São Paulo: Saraiva/Almedina, 2013.

TARUFFO, Michele. Judicial decisions and artificial intelligence. Artificial intelligence and law, v. 6, p. 311-324, 1998.

VIOLA, Ricardo Rocha. Teoria da Decisão Judicial. 1ª reimp. Belo Horizonte: D'Plácido, 2016.

 

[1] 2001: Uma Odisseia no Espaço. Direção de Stanley Kubrick. Estados Unidos da América: Metro-Goldwyn- Mayer; Stanley Kubrick Productions, 1968. 1 DVD (142 min). 

[2] Taruffo, Michele. Judicial decisions and artificial intelligence. Artificial intelligence and law, v. 6, pp. 311-324, 1998. p. 321. 

[3] Boeing, Daniel Henrique Arruda; Rosa, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. Florianópolis: Emais Academia, 2020. p. 22. 

[4] Inteligência artificial vai agilizar a tramitação de processos no STF. Supremo Tribunal Federal, Brasília, 30 mai. 2018. Disponível em: <http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=380038>. Acesso em: 20 out. 2020. 

[5] LYU, Shing. Practical Rust Projects. Building game, physical computing, and machine learning applications. Nova Iorque: Apress, 2020. p. 187. 

[6] Nunes, Dierle; Marques, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo, v. 285, pp. 421-447, 2018. p. 427. 

[7] Boeing, Daniel Henrique Arruda; Rosa, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. Florianópolis: Emais Academia, 2020. p. 27/28. 

[8] Barrat, James. Our Final Invention: Artificial Intelligence and the End of the Human Era. New York (EUA): Thomas Dunne Books, 2013. p. 26.

[9] Sobre o tema, cf. Knijnik, Danilo. Os standards do convencimento judicial: paradigmas para o seu possível controle. Revista Forense, Rio de Janeiro, n. 353, jan.-fev. 2001. p. 27. Não em sentido diferente, Morales, Rodrigo Rivera. La Prueba: un análisis racional y práctico. Madrid: Marcial Pons, 2011. p. 305. Um ser humano não pode pensar em probabilidades no exercício da atividade de julgar, mas uma inteligência artificial pode quantificar, por exemplo, 90% de certeza. 

[10] Fenoll, Jordi Nieva. Inteligencia Artificial y Proceso Judicial. Marcial Pons: Madrid, 2018. p. 101/115. 

[11] Boeing, Daniel Henrique Arruda; Rosa, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. Florianópolis: Emais Academia, 2020. p. 84/85. 

[12] Galvão, Danyelle da Silva; Peixoto Junior, Hélio; Lobo, Ricardo. O artigo 489 do Novo Código de Processo Civil (Lei 13.105/2015) e suas implicações no Direito Processual Penal. Revista dos Tribunais, v. 105, n. 971, set./2016, p. 283-312. p. 284. 

[13] Boeing, Daniel Henrique Arruda; Rosa, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. Florianópolis: Emais Academia, 2020. p. 92. 

[14] Boeing, Daniel Henrique Arruda; Rosa, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. Florianópolis: Emais Academia, 2020. p. 92. 

[15] Cf. Streck, Lenio L.; Mendes, Gilmar F. Comentário ao artigo 93, IX. In: Canotilho, J. J. Gomes; Sarlet, Ingo W.; (Coords.). Comentários à Constituição do Brasil. São Paulo: Saraiva/Almedina, 2013. p. 1.324/1.325: "A fundamentação das decisões — o que, repita-se, inclui a motivação —, mais do que uma exigência própria do Estado Democrático de Direito, é um direito fundamental do cidadão. Fundamentação significa não apenas explicitar o fundamento legal/constitucional da decisão. Todas as decisões devem estar justificadas e tal justificação deve ser feita a partir da invocação de razões e oferecimento de argumentos de caráter jurídico. O limite mais importante das decisões judiciais reside precisamente na necessidade da motivação/justificação do que foi dito. Trata-se de uma verdadeira 'blindagem' contra julgamentos arbitrários. O juiz ou o Tribunal, por exemplo, devem expor as razões que os conduzira a eleger uma solução determinada em sua tarefa de dirimir conflitos. Não é da subjetividade dos juízes ou dos integrantes dos Tribunais que deve advir o sentido a ser atribuído à lei, caindo por terra o antigo aforisma de que 'sentença vem de sentire', erigido no superado paradigma da filosofia da consciência. [...] A fundamentação é, em síntese, a justificativa pela qual se decidiu desta ou daquela maneira. É, pois, condição de possibilidade de um elemento fundamental do Estado Democrático de Direito: a legitimidade da decisão. É onde se encontram os dois princípios centrais que conformam uma decisão: a integridade e a coerência, que se materializam a partir da tradição filtrada pela reconstrução lingüística da cadeira normativa que envolve a querela sub judice. A obrigatoriedade de fundamentação é, assim, corolário do Estado Democrático de Direito. Mais do que uma obrigação do magistrado ou do Tribunal, trata-se de um direito fundamental do cidadão, de onde se pode afirmar que, em determinadas circunstâncias e em certos casos, uma decisão, antes de ser atacada por embargos declaratórios, é nula por violação do inciso IX do art. 93".

[16] Viola, Ricardo Rocha. Teoria da Decisão Judicial. 1ª reimp. Belo Horizonte: D'Plácido, 2016. p. 65. 

[17] Cf. Giacomolli, Nereu José. O Devido Processo Penal: abordagem conforme a Constituição Federal e o Pacto de São José da Costa Rica. 2ª ed. São Paulo: Atlas, 2015. p. 225/226. 

[18] Cantón, Fernando Díaz. La Motivación de la Sentencia Penal y Otros Estudios. Buenos Aires: Del Puerto, 2005. p. 107. 

[19] Cf. Galvão, Danyelle da Silva; Peixoto Junior, Hélio; Lobo, Ricardo. O artigo 489 do Novo Código de Processo Civil (Lei 13.105/2015) e suas implicações no Direito Processual Penal. Revista dos Tribunais, v. 105, n. 971, set./2016, p. 283-312. 

[20] Gomes Filho, Antonio Magalhães. A garantia da motivação das decisões judiciais na Constituição de 1988. In: Prado, Geraldo; Malan, Diogo. (Coords.). Processo Penal e Democracia: estudos em homenagem aos 20 anos da Constituição da República de 1988. Rio de Janeiro: Lumen Juris, 2009. p. 61. 

[21] Boeing, Daniel Henrique Arruda; Rosa, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. Florianópolis: Emais Academia, 2020. p. 94. 




Topo da página

 é advogada criminalista e pós-graduanda em Direito e Processo Penal pela Academia Brasileira de Direito Constitucional (ABDCONST).

Revista Consultor Jurídico, 5 de junho de 2021, 10h25

Comentários de leitores

0 comentários

Comentários encerrados em 13/06/2021.
A seção de comentários de cada texto é encerrada 7 dias após a data da sua publicação.