Uma política para a inteligência artificial no Brasil

O mundo passa por uma grande transformação causada pelos impactos da tecnologia em diversas áreas como a saúde, a indústria, a agricultura, dentre muitas outras. No centro dessa metamorfose está a inteligência artificial (IA), que alcança padrões cada vez mais arrojados na execução de tarefas que vão desde a sugestão de música em um aplicativo até a realização do diagnóstico precoce de uma doença.

Esses modelos computacionais [1] estão em diferentes fases e são voltados tanto à atividade-meio (por exemplo, chatbots para orientação dos cidadãos) quanto à atividade-fim dos tribunais (como avaliação sobre a concessão de gratuidade de justiça; classificação automática de documentos; agrupamento de processos por similaridade e encaminhamento de casos à conciliação [2]).

A diversidade do alcance da IA gerou um intenso debate acerca da sua regulação. Nesse sentido, se seguiram uma série de propostas legislativas que buscam conferir os primeiros nortes sobre o tema; o que, desde o princípio, gerou bastante controvérsia. Isso porque o uso da IA passou a ser visto como uma questão de soberania e de proteção industrial.

Na União Europeia, uma série de normativas buscaram regular a aplicação dessa tecnologia e, inicialmente, a perspectiva foi em um sentido mais principiológico. Assim, em 2018, a Comissão Europeia para a Eficácia da Justiça (Cepej) [3] publicou uma carta ética para o uso da IA no sistema de justiça. O documento aborda cinco princípios: respeito aos direitos fundamentais; não discriminação; qualidade e segurança; transparência e controle do usuário. Além disso, trata sobre a política de dados abertos para as decisões judiciais e possibilidades práticas para a efetividade de uma justiça preditiva.

De fato, os benefícios do uso de modelos de predição, tendo em vista a antecipação das decisões dos juízes, foram reconhecidos pela Cepej. Porém, vieses de raciocínio e inexatidões em alguns resultados apresentados já causaram a descontinuidade dos investimentos no desenvolvimento de uma IA para os tribunais pelo Ministério da Justiça na França [4], por exemplo. Isso mostra o quão importante é o monitoramento e a aferição dos ganhos proporcionados pela IA na prática.

O Ministério da Ciência, Tecnologia e Inovações definiu a Estratégia Brasileira de Inteligência artificial (Ebia), por meio da Portaria MCTI no 4.617 de 2021, alterada pela Portaria MCTI 4.979 de 2021[5], com eixos transversais (legislação, regulação e uso ético; governança e aspectos internacionais) e verticais (qualificações para um futuro digital; força de trabalho e capacitação; pesquisa, desenvolvimento, inovação e empreendedorismo; aplicação nos setores produtivos; aplicação no Poder Público e segurança pública).

Cabe destacar que este plano estratégico brasileiro tem uma conotação diferente de uma regulamentação sobre o tema, uma vez que a proposta da Ebia consiste, justamente, em apontar uma diretriz para o tratamento do assunto no país. Aliás, ela vem recebendo muitas críticas de especialistas em razão de seu caráter genérico e por não traçar um direcionamento claro para o desenvolvimento da IA no Brasil.

Em outubro de 2020, foram publicadas algumas normativas pelo bloco como a Resolução do Parlamento Europeu [6], de 20 de outubro de 2020, que contém recomendações à comissão sobre o regime relativo aos aspectos éticos da inteligência artificial, da robótica e das tecnologias conexas, de cunho mais abrangente, e que trata do ponto de vista principiológico, sobre a utilização dessas ferramentas em setores como saúde, educação, transporte, ambiente de trabalho, segurança e defesa nacional. Outro exemplo é a Resolução do Parlamento Europeu [7], de 20 de outubro de 2020, que contém recomendações à comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial e defende que as regras de responsabilidade cubram toda a cadeia de operações da IA, bem como sinaliza a importância de prever regras diferentes conforme a gravidade dos riscos produzidos pelo uso da tecnologia. A proteção de direitos de propriedade intelectual também foi contemplada por Resolução do Parlamento Europeu [8] neste mesmo período.

Em abril de 2021, foi apresentada uma proposta de regulamento do Parlamento Europeu e do Conselho [9] com o intuito de estabelecer regras harmonizadas em matéria de IA, de modo a alcançar os seguintes objetivos específicos: garantir que os sistemas de IA inseridos no mercado europeu sejam seguros e respeitem a legislação em vigor em matéria de direitos fundamentais e valores do bloco; assegurar a segurança jurídica para facilitar os investimentos e a inovação no domínio da IA; melhorar a governança e a aplicação efetiva da legislação em vigor em matéria de direitos fundamentais e dos requisitos de segurança aplicáveis aos sistemas de IA; facilitar o desenvolvimento de um mercado único para a aplicação da IA.

Em que pese ser um diploma com mais disposições normativas, trata-se de uma proposta que mantém um perfil genérico e prevê, por exemplo, requisitos próprios, obrigações dos fornecedores e utilizadores nos sistemas de IA de alto risco; questões específicas relacionadas à transparência; medidas de apoio à inovação; governança; criação do Comitê europeu para a inteligência artificial; acompanhamento pós-comercialização dos sistemas de IA de risco elevado e sanções. O destaque desta proposta de regulamento, sem dúvida, é a maior especificidade e detalhamento em função do risco elevado de determinados sistemas de IA.

Os Estados Unidos tampouco contam com uma regulação federal sobre o assunto, mas a expectativa é grande para que isso ocorra em breve. Diversas instituições públicas e privadas vêm se adiantado na constituição de políticas internas sobre a IA. Alguns setores que empregam a IA de forma mais contundente como, por exemplo, o de fabricação de veículos autônomos [10]. Eles têm defendido a necessidade de uma regulação mais genérica a nível nacional e, à medida que ocorra o maior amadurecimento sobre os impactos desta tecnologia, cada setor seja tratado conforme a sua especificidade; o que parece bastante razoável.

O Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento acompanha a evolução da elaboração de uma proposta legislativa para o Brasil, tendo publicado duas notas técnicas [11], elaboradas por um grupo interinstitucional de pesquisadores, sobre o Projeto de Lei (PL) nº 21, de 2020, de autoria do deputado federal Eduardo Bismark e que, atualmente, se encontra em tramitação no Senado [12]. Essa vertente de estudo do centro, que tem como foco de interesse os aspectos éticos atinentes ao emprego da IA, é uma decorrência da pesquisa de "Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário", a qual se encontra em sua 2ª edição [13].

O PL nº 21, de 2020 está estruturado em 16 artigos que tratam sobre as seguintes questões [14]: objetivo da lei (artigo 1º); aspectos conceituais (artigo 2º); critérios de interpretação da lei (artigo 3º); fundamentos do uso da IA (artigo 4º); objetivos do uso da IA (artigo 5º); princípios para o uso responsável (artigo 6º); direitos das pessoas interessada e defesa dos seus interesses (artigos 7º e 8º); deveres dos agentes (artigo 9º); diretrizes para a atuação da União, dos estados, do Distrito Federal e dos municípios em relação ao uso da inteligência artificial (artigos 10 a 15); vigência (artigo 16).

Do ponto de vista ético, o PL nº 21, de 2020 consagra um padrão fundamental para a abordagem da IA, que é a centralidade no ser humano. Nesse sentido, exige a adoção da IA sem vieses, livre de preconceitos, tendo em vista a promoção do bem-estar da sociedade, a redução das desigualdades sociais e o desenvolvimento sustentável, com promoção à igualdade, à pluralidade, à livre iniciativa e à defesa do consumidor e dos direitos trabalhistas (artigo 4º, III e IV; artigo 5º, I, III e IV; 6º, I, II e III).

Além disso, o legislador tem nítida preocupação com a proteção de dados pessoais, transparência, explicabilidade, segurança digital, responsabilização e prestação de contas (artigo 6º, IV; 7º, I e II; 9º, I, II e IV).

Especificamente no âmbito do Judiciário, o Conselho Nacional de Justiça (CNJ) publicou a Portaria nº 271, de 2020 [15], a qual regulamenta do uso da IA no âmbito do Poder Judiciário; e a Resolução nº 332, de 2020 [16], que dispôs sobre a ética, a transparência e a governança na produção e o uso de IA no Poder Judiciário. Essa normativas do CNJ estão bem alinhadas à proposta de contínuo investimento em inovação reforçada nas últimas gestões do órgão.

A propulsão da normatização do CNJ relacionada à digitalização e à inovação, somada à verificação do crescimento das iniciativas de IA nos tribunais, evidencia o dinamismo da propagação e evolução desta ferramenta no Judiciário. Diversas outras áreas sensíveis também experimentam progressos no uso desta ferramenta. Nesse sentido, é imperativo o acompanhamento do perfil e dos moldes que o marco legal da IA terá no país.

Atualmente, com base no substitutivo enviado ao Senado, é possível afirmar que a regulação da IA no Brasil assume um caráter mais generalista e, até o momento, sem desdobramentos para setores específicos. Por enquanto, é necessário aguardar o debate no Legislativo para ver se esse perfil de proposta normativa será confirmado ou se o país adotará uma postura regulatória mais exaustiva e/ou setorizada. Vale ressaltar que as notas técnicas publicadas pelo Centro do Judiciário da FGV Conhecimento indicaram o caminho da autorregulação, mas esta discussão está longe de ter uma posição mais definida.