Brasil ainda patina na pauta de inteligência artificial

Com o avanço do uso da inteligência artificial no mundo, grande parte dos países inicia o debate regulatório em torno dessa inovação tecnológica que tem grande potencial de mudar a forma como nos relacionamos e trabalhamos.

Sendo assim, como delimitar claramente os parâmetros que precisam ser seguidos por toda a indústria? Como fazer para garantir respeito aos princípios gerais que devem nortear o desenvolvimento da inteligência artificial tanto trazidos pela Unesco [1] como pela OCDE [2]? Onde entre esses princípios estão o respeito aos direitos humanos e aos valores democráticos, transparência, privacidade, segurança digital, responsabilidade, igualdade e não discriminação, supervisão humana, explicabilidade e sustentabilidade.

Apesar de inúmeras críticas de diversas entidades, por se tratar de uma legislação quase que exclusivamente principiológica, a Câmara dos Deputados aprovou no último dia 29 o Projeto de Lei 21/2020, conhecido como Marco Legal da Inteligência Artificial, por 413 votos a favor e 15 contra. O deputado Eduardo Bismark, autor do projeto, afirmou que outros projetos deverão ser aprovados no futuro no Brasil, razão pela qual o projeto atende o momento fixando princípios, direitos e deveres. Na visão do deputado, a iniciativa buscou centralizar o projeto no ser humano e iniciar a legislação com a definição de conceitos e princípios.

A relatora do projeto, deputada Luiza Cansiani, por sua vez, defendeu a aprovação argumentando que o projeto contém as melhores práticas internacionais. Diante dessas duas falas esse artigo se propõe a avaliar o projeto de lei do ponto de vista regulatório, assim como analisá-lo sob uma perspectiva de outras estruturas internacionais a fim de confirmar a pertinência dessa aprovação neste momento, ainda com uma redação considerada um tanto "vaga" ou "incipiente".

Os professores da The London School Economics and Political Science Julia Black e Andrew Murray publicaram um artigo no European Journal of Law and Technology que trata exatamente do tema "Regulating Artificial Intelligence and Machine Learning" [3], o qual parece essencial para a primeira análise proposta, qual seja avaliar o projeto de lei sob o enfoque regulatório.

O primeiro ponto de um sistema regulatório, seja ele privado ou público, é estabelecer metas e valores, nesse caso objetivo da lei, mas da forma como o projeto foi construído é difícil identificar esse ponto, não que esse seja um processo fácil, mas nesse projeto já aprovado pela Câmara dos Deputados a tarefa é árdua, porque é difícil entender como se dará a conciliação entre todos os fundamentos e princípios. Para além disso, o projeto parece ter sido elaborado com um fim em si mesmo, ou seja, apenas para que o país tenha uma lei que trate de inteligência artificial, ou seja, um primeiro marco legal.

Ademais, um sistema regulatório completo exige uma influência sobre o comportamento de pessoas e, consequentemente, organizações, e, apesar de o projeto prever uma futura regulamentação da responsabilidade dos agentes (objetiva e subjetiva), não há de fato qualquer norma que sujeite o agente, o qual também não está claro quem seja, a adotar os princípios estabelecidos.

Há ainda inúmeras questões a que o projeto de lei não atende, considerando o panorama regulatório, especialmente porque ele transfere a regulação em si para outro momento. Sendo esse um tema global, o projeto não traduz uma possível interlocução com outros países, não apresenta o órgão ou figura competente para fiscalização e cumprimento dos princípios estabelecidos, quais recursos poderão ser utilizados, falta clareza quanto ao grau de autonomia e supervisão da IA, não há definição sobre parâmetros de governança e gestão de riscos, não há previsão de corregulação ou relacionamento com outras legislações nacionais, o que culmina em uma falta absoluta de confiabilidade e possibilidade de prestação de contas aos cidadãos.

É importante esclarecer que as observações aqui colocadas não têm qualquer relação com um modelo regulatório rígido, não se pretende de forma alguma criar "The Law of the Horse" [4], mas não há sentido em dispender esforços legislativos para criar uma lei exclusivamente principiológica que não possui qualquer tipo de força coercitiva e que não esclarece como a lei será implementada na prática.

O projeto, tal qual indicado pela relatora, deputada Luiza Cansiani, possui de pontos positivos muito das práticas internacionais, por exemplo, pois adota os princípios da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), conforme abaixo [5]:

— Crescimento inclusivo, desenvolvimento sustentável e bem-estar (artigo 3°, I, VI; artigo 4°, IV, V; artigo 5º, I): O texto do projeto de lei traz menções ao desenvolvimento, proteção do meio ambiente, inserção em cadeias globais, mas não menciona a redução de desigualdades econômicas, sociais e de gênero.

— Valores centrados no ser humano e justiça (artigo 4°, III, e artigo 5°, II): O texto menciona salvaguardas a serem criadas em regulações futuras, mas ele próprio não exige a adoção destas e não indica o formato de demonstração que as salvaguardas estão sendo adotadas.

— Transparência e explicabilidade (artigo 5°, V): O texto menciona salvaguardas a serem criadas em regulações futuras, mas ele próprio não exige a adoção destas e não indica o formato de demonstração que as salvaguardas estão sendo adotadas.

— Robustez, segurança e proteção (artigo 4º, VIII, IX, XIII, e artigo 5°, III, IV, VI): O projeto traz princípio de segurança, de forma bastante ampla e menciona a possibilidade de regulação futura baseada em riscos tal qual pretende a União Europeia, mas carece de maiores indicações, não há indicação de como esses riscos serão apurados ou quando serão apurados, ex-ante ou ex-post.

— Prestação de contas: Há uma grande dificuldade de identificar quem serão os agentes responsáveis. Se há uma necessária intervenção humana, se há uma pessoa física responsável por eventuais danos, se desenvolvedores podem ser responsabilizados ou como a pessoa jurídica pode ser responsabilizada. O projeto traz apenas uma possibilidade de futura regulação.

Por outro lado, demais países que lideram a discussão da regulamentação da IA atualmente têm frameworks/estratégias/reports/guias/reviews que trazem esse contexto principiológico, porém as leis, efetivamente, estão concentradas em situações fáticas. Por exemplo, o Reino Unido possui uma estratégia nacional de dados, possui um guia para os órgãos da Administração Pública [6], e uma lei específica para veículos autônomos e elétricos [7]. O mesmo ocorre em países como Japão e Alemanha, onde há uma série de iniciativas buscando a aplicação de melhores práticas no uso de IA, mas as leis ainda estão reservadas a temas mais concretos e setorizados.

Vale mencionar o caso da União Europeia que também possui diversas iniciativas relacionadas à inteligência artificial, e tramita uma legislação comunitária "EU Artificial Intelligence Act" [8] (legal framework), essa legislação considera o risco para utilização de sistemas de inteligência artificial no mercado europeu. Os riscos são classificados como inaceitáveis, altos, limitados ou mínimos para cada um dos riscos há regras a serem cumpridas, sendo que para riscos mínimos as medidas são voluntárias ou riscos inaceitáveis quando violam direitos fundamentais e não podem operar com pequenas exceções. Logo, não se trata de uma legislação unicamente principiológica. O projeto de lei brasileiro também trata de riscos, mas relega isso a uma regulamentação da União.

Assim, a lei sendo um dos sistemas regulatórios existentes não pode ser promulgada em vão sob pena de causar um efeito adverso, em outras palavras, os agentes não podem entender que a inteligência artificial é um campo de livre atuação e de livre interpretação de princípios, razão pela qual se a intenção é fazer uma lei e movimentar todo o sistema legislativo essa lei deve ser pensada para ser um sistema regulatório completo.

Fato é que o Brasil está atrasado com a agenda regulatória sobre inteligência artificial, assim como com a implementação da Estratégia Brasileira de Inteligência Artificial (EBIA), se comparado com as experiências norte-americana [9], canadense, europeia e chinesa, que já possuem uma agenda muito mais definida e avançada sobre a matéria.

Para o Brasil tomar a dianteira para liderar a pauta de inovação, precisa tomar mais proveito da experiência internacional e aplicar ferramentas mais dinâmicas que permitam maior interação público-privada, com uso de recursos que envolvem tanto regulamentação, mas também de corregulação e autorregulação para o desenvolvimento sustentável da IA, ou seja, de hard law (lei, decreto, portaria) e também de soft law (códigos de conduta, melhores práticas, frameworks, guias). Portanto, tanto a Câmara dos Deputados como o Senado possuem uma grande oportunidade para tornar o PL 21/2020 uma referência nacional e internacional se aperfeiçoarem o que ainda falta no texto legal.

O país precisa acelerar se quiser participar da corrida robótica. Precisamos mais do que um marco legal da IA, falta política pública sustentável que permita atrair investimentos para os projetos e garantir a segurança jurídica necessária. A agenda está atrasada, mas precisa ser bem-feita, articulada junto aos setores produtivos e a sociedade civil para ter o devido êxito. Assim poderemos sair da retaguarda para disputar esse mercado tão relevante para os próximos anos.

Concluindo, para questões unicamente principiológicas existem as estratégias, frameworks e guias que são extremamente eficientes para traçar direções e para posteriormente até mesmo integrarem em parte as legislações. Em um ambiente tecnológico de evolução constante, os princípios são essenciais em uma legislação, e trazem um grande contributo, mas não podem ser a única parte a estruturar a norma, sob pena de torná-la incompleta e ineficaz.