Regulação de algoritmos e IA: entre repressão e fomento à inovação

A utilização de algoritmos está cada vez mais presente no cotidiano da vida humana. Programas de computador são responsáveis por diversas atividades, desde tarefas simples, como a organização de uma lista de compras, até tarefas mais complexas envolvendo a tomada de decisões em questões relevantes.

Essa presença marcante foi acentuada com a disseminação recente de diversos formatos de inteligência artificial, como o ChatGPT, que prometem revolucionar a forma de pensar e trabalhar de seus usuários, com soluções rápidas e incrementalmente eficazes.

Considerando esse contexto, este artigo analisa a necessidade e as formas de uma regulação adaptada às peculiaridades do Brasil em relação a essas tecnologias.

Nova realidade

Essa nova realidade tão marcante e com tantos potenciais não pode passar despercebida pelo direito e por questionamentos relativos à necessidade de regulação das atividades que envolvem o uso de algoritmos.

Isso é especialmente verdadeiro quando se leva em conta o fato de que o Brasil não é um dos países que estão na vanguarda do desenvolvimento dessas tecnologias que podem mudar drasticamente o cenário de competitividade global, ocupando, em 2022, a 39ª posição no ranking de global de desenvolvimento do setor e a 31ª posição no ranking de disponibilidade de profissionais especializados ^[1].

Ao mesmo tempo, o Brasil é um dos países que mais confiam no uso da inteligência artificial ^[2].

Apesar dos inúmeros benefícios, os algoritmos também podem trazer problemas e prejuízos e a relevância que eles assumiram no mercado mundial demanda uma análise acerca do posicionamento adequado do Estado brasileiro sobre a temática.

Colonialismo tecnológico

Considerando que os algoritmos são treinados com base nos dados disponíveis e que eles podem ser dotados de vieses cognitivos ^[3], é necessário ponderar acerca dos efeitos daquilo que propomos denominar “colonialismo tecnológico”, criado pela discrepância no desenvolvimento de algoritmos entre os países.

Por meio do colonialismo já conhecido, países mais desenvolvidos exerciam uma dominação sobre outros por meios territoriais, culturais e econômicos. A discrepância de desenvolvimento da inteligência artificial e os benefícios que elas podem gerar em termos de produtividade podem gerar uma nova forma de colonialismo que tenha como foco o desenvolvimento tecnológico.

Com efeito, os Estados Unidos produzem significativamente mais conteúdo na internet do que os demais países, sendo hosts de 43% dos um milhão maiores sites, ficando a Alemanha em segundo lugar com apenas 8,2% ^[4].

Ademais, como aponta Wanderer ^[5], as grandes plataformas digitais, que comumente utilizam algoritmos, atuam como gatekeepers informacionais, sendo capazes de limitar e moldar o fluxo de informações, impactando a economia e a sociedade.

Essa hegemonia de conteúdo faz com que grande medida do material disponível para treinamento dos algoritmos seja produzida considerando realidades distintas da brasileira.  Há, inclusive, preocupações acerca dos vieses dos próprios desenvolvedores dos algoritmos e de inteligências artificiais.

A Unesco ^[6] já apresentou dados no sentido de que apenas 12% dos pesquisadores de inteligência artificial são mulheres, o que pode ter efeitos sobre os vieses dos algoritmos desenvolvidos.

Nesse sentido, é essencial termos uma resposta para a seguinte pergunta: Como Estado brasileiro pode promover uma regulação do uso e da produção de algoritmos que ao mesmo tempo promova o desenvolvimento tecnológico e econômico nacional e proteja os direitos individuais e coletivos?

Riscos da inteligência artificial

Recentemente foi divulgada a Declaração de Bletchley ^[7], subscrita por 29 países, incluindo o Brasil, que reconhece a existência de grandes riscos envolvendo o uso de algoritmos e de inteligência artificial.

No documento, os países signatários concordaram sobre a necessidade de uma agenda direcionada aos riscos da inteligência artificial, focando na construção de políticas e estruturas legais que permitam o uso seguro e a transparência. Foi identificada, ainda, a necessidade de participação de países, de empresas, da sociedade e da academia na busca por segurança no desenvolvimento tecnológico.

Vale observar que o Brasil não é um país que historicamente tem ficado à frente nas inovações tecnológicas, algo que permanece verdadeiro em relação aos algoritmos. Dados recentes indicam que o país ocupa a 39ª posição no ranking de capacidade de desenvolvimento de inteligências artificiais ^[8].

Nesse contexto, o fato de outros países serem os maiores produtores dessas tecnologias abarca ainda o risco do desenvolvimento de uma espécie de colonialismo tecnológico caso não haja o devido fomento pelo Estado brasileiro, caso em que a discrepância de desenvolvimento será acentuada, deixando o Brasil em uma situação de baixa competitividade no mercado global.

Além disso, no ranking de investimento privado em inteligência artificial, o Brasil ocupa a 41ª posição ^[9], estando muito distante de países como Estados Unidos e China, o que torna relevante a ponderação acerca da capacidade da regulação estatal para gerar efeitos de aumento dos investimentos (crowding in) e afastamento dos investidores (crowding out) nesse mercado.

Para tanto, há uma necessidade de compreensão adequada dos riscos e benefícios vinculados aos algoritmos e do papel do Estado na regulação e no fomento de inovações. Isso demanda uma análise dos atores envolvidos no processo de desenvolvimento tecnológico e dos interesses envolvidos no mercado.

Cabe ressaltar que, até o momento, os poucos países que avançaram na regulação da inteligência artificial o fizeram em aspectos específicos ^[10]. Dessa maneira, uma regulação específica ainda é necessária para dar segurança e permitir um desenvolvimento adequado.

Qualquer regulação aplicada a setores específicos demanda um estudo aprofundado sobre o histórico do setor e sua forma de existência. Como explica Aranha: “a política pública setorial depende, portanto, do conhecimento setorial para produzir regramentos viáveis” ^[11].

Esse contexto de novas tecnologias e a necessidade de desenvolvimento nacional demandam do direito regulatório uma maior adaptabilidade para que os efeitos pretendidos sejam atingidos. Nesse contexto, um modelo regulatório que vem sendo proposto é o da regulação responsiva. Sobre essa temática das novas tecnologias, já há estudos que identificaram que o modelo regulatório responsivo tende a ser o mais adequado para as grandes empresas do ramo (big techs), especialmente em relação às sanções ^[12].

Regulação de algoritmos

O Conselho sobre Inteligência Artificial da OCDE recomendou a adoção de uma abordagem baseada em riscos para a regulação dos algoritmos e da inteligência artificial ^[13]. Inclusive, a União Europeia já buscou seguir essa abordagem, mas, de acordo com a análise de Carvalho, ^[14] ainda falta uma responsividade da regulação proposta às mudanças pela ausência de flexibilidade na definição dos riscos aceitáveis.

Será necessário considerar que, especialmente em setores tecnológicos, há uma tensão pela manutenção de certa margem de liberdade em relação ao Estado. Parte-se do pressuposto de que as grandes inovações ocorrem apenas por conta de indivíduos ousados, que assumem grandes riscos. Com isso, utiliza-se uma noção mais clássica e liberal de intervenção estatal.

Essa visão imprecisa (e reducionista do papel estatal) decorre da teoria econômica convencional, que busca justificar a intervenção do Estado para trazer eficiência onde a negociação privada não seja eficaz. Como afirmam Cooter e Gilbert, o sucesso da barganha privada realmente reduz a pressão por soluções que envolvam a imposição de leis ou outras soluções que envolvam a intervenção do Estado ^[15].

Logo, por meio de uma tradução do Teorema de Coase ^[16] para o direito público, se os custos de transação da negociação por meio do governo são menores do que os custos da negociação privada, a ação do governo é eficiente na criação de um excedente de produção ^[17]. Nesse sentido, a atuação estatal regulatória pode ser considerada como uma necessidade econômica, já que, sem ela, as negociações podem tender à ineficiência.

Entretanto, o papel estatal vai muito além da correção de falhas. Como Mazzucato demonstra ^[18], foi a “mão visível do Estado” a responsável por inúmeras inovações, incluindo aquelas que tornaram o iPhone um celular “inteligente”: a internet, o GPS, as telas sensíveis ao toque. Isso somente ocorreu porque o Estado esteve disposto a assumir grandes riscos e longos períodos de pesquisa e desenvolvimento quando o mercado privado não estava disposto a fazê-lo.

O papel do Brasil na regulação do uso de algoritmos ganha alta relevância diante desses pontos. É essencial que haja uma regulação inteligente e efetivamente brasileira, que leve em consideração os vieses dos algoritmos e a necessidade de desenvolvimento.

Uma regulação mais restrita pode ser interessante para a proteção do Brasil e de seus indivíduos contra potenciais prejuízos decorrentes de vieses cognitivos imbuídos em algoritmos produzidos por outros países, da opacidade dos códigos de programação que levam à tomada de decisão, e de diversas práticas que podem ser facilitadas por esses programas (como a formação de cartéis digitais).

Entretanto, essa mesma regulação mais restrita pode ter o efeito negativo de desincentivar o mercado, causando atrasos no desenvolvimento brasileiro pela ausência de investimentos em tecnologias. Já uma regulação mais aberta, ou até mesmo a ausência de regulação, inverte a questão, uma vez que pode incentivar o mercado e ao mesmo tempo deixar os indivíduos vulneráveis.

Em conclusão, é importante que o Brasil tenha uma posição em relação à regulação de algoritmos, considerando seus benefícios e seus malefícios. Somente com um estudo aprofundado das possibilidades regulatórias é que será possível conciliar o fomento à inovação com a necessidade de proteção de direitos fundamentais.

^[1] https://www.insper.edu.br/noticias/brasil-ocupa-a-39a-posicao-em-ranking-global-de-inteligencia-artificial/

^[2] https://forbes.com.br/forbes-tech/2023/05/estudo-da-kpmg-mostra-que-o-brasil-e-um-dos-paises-que-mais-aceita-e-confia-em-ia/

^[3] SUNSTEIN, Cass R. Algorithms, correcting biases. Social Research: An International Quarterly, v. 86, n. 2, p. 499-511, 2019.

^[4] https://www.pingdom.com/blog/united-states-hosts-43-percent-worlds-top-1-million-websites/

^[5] WANDERER, Bertrand. Economia movida a dados e o papel das plataformas digitais. Journal of Law and Regulation, [S. l.], v. 9, n. 2, p. 22–43, 2023.

^[6] https://www.unesco.org/en/articles/artificial-intelligence-unesco-launches-women4ethical-ai-expert-platform-advance-gender-equality

^[7] https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023

^[8] https://www.insper.edu.br/noticias/brasil-ocupa-a-39a-posicao-em-ranking-global-de-inteligencia-artificial/

^[9] https://www.insper.edu.br/noticias/brasil-ocupa-a-39a-posicao-em-ranking-global-de-inteligencia-artificial/

^[10] Pesquisas indicam que 21 países já possuem leis que abordam o tema. Cf. https://www.acessa.com/economia/2023/09/175753-brasil-foi-segundo-pais-a-propor-regulacao-de-inteligencia-artificial-mas-sofre-para-aprova-la.html

^[11]  ARANHA, Marcio Iorio. Manual de direito regulatório. 8ª Ed. Londres: Laccademia Publishing, 2023, localização 237.

^[12] VASCONCELOS DE PAULA E SILVA, A. Desafios na regulação de Big Techs e como a Teoria da Regulação Responsiva pode auxiliar na solução. Journal of Law and Regulation, [S. l.], v. 8, n. 2, p. 95–113, 2022. Disponível em: https://periodicos.unb.br/index.php/rdsr/article/view/43219. Acesso em: 5 nov. 2023.

^[13] OECD. Recommendation           of    the Council Artificial Intelligence–OECD/LEGAL/0449, OECD Legal  Instruments, 21  Mai.  2019, Disponível em: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 Acesso em 05 nov. 2023.

^[14] CARVALHO MONTEIRO DE ALMEIDA, M. C. Regulação da inteligência artificial baseada em riscos e a sua responsividade. Journal of Law and Regulation, [S. l.], v. 9, n. 2, p. 44–72, 2023. Disponível em: https://periodicos.unb.br/index.php/rdsr/article/view/43251. Acesso em: 5 nov. 2023.

^[15] COOTER, Robert D.; GILBERT, Michael D. Public Law and Economics. Nova Iorque: Oxford University Press, 2022, p. 23.

^[16] COASE, Ronald. The Problem of Social Cost. Journal of Law and Economics, v. 3, n. 1, p. 1-44, 1960.

^[17] COOTER, Robert D.; GILBERT, Michael D. Public Law and Economics. Nova Iorque: Oxford University Press, 2022, p. 27.

^[18]  MAZZUCATO, Mariana. O Estado empreendedor: desmascarando o mito do setor público vs. Setor privado. Tradução: Elvira Serapicos. Título original: The entrepreneurial state: debunking public vs. Private sector myths. São Paulo: Editora Schwartz S.A., 2014, p. 22.