Regulação da IA avança no Brasil e União Europeia em meio a diversos desafios

A inteligência artificial (IA) e os desafios para sua regulação foram tema, nesta terça-feira (27/6), do primeiro painel do segundo dia do XI Fórum Jurídico de Lisboa.

O alemão Steffen Augsberg, professor Catedrático da Universidade Justus-Liebig Giessen, fez algumas reflexões sobre o uso da IA pelo mundo. Ele citou, por exemplo, o receio de chegarmos a uma situação de perder as habilidades humanas e não mais entender o que está acontecendo — ou seja, que "nossa confiança tenha de ser dirigida não a uma pessoa, mas a um sistema baseado na interação entre humano e máquina".

Outra preocupação do professor é a ideia de introduzir sistemas de inteligência artificial na sala de aula, para entender como a atenção dos alunos muda ou se dispersa. Segundo ele, isso pode ser bom em algumas situações, para compensar a falta de qualificação dos professores. Mas, em geral, ele não vê a ideia com bons olhos.

Por outro lado, Augsberg demonstrou entusiasmo com o uso de procedimentos padronizados por IA na administração pública, por serem menos invasivos e mais simples: "Há qualidade na padronização e pode haver um interesse comum".

Regulação brasileira
Na sequência, a deputada federal Luísa Canziani (PSD-PR) comentou sobre a evolução da tramitação dos projetos sobre IA no Congresso brasileiro. Ela relatou na Câmara o PL 21/2020, para o qual mais tarde foi apresentado um substitutivo, após o trabalho de uma comissão de juristas designada pelo presidente do Senado, Rodrigo Pacheco (PSD-MG).

Segundo ela, quando o tema passou a ser discutido no Congresso, ainda não existiam os sistemas de IA generativa (capaz de criar conteúdos originais, como o ChatGPT). Assim, os cidadãos no geral e os próprios parlamentares ainda não tinham muita noção de que usavam IA diariamente (para buscar rotas, por exemplo).

"O grande receio que todos nós devemos nos atentar é no sentido de haver a perda de direitos humanos individuais e coletivos, que coloque em risco a vida, a integridade física e moral e a dignidade das pessoas", assinalou a deputada.

Para Luísa, nenhuma solução para o tema será satisfatória se não for global. Ela ressaltou que já existem movimentos internacionais e esforços nesse sentido. "Precisamos transpor para nossa realidade as políticas públicas relacionadas à inclusão digital, que certos países fizeram e tiveram êxito", indicou.

Outras necessidades citadas pela parlamentar foram: harmonização da nova regulação com a legislação já existente, como a Lei Geral de Proteção de Dados Pessoais (LGPD), o Marco Civil da Internet e o Código Civil; atenção ao custo gerado para os pequenos e médios desenvolvedores; e amadurecimento do debate sobre a criação de uma agência, ou da interoperabilidade entre agências setoriais.

Já a professora universitária e coordenadora acadêmica Laura Schertel Mendes afirmou que "a regulação certamente estará à altura de outras regulações que o legislador brasileiro já produziu". Ela foi relatora da Comissão de Juristas do Senado para regulação da IA. No painel, retomou princípios, previsões e objetivos do PL 2.338/2023, apresentado por Pacheco no último mês de maio.

Para Laura, o avanço que os sistemas de IA podem propiciar para a sociedade "é tão palpável quanto os riscos". Ela destacou que os sistemas podem gerar diagnósticos equivocados na área da saúde, por exemplo. Além disso, há um custo ambiental enorme: o treinamento de um sistema de IA pode emitir a mesma quantidade de carbono que cinco carros ao longo de todas as suas vidas úteis; o treino do ChatGPT consumiu 700 mil litros de água — o equivalente a encher uma torre de resfriamento de um reator nuclear.

Regulação europeia
Domingos Farinho, professor auxiliar na Faculdade de Direito da Universidade de Lisboa, comparou a proposta original da Comissão Europeia para regulação da IA com a versão aprovada pelo Parlamento Europeu neste mês.

Ele mostrou que certos modelos de IA não eram tratados na proposta original. Além disso, foi introduzida uma proposta de impacto nos direitos fundamentais, que obriga uma avaliação nesse sentido.

Farinho também mencionou alguns problemas a ser enfrentados, como a inter-relação entre as entidades reguladoras: "Não há nada pior para a regulação do que ter várias entidades reguladoras e tentar perceber quem vai regular o quê, porque as hipóteses de ninguém regular nada são grandes".

Vera Lucia Raposo, investigadora do centro de pesquisas WhatNext.Law/FutureHealth e professora auxiliar da Universidade Nova de Lisboa, também falou sobre a proposta de regulamento da União Europeia. Ela explicou que o texto divide os sistemas por tipo de riscos: alguns com poucas restrições, outros com critérios mais rígidos e outros totalmente banidos.

A versão mais recente acrescentou diversas formas de IA proibidas (inaceitáveis); passou a classificar os sistemas capazes de influenciar as eleições como de alto risco; e alterou o texto para tornar a regulação mais compatível com o ChatGPT, que foi lançado ao longo da tramitação.

"O que nós temos na mesa neste momento ainda não é bom o suficiente", assinalou Vera. Segundo ela, o texto pode trazer conflitos entre normas e autoridades europeias.

Além disso, a regulação vai longe demais: "É de longe a legislação mais detalhada, rigorosa e complexa que nós temos no quadro europeu". O texto é complexo até para juristas da área, e por isso deve ser igualmente complexo para as empresas, especialmente as pequenas.

Por outro lado, a regulação também não vai longe o suficiente: "Em termos de inovação, temos claramente um gap e creio que facilmente seremos ultrapassados pelos outros players no mercado internacional", opinou.

O evento
Esta edição do Fórum Jurídico de Lisboa tem como mote principal "Governança e Constitucionalismo Digital". O evento é organizado pelo Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP), pelo Instituto de Ciências Jurídico-Políticas da Faculdade de Direito da Universidade de Lisboa (ICJP) e pelo Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento (CIAPJ/FGV) 

Ao longo de três dias, a programação conta com 12 painéis e 22 mesas de discussão sobre temas da maior relevância para os estudos atuais do Direito — entre eles debates sobre mudanças climáticas, desafios da inteligência artificial, eficácia da recuperação judicial no Brasil e meios alternativos de resolução de conflitos.

Confira aqui a programação completa