Recente regramento da inteligência artificial na União Europeia

Cumprindo compromisso político assumido em 2019, a presidente da Comissão Europeia, Ursula von der Leyen, envidou grande esforço durante estes último quatro anos para que o Parlamento Europeu aprovasse proposta de regulamentação do emprego da inteligência artificial (IA) no âmbito dos 27 países integrantes da União Europeia.

No dia 14 de junho passado, foi finalmente aprovado o E.U. AI Act, que estabelece significativas limitações para a denominada AI generativa — ferramenta apta a gerar textos e imagens —, determinando que as matérias disseminadas em determinadas plataformas de softwares GPT contenham avisos específicos com a finalidade de alertar o usuário. O regramento se baseia nos seguintes objetivos:

• garantir que os sistemas de IA colocados no mercado da União Europeia e utilizados são seguros e respeitam a legislação em vigor em matéria de direitos fundamentais;
• garantir a segurança jurídica para facilitar o investimento e a inovação em IA;
• melhorar a governança e a aplicação efetiva da legislação existente sobre direitos fundamentais e requisitos de segurança aplicáveis a sistemas de IA; e
• facilitar o desenvolvimento de um mercado único para a utilização da IA de forma lícita, segura e confiável.

Para atingir estes objetivos, o aludido texto normativo prevê os requisitos mínimos necessários para prevenir, tanto quanto possível, riscos e problemas relacionados à IA, sem restringir ou impedir indevidamente o desenvolvimento tecnológico ou aumentar desproporcionalmente o custo de soluções úteis que podem ser oferecidas pela IA no mercado.

A lei aprovada adota restrições baseadas no potencial perigo que um aplicativo de IA pode ocasionar. Passam a ser vetadas, por exemplo, ferramentas que os legisladores europeus consideram "inaceitáveis", como sistemas que permitem que a aplicação da lei preveja o comportamento criminoso a partir de estatísticas.

O novo texto legal considera a utilização de IA em três categorias de risco. Em primeiro lugar, aplicativos e sistemas que criam um risco inaceitável, como pontuação social administrada pelo governo do tipo usado na China, são descartados. Em segundo lugar, os aplicativos de alto risco, como uma ferramenta de digitalização de currículos que classifica os candidatos a empregos, estão sujeitos a requisitos legais específicos. Por fim, aplicativos não explicitamente banidos ou listados como de alto risco são deixados sem regulamentação.

Além disso, a novel legislação protege os direitos de vários grupos especiais, como o direito dos trabalhadores a condições de trabalho justas e equitativas (artigo 31), a proteção do consumidor (artigo 28), os direitos da criança (artigo 24) e a integração das pessoas com deficiência (artigo 26). O direito a um elevado nível de proteção ambiental e à melhoria da qualidade do ambiente (artigo 37) também se encontra contemplado, inclusive em relação à saúde e à segurança das pessoas.

A imposição de obrigações de testes prévios, gestão de riscos e supervisão humana também irão assegurar o respeito de outros direitos fundamentais, minimizando o risco de decisões errôneas ou tendenciosas assistidas por IA em áreas críticas, como educação e treinamento, emprego, serviços à comunidade, aplicação da lei pelos tribunais. Caso ainda ocorram violações dos direitos fundamentais, será possível uma reparação efetiva para as pessoas vitimadas assegurando-se transparência e rastreabilidade dos sistemas de IA, por meio de controles de alta sofisticação tecnológica.

Saliente-se, outrossim, que o regramento legal sob análise impõe algumas restrições à liberdade empresarial (artigo 16) e à liberdade nos domínios da arte e da ciência (artigo 13) para garantir o cumprimento de valores de interesse público, como a saúde, a segurança, a defesa do consumidor e a proteção de outros direitos fundamentais, em situações nas quais a tecnologia de IA de alto risco é desenvolvida e usada. Estas restrições são proporcionadas e limitadas ao mínimo necessário para prevenir e mitigar riscos graves de segurança e prováveis violações dos direitos fundamentais, como, por exemplo, a proibição da disponibilização de dados protegidos por direitos autorais.

Assim, a imposição da obrigação de transparência não afetará desproporcionalmente o direito à proteção da propriedade intelectual (artigo 17, nº 2), uma vez que deve ser limitada apenas à informação mínima necessária para que os indivíduos exerçam o seu direito a um recurso efetivo e à necessária transparência perante as autoridades de supervisão e execução. Qualquer divulgação de informações será realizada de conformidade com a legislação relevante na respectiva área de conhecimento.

Nas hipóteses em que as autoridades estatais necessitam ter acesso a dados confidenciais ou código-fonte para examinar eventual descumprimento das obrigações impostas, eles serão disponibilizados sob compromisso de confidencialidade.

A criação de um mecanismo eficiente e seguro de acompanhamento e avaliação é um importantíssimo pressuposto para garantir que as regras agora aprovadas tenham eficácia na consecução dos seus objetivos específicos. A Comissão Europeia assume o encargo de monitorar a efetividade da nova legislação, por meio de um sistema de registro de aplicativos autônomos de IA de alto risco em um banco de dados público em toda a União Europeia. Para alimentar esse banco de dados, os provedores de IA serão obrigados a fornecer informações minudentes sobre seus respectivos sistemas.

A aprovação deste ato normativo — que certamente contraria os interesses das grandes empresas de tecnologia digital na vanguarda do desenvolvimento de IA — consolida a posição da União Europeia como pioneira na regulamentação da IA, já que outros governos — incluindo o Congresso dos EUA — estão apenas começando a lidar com a ameaça decorrente de sua utilização desenfreada.

"Fizemos história hoje", afirmou o co-relator do projeto Brando Benifei, membro italiano do Parlamento Europeu, numa entrevista coletiva. Benifei também frisou que os legisladores, com a aprovação da referida lei,  "preparam o caminho" para um diálogo com o resto do mundo sobre a construção de uma IA responsável, "é crucial construir a confiança dos cidadãos no desenvolvimento da IA, definir o caminho europeu para lidar com as mudanças extraordinárias que já estão acontecendo, bem como orientar o debate político sobre IA em nível global".