União Europeia debate pacote de regras para a região sobre inteligência artificial

O ChatGPT é um modelo de linguagem de última geração desenvolvido pela OpenAI que foi projetado para proporcionar uma experiência de chat natural e fluída em tempo real e atualmente conta com mais de cem milhões de utilizadores globais mensais, segundos dados do próprio site[1].

Reprodução

No âmbito da União Europeia os principais regramentos sobre a matéria são a Directive ePrivacy[2] de 2002, o Règlement Général sur la Protection des données de 2016[3] e a Directive Justice-Police[4] de 2016.

Na última sexta-feira (31/3), a Itália tornou-se o primeiro país ocidental a bloquear provisoriamente[5] o chatbot, pois a autoridade italiana Garante per la protezione dei dati personali[6] considerou o descumprimento do Regulamento Geral de Proteção de Dados da União Europeia (GDPR 2016/679) e do Código Italiano de Proteção de Dados Pessoais (Codice in materia di protezione dei dati personali, 2003), considerada a coleta de todo tipo de dados sobre seus usuários italianos "com efeito imediato".

Em nota, a autoridade italiana de proteção de dados pessoais observou que o ChatGPT "sofreu uma perda de dados em 20 de março no que diz respeito às conversas dos usuários e às informações de pagamento dos assinantes do serviço pago". Mas também que a ferramenta destinada às pessoas maiores de 13 anos não verifica a idade de seus usuários, o que "expõe os menores a respostas totalmente inapropriadas para seu nível de desenvolvimento"[7].

Igualmente, há críticas pela "ausência de uma nota informativa aos usuários cujos dados são coletados pelo OpenAI, mas sobretudo pela ausência de uma base legal que justifique a coleta e o armazenamento em massa de dados pessoais, com o objetivo de treinar os algoritmos que administram a plataforma"[8].

Neste sentido, a autoridade italiana pede à OpenAI que "comunique dentro de 20 dias as medidas tomadas" para remediar esta situação, "sob pena de uma penalidade de até 20 milhões de euros ou até 4% do faturamento anual mundial" — as penalidades previstas no Regulamento Geral de Proteção de Dados (GDPR), o texto europeu que rege a proteção de dados pessoais.

Segundo o jornal francês Le Monde, a autoridade afirma que "a aplicação e o site" do ChatGPT estão "agora 'bloqueados' e, portanto, não podem mais ser acessados por cidadãos italianos, porque o OpenAI está proibido de usar seus dados pessoais, mediante solicitação ao OpenAI para bloquear o acesso a todas as contas registradas com 'um endereço de e-mail italiano' nos próximos dias".

No mesmo caminho, em 2018 a França lançou a "Estratégia nacional pela inteligência artificial[9]" que, segundo a missão Villani[10], visa o estudo da estruturação a longo prazo do ecossistema da IA, em todas as etapas do desenvolvimento tecnológico: pesquisa, desenvolvimento e inovação, aplicações, marketing e disseminação intersetorial, apoio e supervisão da implantação.

O lançamento do ChatGPT ocorreu em novembro de 2022, mas em 2021 a União Europeia já demonstrava preocupação com os avanços da tecnologia artificial, quando o European Data Protection Board) publicou uma nota conjunta[11] com fundamento no artigo 42(2) do Regulamento (UE) 2018/1725 de 23 de outubro de 2018 sobre a proteção de pessoas físicas com relação ao processamento de dados pessoais pela União Europeia.

Na nota conjunta foi registrada a preocupação da União Europeia com os riscos da inteligência artificial, por considerar que "gerar conteúdo, fazer previsões ou tomar uma decisão em um sistema automatizado de IA é, em grande parte, inexperiente da forma como fazem os sistemas de IA[12].

No contexto europeu, a principal autoridade de vigilância da proteção aos direitos fundamentais no âmbito de novas tecnologias é o European Data Protection Board[13], em francês Contrôleur européen de la protection des données — CEPD (composto por autoridades de controle de cada Estado membro e representantes da Noruega, Islândia e Liechtenstein, estes sem direito à voto), mas também existe a Association Francophone des Autorités de Protection des Données Personnelles e o Conselho da Europa.

Na França, a Commission Nationale de l'Informatique et des Libertés – CNIL ainda não se manifestou sobre a decisão italiana e os eventuais descumprimentos ao Regulamento Geral de Proteção de Dados da União Europeia (GDPR 2016/679) relacionados ao ChatGPT.

Contudo, a Prefeitura de Montpellier, na França, vedou a utilização do ChatGPT no âmbito dos serviços públicos. No mesmo sentido, em Paris, a Universidade SciencesPo vedou o acesso ao instrumento de inteligência artificial sob pena de exclusão do aluno[14]. Nos Estados Unidos, o JP Morgan[15] também restringiu o acesso aos seus funcionários globais por questões de compliance e proteção de dados dos clientes.

Em 30 de agosto de 2022 o Conselho de Estado francês publicou um estudo sobre o uso da inteligência artificial nas administrações e recomendou o fortalecimento dos recursos da CNIL e a mudança de seu papel para que ela se torne também uma das autoridades supervisoras nacionais responsáveis pela regulamentação dos sistemas de IA.

Igualmente, o Conselho de Estado também recomendou a implementação de uma política voluntarista para a implantação de inteligência artificial, a serviço do interesse geral e do desempenho público, além do fortalecimento dos recursos confiados à Etalab, o departamento da Direção Interministerial Digital (Dinum) responsável pela coordenação da concepção e implementação da estratégia de dados do Estado.

Ainda, em janeiro deste ano a CNIL criou um Serviço de Inteligência Artificial[16] (SIA), cujo objetivo é informar a autoridade sobre as medidas a serem tomadas, e realizar reflexões para estabelecer boas práticas de conformidade. A SIA enfatiza que seu papel é "organizar a transparência e a compreensão de uma tecnologia que é frequentemente percebida como uma 'caixa preta', a fim de garantir uma regulamentação equilibrada".

As principais tarefas do Departamento de Inteligência Artificial serão facilitar dentro da CNIL a compreensão do funcionamento dos sistemas de IA e o desenvolvimento para entrada em vigor da regulamentação europeia sobre IA (atualmente em discussão em nível europeu). O Departamento será responsável pela competência técnica dos arquivos relacionados à inteligência artificial com aspectos específicos desta tecnologia a fim de contribuir para o trabalho do Comitê Europeu de Proteção de Dados (AEPD).

No final de abril haverá uma reunião com os membros da União Europeia para o debate do desenvolvimento do pacote de regras europeias sobre a inteligência artificial, pois, conforme declarou Agostino Ghiglia na decisão que vedou o ChatGPT na Itália[17] —membro da Garante per la protezione dei dati personali (Autoridade Italiana de proteção de dados) — "È una questione di rispetto della legge"[18].