Reprodução de vieses discriminatórios é principal problema da IA, diz professora

Ao contrário do que alguns teóricos fazem crer, a questão mais premente ligada à inteligência artificial tem a ver com a reprodução de vieses discriminatórios, e não com a substituição do trabalho humano pelos sistemas de IA, afirma a advogada e professora Tainá Aguiar Junquilho.

Reprodução

Especialista na relação entre Direito, inovação e tecnologia, a advogada falou sobre os riscos trazidos pela inteligência artificial em entrevista à série "Grandes Temas, Grandes Nomes do Direito", na qual a revista eletrônica Consultor Jurídico conversa com alguns das principais personalidades do Direito sobre os assuntos mais relevantes da atualidade.

"A inteligência artificial está em tudo o que nos cerca, segundo o professor Pedro Domingues (da Universidade de Washington, nos Estados Unidos).
Alguns 'apocalípticos' acreditam que o principal problema da inteligência artificial é a substituição do ser humano por essa tecnologia. Mas ainda estamos distante disso. O principal risco são os vieses e as discriminações", disse a professora do IDP e doutora em IA e Direito pela UnB.

Teoricamente neutros e livres de preconceitos, os algoritmos de inteligência artificial podem processar dados de maneira discriminatória contra grupos de pessoas caso venham embutidos com vieses de interpretação nesse sentido. Antevendo possíveis violações a direitos decorrentes dessas falhas, alguns países já discutem a criação de normas que tratem do problema.

"No mundo todo, uma série de regulamentações tenta minimizar esse potencial discriminatório colocando, por exemplo, critérios para avaliação de impactos prévios, posteriores e durante a criação desses sistemas. Preveem também a necessidade de pluralização dessas equipes (de desenvolvedores), aliada à não discriminação, à equidade e ao desenho ético e responsável dos aplicativos", disse a professora, que é autora do livro Inteligência Artificial no Direito: Limites Éticos (Editora Juspodivm, 2022).

Algumas dessas legislações são objetivas, enquanto outras são de cunho subjetivo. A maioria, porém, adota a classificação de risco dos resultados produzidos, prosseguiu a advogada. Esse é o caso, por exemplo, da lei elaborada pela União Europeia, que é a grande referência no assunto.

"Isso porque há algumas decisões tomadas por algoritmos que são mais graves, enquanto outras são menos graves. Assim, requerer a explicabilidade de um sistema de Waze, sobre por que ele levou um motorista pelo caminho 'A' e não pelo 'B', é diferente de requerer a mesma coisa de um modelo que será usado para reconhecimento facial com fins de segurança pública", explicou Tainá.

Clique aqui para assistir à entrevista ou veja abaixo: