Implicações legais do uso de IA por pequenas e médias e empresas

Será que a inteligência artificial (IA) será o marco "divisor de águas" entre as pequenas e médias empresas (PMEs)? Intensificando as interações de concorrência mercadológica e alcançando um melhor resultado em termos de eficiência e redução de custos?  

Bom, para que se possa responder essa pergunta de forma responsável e identificar se o pequeno ou médio empresário realmente tem a necessidade de se atualizar e integrar o seu negócio com a IA, passa-se a aprofundar o tema, destacando alguns pontos cruciais.

 De fato, a inteligência artificial é uma tecnologia que tem se mostrado cada vez mais presente em nosso cotidiano, trazendo inúmeras vantagens e benefícios, tais como: (i) automação de tarefas rotineiras e repetitivas; (ii) tomada de decisão aprimorada / análise de grandes volumes de dados e gerar soluções automáticas; (iii) atendimento ao cliente aprimorado, os chamados chatbots, e assistentes virtuais, com respostas inteligentes em 24 horas por dia, sete dias por semana; (iv) otimização de processos; (v) personalização e segmentação de marketing e (vi) detecção de fraudes e segurança aprimorada.

À prima vista, os benefícios a longo prazo dessas medidas inovadoras e tecnológicas podem ser relevantes e trazer um diferencial do ponto de vista de agilidade, informação e eficiência para as PMEs, aumentando sua competitividade e impulsionando o crescimento. Porém, é preciso entender que a implementação bem-sucedida da inteligência artificial requer um planejamento cuidadoso, investimento em tecnologia e colaboração com profissionais especializados.

A inteligência artificial também pode gerar grandes desafios legais para as PMEs, especialmente quando se trata de questões relacionadas à privacidade e proteção de dados pessoais. Algumas problemáticas que podem surgir:

I. Propriedade intelectual: se a PME desenvolver um sistema de IA personalizado ou usar algoritmos proprietários de terceiros, é essencial considerar as questões de propriedade intelectual. Será necessário avaliar se é necessário proteger a propriedade intelectual por meio de patentes, direitos autorais ou segredos comerciais. Além disso, é importante garantir que o uso de algoritmos de terceiros esteja em conformidade com as leis de propriedade intelectual, como licenças adequadas ou acordos contratuais.
II. Privacidade e proteção de dados: o uso de IA geralmente envolve a coleta, o armazenamento e o processamento de grandes volumes de dados. As PMEs devem cumprir as leis de proteção de dados pessoais, como o Regulamento Geral de Proteção de Dados (GDPR) na União Europeia ou leis similares em outros países. Isso inclui obter consentimento adequado para a coleta de dados, garantir a segurança dos dados e cumprir os direitos dos indivíduos em relação aos seus dados pessoais.
III. Discriminação e viés algorítmico: a IA pode apresentar riscos de discriminação e viés, especialmente se os dados de treinamento forem enviesados ou se houver falta de diversidade nos conjuntos de dados utilizados. As PMEs devem tomar cuidado para garantir que seus sistemas de IA não resultem em discriminação injusta com base em características protegidas por lei, como raça, gênero ou origem étnica. É importante estar atento à legislação antidiscriminação aplicável e realizar testes regulares para mitigar viés algorítmico.
IV. Responsabilidade legal: as PMEs devem considerar a questão da responsabilidade legal pelo uso de sistemas de IA. Se um algoritmo ou sistema de IA causar danos a terceiros, pode haver questões de responsabilidade civil. É necessário avaliar quem é responsável pelos resultados e possíveis danos causados pelo uso da IA e garantir que haja seguro adequado para cobrir tais riscos.
V. Regulamentação específica: dependendo do setor em que a PME atua, pode haver regulamentações específicas relacionadas ao uso de IA. Por exemplo, setores como saúde, finanças e transporte podem ter requisitos adicionais de conformidade e segurança relacionados à IA. É fundamental conhecer as leis e regulamentações específicas do setor e garantir a conformidade com elas.

Uma das grandes problemáticas que se estima é o uso de ferramentas de IA para coletar e análise de dados pessoais. Ora, após o marco civil realizado pela Lei Geral de Proteção de Dados Pessoais (LGPD), tal circunstância se tornou algo absolutamente sensível, de modo que seria um alto risco a divulgação ou utilização indevida dos dados protegidos pela legislação pela IA.

Ainda sobre a LGPD e a sensibilidade da utilização da IA para gerenciamento desses dados, é válido destacar que a recente legislação, em vigor desde setembro de 2020, estabelece regras claras para a coleta, armazenamento, tratamento e compartilhamento de dados pessoais por empresas e organizações. A LGPD se aplica a todas as empresas que operam no Brasil, independentemente de seu porte ou setor de atuação.

Assim, analisando sob a ótica das PMEs, é salutar que estejam atentas às suas obrigações legais em relação à proteção de dados pessoais, o que inclui o estabelecimento de medidas de segurança adequadas, de modo a prevenir o acesso não autorizado, a divulgação, a perda ou a destruição de dados pessoais.

Além disso, as PMEs devem estar cientes de outras implicações legais do uso de ferramentas de IA. Por exemplo, a responsabilidade por decisões tomadas com base em algoritmos de IA pode ser difícil de determinar, especialmente quando as decisões afetam indivíduos ou grupos de pessoas. As PMEs devem, portanto, estar cientes dessas implicações legais e tomar medidas adequadas para mitigar os riscos associados ao uso de ferramentas de IA.

Afora todo o aspecto legal relacionado ao uso da IA para atendimento e conformidade à LGPD, a doutrina brasileira tem discutido a responsabilidade civil em relação a decisões tomadas com base em algoritmos de IA. Nesse sentido, há entendimento de que a responsabilidade pode ser atribuída tanto à empresa que utiliza a ferramenta de IA quanto à própria ferramenta de IA.

Ou seja, não basta a implementação da IA, mas sim o seu controle e eficiência. Caso contrário, será a própria sociedade que responderá pelos prejuízos causados, não podendo se furtar desse ônus intrínseco à implementação e utilização da IA em seus processos produtivos.

Como alternativa a esses possíveis prejuízos e danos, é justamente a implementação de medidas para mitigar os riscos associados ao uso dessas ferramentas. As empresas devem estar cientes de que a responsabilidade por decisões tomadas com base em algoritmos de IA pode ser difícil de determinar, especialmente quando as decisões afetam indivíduos ou grupos de pessoas.

Nesse caminho, as PMEs devem investir em processos de treinamento para seus funcionários e em auditorias regulares para garantir que o uso de ferramentas de IA esteja alinhado com as leis e regulamentações aplicáveis. A transparência na comunicação com o público e a adoção de práticas éticas no uso de IA também podem ajudar as PMEs a manterem a confiança do público e evitar prejuízos financeiros e de reputação.

Em suma, a utilização de ferramentas de IA pelas PMEs pode trazer muitos benefícios, mas também pode gerar desafios legais e financeiros significativos. As PMEs devem estar cientes das implicações legais e tomar medidas adequadas para garantir a conformidade com as leis de proteção de dados pessoais. Além disso, as PMEs devem implementar medidas de segurança adequadas para garantir a privacidade e segurança dos dados pessoais de seus clientes e funcionários, evitando assim prejuízos financeiros e perda de confiança do público.

Portanto, em resposta à pergunta proposta no início deste artigo, pode-se afirmar que, com a devida diligência e conscientização, as PMEs certamente poderão aproveitar os benefícios da IA, e isso precisa se dar de forma célere, pois tratando-se de um mundo globalizado como o de hoje, a concorrência faz com que os processos produtivos fiquem obsoletos muito rápido, obrigado o empresário a buscar alternativas menos custosas e mais eficientes para a exploração de sua atividade empresarial, para que consiga atingir o tão esperado lucro, sendo certo que tudo isso deva estar fulcrado na consciência de proteção dos negócios e os direitos dos titulares de dados pessoais.

Fontes:
Lei Geral de Proteção de Dados (LGPD) – Lei nº 13.709/2018: http://www.planalto.gov.br/ccivil_03/_Ato2015-2018/2018/Lei/L13709.htm

Resolução nº 01/2019 da ANPD, que estabelece as diretrizes para a implementação da LGPD: https://www.gov.br/anpd/pt-br/assuntos/autoridade-nacional/produtos-e-servicos/resolucoes-e-pareceres/resolucao-n-1-de-2019-dou-23-05-2019.pdf

Parecer nº 13/2019 da ANPD, que trata da necessidade de consentimento específico para o uso de dados pessoais sensíveis em ferramentas de IA: https://www.gov.br/anpd/pt-br/assuntos/autoridade-nacional/produtos-e-servicos/resolucoes-e-pareceres/parecer-n-13-2019.pdf

Parecer nº 02/2020 da ANPD, que trata da transparência e explicabilidade em relação ao uso de algoritmos de IA: https://www.gov.br/anpd/pt-br/assuntos/autoridade-nacional/produtos-e-servicos/resolucoes-e-pareceres/parecer-n-02-2020.pdf

Parecer nº 04/2020 da ANPD, que trata da responsabilidade civil em relação ao uso de algoritmos de IA: https://www.gov.br/anpd/pt-br/assuntos/autoridade-nacional/produtos-e-servicos/resolucoes-e-pareceres/parecer-n-4-2020.pdf

Jurisprudências e doutrinas de direito digital e proteção de dados pessoais, como os estudos de Daniel A. Arbix (https://danielarbix.jusbrasil.com.br/), Renato Opice Blum (https://www.opiceblum.com.br/), Fabrício Mota Alves (https://www.fabriciomota.com/) e Nádia de Araújo (https://www.nadiadearaujo.com.br/).

Artigos e publicações de organizações especializadas em direito digital e proteção de dados pessoais, como o portal Jota (https://www.jota.info/), o site do Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS Rio) (https://itsrio.org/) e o blog da Data Privacy Brasil (https://dataprivacy.com.br/blog/).