Como regular a moderação privada de conteúdo nos novos espaços públicos?

A moderação de conteúdo, entendida como o conjunto de mecanismos de governança que estruturam a participação em uma plataforma para facilitar cooperação e prevenir abusos [1] vem sendo largamente empregado pelos provedores de redes sociais e de aplicações que permitam compartilhamento de conteúdo na internet, bem como nos resultados de buscas [2].

Pela posição central das plataformas digitais na construção do espaço de debate público atual, a tendência, na Europa [6] e nos Estados Unidos da América [7], consiste em ver a moderação como central não só para a promoção da qualidade dos serviços disponibilizados, que traduz o interesse privado dos provedores, mas também para a garantia de liberdade de expressão do indivíduo, de direitos fundamentais e do ambiente democrático, razão pela qual, há uma necessidade de convergência dos termos de uso com a ordem jurídica estatal, em democracias constitucionais contemporâneas. Por outro lado, cada vez mais se reconhece que essa curadoria de conteúdo implica responsabilidade das plataformas pela adoção dos procedimentos adequados de governança e meios técnicos disponíveis para evitar abusos e mitigar impactos provocados por conteúdo nocivo propagado. Ou seja, aponta-se para deveres inerentes à moderação de conteúdo pelas plataformas terem se tornado, de fato, as anfitriãs do espaço para o discurso público e "curadoras" da liberdade de expressão, de modo que suas regras não podem ficar restritas à relação contratual com os usuários, devendo incorporar a legislação nacional, sendo compatíveis com as regras sobre licitude de conteúdo difundido na esfera pública [8]. Isso inclui não só os ilícitos criminais [9], como também as regras nacionais sobre publicidade [10] nos veículos de comunicação, nas práticas de propaganda online e impulsionamento de conteúdo.

Tendo em vista o interesse público do qual se cerca, os sistemas privados de governança montados pelos provedores para a moderação de conteúdo na internet tem sido centro de debates internacionais, que apontam preocupação quanto à falta de transparência e arbítrio pelos provedores [11]. Nesse sentido, entidades da sociedade civil tem promovido iniciativas e promulgado documentos no sentido de estimular a adoção de mecanismos de transparência, entre eles o Santa Clara Principles [12], o Corporate Accountability Index [13] e os princípios sobre filtragem de conteúdo da Eletronic Frontier Foundation [14].

Esses documentos elencam a necessidade dos provedores de aplicação divulgarem os números de medidas aplicadas (flagging, blocking, takedown) e de notificarem o usuário afetado pela medida, oferecendo as razões correspondentes, bem como a oportunidade para sua contestação. Iniciativas legislativas também incorporaram alguns deveres procedimentais da transparência, como a lei alemã de redes NetzDG [15] e a proposta de regulação europeia sobre prevenção de disseminação online de conteúdo terrorista [16] e a Recomendação sobre a Responsabilidade de Intermediários na Internet do Conselho Europeu [17].

Embora as plataformas tenham passado a divulgar números de atividade de moderação, induzidas por pressões governamentais [18], foram tímidas em relação à disponibilização de mecanismos efetivos de contestação, permanecendo arbitrárias as decisões pelos provedores quanto à exclusão de conteúdos e contas [19].

Por outro lado, o debate acadêmico e de ativistas digitais [20] tem apontado a insuficiência dessas medidas. Note-se que todas elas se referem a boas práticas após a tomada de decisão pelo provedor de aplicação acerca de medida sobre conteúdos ou contas. Mas uma série de preocupações têm sido levantadas sobre a adequação e impactos a direitos fundamentais decorrentes do próprio processo decisório adotado pelas plataformas. Esse processo de tomada de decisão envolve, basicamente, equipes de moderadores e ferramentas computacionais para a detecção ou decisão automatizada sobre o conteúdo.

Quanto aos moderadores, há três ordens de questionamento. A primeira diz respeito à adequação dos padrões de moderação, tipicamente modulados para democracias constitucionais, assumindo-se, por exemplo, que a desinformação e o ódio são criados e tolerados apenas por uma minoria, quando na verdade podem ter o suporte da maioria da população e ter inclusive origem governamental [21]. A segunda concerne à necessidade de competência dos moderadores para lidar com questões locais, incluindo o conhecimento da língua e aspectos culturais e políticos relevantes, considerando que, por vezes, a moderação não é nacional e até mesmo pode ser executada de modo terceirizado para empresas estrangeiras [22]. Recentemente, o Facebook fez esforço louvável em constituir e divulgar seu Oversight Board [23] para moderação de conteúdo, enfatizando a equipe escolhida, formada por membros conhecidos por sua defesa da liberdade de expressão e direitos humanos. Porém, o Oversight Board decide pequeno número casos selecionados, com o objetivo de oferecer diretrizes para as equipes de moderadores, que efetivamente tomarão decisões sobre moderação de conteúdo na rede social. Pouco se sabe sobre a composição, treinamento e capacidades das equipes de moderadores, em qualquer das redes sociais hoje dominantes. O episódio de Mianmar [24], em que o Facebook foi incapaz de detectar como a rede social foi utilizada como arma para incitar violência contra a minoria étnica Rohingya, ilustra bem essas duas ordens de preocupação. A terceira preocupação concerne às condições de trabalho do moderador, que é exposto constantemente a imagens e conteúdo degradantes, o que pode afetar sua saúde psíquica [25].

Por sua vez, a automação na moderação para a detecção e tomada de decisão de conteúdo abusivo, tanto ex ante quanto ex post, tem sido estimulada pela regulação como o Copyright Directive da União Européia, o NetzDG alemão e a lei australiana Abhorrent Violent Material, que obrigam a adoção de medidas em tempo eficiente, por vezes dentro de 24 horas. Porém, críticos dessa legislação apontam para o risco de excesso de confiança nessas ferramentas [26] e que a discricionariedade das plataformas no seu uso pode levar a resultados contraproducentes [27], como violações à liberdade de expressão, pelo excesso de bloqueios [28], e a outros direitos humanos, caso não haja transparência e prestação de contas em relação a essas ferramentas [29], em particular quanto a seu papel na tomada de decisão, quanto a sua explicabilidade, i.e. critérios relevantes para a classificação, muitas vezes tornada opaca pelo algoritmo empregado [30], seu nível de acurácia e a possível incorporação de traços sociais discriminatórios [31] ou distorções em acurácia conforme gênero ou raça [32].

Por fim, considerando que, embora não respondam por sua elaboração, a propagação dos conteúdos é viabilizada pela plataforma, de modo que tem sido destacada a necessidade dos provedores de aplicação adotarem os meios técnicos a seu alcance visando a mitigar impactos eventualmente provocados pelas ações ou omissões da moderação. Tal atuação inclui não só restaurar contas e conteúdos equivocadamente excluídos, como também empregar meios disponíveis para corrigir a informação ou informar sobre o caráter abusivo do conteúdo àqueles que a ele foram expostos, ou no mínimo, que com ele interagiram [33].

A partir do debate internacional recente, é possível observar que o tratamento dado pelo PL nº 2630/2020 à moderação de conteúdo é incompleto. Isso porque, além de não estipular a necessidade dos termos de serviço dos provedores de aplicação incorporarem parâmetros de conteúdo ilícito, conforme legislação nacional sobre a comunicação e sobre a publicidade, tratam apenas de um aspecto da moderação, a saber, aquilo que ocorre após a tomada de decisão dos provedores sobre o conteúdo, com a obrigatoriedade de oferecer oportunidade de defesa e recurso, além da divulgação de métricas da moderação.

Faltam regras de transparência e prestação de contas naquilo que ocorre no processo de tomada de decisão pela plataforma, seja em relação aos moderadores, seja em relação aos algoritmos empregados, bem no que diz respeito à disponibilização de mecanismos claros para reclamação para os usuários ofendidos e ao empenho dos provedores no sentido de mitigar impactos do conteúdo nocivo que foi propagado na rede.

Nesse sentido, os seguintes pontos merecem especial atenção no tema da moderação de conteúdo privado pelos provedores:

1) As regras elaboradas pelo provedor de aplicação sobre moderação de conteúdo devem ser debatidas de modo amplo, à luz de seus impactos específicos sobre o discurso público, envolvendo diferentes representantes da sociedade civil, considerando-se o papel relevante do discurso veiculado nas plataformas para o exercício de direitos individuais, para a coesão social e para a democracia [34]. Tanto as regras como as ferramentas para sua aplicação, incluindo a moderação automática e humana devem ser descritas de modo transparente. As plataformas devem responder tanto pelas regras quanto por sua aplicação, assegurando que adota os procedimentos e medidas adequadas, tendo em vista seu papel essencial como fóruns do discurso público e como palcos para exercício de uma gama de direitos humanos online, incluindo liberdade de expressão, mas também a liberdade de informação, direito à dignidade e à privacidade;

2) A moderação de conteúdo online contra a desinformação deve abranger não somente serviços de redes sociais, que permitam ao usuário publicar conteúdos online para redes de relacionamentos ou ao público em geral (Facebook, Twitter etc.), como também serviços de postagem e compartilhamento de vídeos (YouTube), bem como serviços de busca que direcionem o usuário para conteúdo desinformativo (Google search). Assim o artigo sobre moderação não deve limitar sua referência a provedores de redes sociais, mas abranger os provedores de aplicação em geral;

3) Atenção deve ser dada, também, à moderação de publicidade. O provedor tem a oportunidade e o dever de filtrar o conteúdo, previamente, ao seu impulsionamento, considerando que obterá retorno financeiro pela difusão. Esse dever precisa estar aliado às regras de transparência para identificação das fontes de financiamento de propagação de conteúdos ilícitos, submetendo-se à regulação existente sobre publicidade no Brasil;

4) A atividade de moderação humana deve contar com equipe de revisores adequada ao volume de comunicações, com competência linguística e conhecimento da cultura local adequados para o exame do conteúdo;

5) Ferramentas computacionais que empreguem inteligência artificial cada vez mais tem se mostrado eficazes e efetivas em custos para detetar e classificar conteúdo ilícito. Porém, são falíveis e devem atender a parâmetros éticos para evitar que sejam contraproducentes ou ameacem outros direitos fundamentais, dentre eles, padrões aceitáveis de acurácia para seu emprego, transparência, explicabilidade e controle de vieses;

6) Dado o caráter falível da moderação e a possibilidade de exclusão ou marcação da expressão pública de conteúdo lícito e legítimo, o poder de moderação das plataformas não pode ser arbitrário, devendo incorporar também mecanismos online de contestação, facilmente acessíveis pelo usuário e que garantam o efetivo contraditório, além de respostas rápidas e justificadas pelos provedores quanto a sua decisão final;

7) Deve haver transparência pelos provedores em relação à equipe empregada para moderação de conteúdo, empresas contratadas e aos meios técnicos, em particular, sobre os sistemas de inteligência artificial utilizados;

8) Os provedores de aplicação devem, na medida do possível naquilo que for tecnicamente viável, buscar informar usuário que teve contato com conteúdo que violou os termos e usos do contrato ou que alvo de medidas de checagem por fontes independentes. Essa medida informativa pela plataforma vem em consonância com seus deveres de tráfego visando a contribuir com a atenuação dos efeitos da circulação e propagação de desinformação ou conteúdo abusivo. Essa medida deve atingir, no mínimo, aqueles que interagiram explicitamente com o conteúdo abusivo pelo período em que foi mantido na rede e quando possível, todos aqueles que foram expostos ao conteúdo.