Consultor Jurídico

Opinião

O silêncio do Facebook sobre os algoritmos na rede na decisão do 'caso Trump'

Por 

O Comitê de Supervisão do Facebook há poucos dias divulgou a sua, até então, mais aguardada decisão: o parecer sobre a medida de banimento do ex-presidente estadunidense Donald Trump das plataformas do Facebook e do Instagram, após suas manifestações nas redes sociais durante o lamentável episódio de invasão do Capitólio por apoiadores do político, que resultou em cinco mortes e diversos feridos.

Após perder as eleições, Trump alegava ter sido vítima de fraude eleitoral e os manifestantes, insuflados por essa narrativa, ameaçavam a transição democrática de poder ao atual presidente, Joe Biden. Na data da invasão, os posts do presidente endereçavam aos manifestantes mensagens como "nós te amamos. Vocês são muito especiais", "grandes patriotas" e "lembrem desse dia para sempre".

Na tentativa de conter a propagação de protestos violentos pelo país, o Facebook removeu as respectivas postagens e impediu que o político utilizasse suas contas do Facebook e do Instagram por 24 horas, motivando a decisão pela violação dos padrões da comunidade sobre organizações e indivíduos perigosos. Após, a empresa tomou a decisão inédita de suspensão por tempo indeterminado das contas de um usuário, notadamente, o líder político dos EUA, autoproclamada a maior democracia do mundo.

1) A decisão do Comitê de Supervisão
A medida sem precedentes foi submetida à análise do comitê de Supervisão do Facebook, órgão de julgamento externo e independente para revisão de decisões da empresa sobre o conteúdo a ser mantido ou removido das suas plataformas. Convém registrar que o órgão não funciona como uma nova instância de recurso às decisões tomadas pelo Facebook e, portanto, não aprecia todos os casos que lhe são submetidos, mas, antes, seleciona um número restrito de casos emblemáticos cujos resultados são vinculantes para as políticas de uso da rede social. Quando o caso da suspensão do ex-presidente Donald Trump foi submetido ao comitê, este dava seus primeiros passos, com a divulgação das suas primeiras decisões e, a rigor, sequer possuía competência para lidar com a questão, vez que extrapola a esfera da manutenção ou remoção de um conteúdo e trata do banimento em definitivo de um usuário.

Os membros do comitê receberam mais de nove mil comentários públicos, de pessoas e organizações de todos os continentes, sobre esse caso e, ao final, apresentaram uma decisão bastante técnica, que desagradou àqueles que esperavam maior ênfase no mérito da manutenção ou não das contas de Trump nas redes sociais da empresa. A via adotada, a despeito de não se aprofundar no ansiado debate sobre liberdade de expressão e o impacto do discurso político nas redes sociais, se ateve à importância da delimitação da atuação do próprio Facebook. Explica-se: a medida de suspensão por tempo indeterminado aplicada a Trump sequer está prevista nos padrões da comunidade, que, até o momento, preveem apenas a remoção de perfis e conteúdos ou a suspensão de usuários por prazo determinado.

Primando pela legalidade, a decisão do comitê afirma que o Facebook não pode criar novas penalidades de acordo com as situações que se apresentam. As regras devem ser prévias, claras e aplicadas de igual forma a todos os usuários, por isso os membros do comitê autorizaram o Facebook a manter a suspensão de Trump por até seis meses da decisão, período estipulado para que a empresa lide com a atribuição de reformular a política interna de penalidades e infrações. Ao final, espera-se que o Facebook possa aplicar a penalidade adequada, considerando a gravidade da violação e os potenciais danos, com a ponderação da necessidade e proporcionalidade da medida, acompanhada das devidas justificativas. Em suma, a decisão alerta contra a aplicação de penalidades arbitrárias, ao mesmo tempo em que  reafirma o papel do Comitê de Controle das decisões da empresa, e não de moderação do conteúdo publicado pelos usuários, atribuição esta que pertence ao próprio Facebook.

De outro lado, a decisão não esquivou-se de todo de enfrentar o mérito da discussão, abordando o papel das redes sociais para o debate político e assumindo compromisso tanto com a  liberdade de expressão quanto com a proteção dos direitos humanos [1], não só no caso de líderes políticos, como inicialmente questionou o Facebook, mas também no caso de outras personalidades com grande influência, que podem contribuir para eventos danosos.

A empresa e o órgão revisor não ignoram a dimensão dos impactos da influência de líderes políticos e de outras personalidades influentes nas redes sociais, tanto pelo seu grande número de seguidores quanto pelo alcance atribuído às respectivas publicações, bem como primam pela liberdade no discurso político nas redes. Todavia, nos casos de políticos e autoridades que reiteradamente expressam mensagens que representam riscos de violação de direitos humanos, a recomendação do comitê é que o Facebook suspenda as contas por tempo suficiente para proteção contra o dano iminente. A decisão alerta ainda para a importância de cautela para que as ações da empresa não impliquem no silenciamento de grupos políticos dissidentes, e, nesse sentido, recomenda a formação de uma equipe de moderação especializada na análise linguística e política dos discursos e isolada de interferências políticas e econômicas indevidas.

2) O viés algorítmico por trás do debate
Para melhor avaliar a questão, o Comitê de Supervisão endereçou 46 questões ao Facebook: sete delas não foram respondidas e duas foram apenas parcialmente atendidas. As questões declinadas abrangem o funcionamento dos algoritmos, o design da rede e as políticas e procedimentos internos que podem ter contribuído para a grande repercussão das postagens danosas e da narrativa antecedente de alegada fraude eleitoral. As questões também versam sobre a eventual suspensão de outras figuras políticas e os impactos dessas suspensões e remoções de contas para os anunciantes da rede e os seguidores dessas páginas e pessoas de influência. O Facebook alegou que tais questionamentos não são relevantes para a decisão, que não é tecnicamente viável fornecer essas respostas e, ademais, que tais informações são cobertas por sigilo legal que impede a sua divulgação, por razões de proteção de privacidade, segurança ou proteção de dados.

Essa postura da empresa não só limita a eficácia da decisão do comitê, que não pôde analisar se as medidas anteriores e menos gravosas seriam suficientes para contenção dos danos nesse caso específico e aferir eventual parcela de contribuição do Facebook para propagação das postagens que levaram ao incidente, como também dificulta a compreensão dos usuários sobre os critérios gerais que determinam a relevância de uma postagem para apresentação no feed e como isso se aplica às publicações de personalidades influentes.

Embora a empresa tenha negado maior permissividade em relação ao conteúdo postado por líderes políticos, admitiu que os mecanismos de verificação de postagem para usuários influentes são diferentes, passando por uma revisão interna adicional, a fim de minimizar riscos. Assim, é razoável concluir que mesmo regras iguais submetidas a processos diferentes podem levar a resultados substancialmente distintos.

Compreender o funcionamento desses algoritmos é especialmente importante para a reflexão sobre o design das redes sociais e as escolhas políticas feitas pela empresa — por exemplo, com a manutenção de conteúdo questionável, a depender da relevância e do interesse público, através do newsworthiness allowance [2] —, que propiciam abusos pelos usuários das plataformas, exacerbando tensões e polarizações políticas como as que culminaram nos protestos violentos no Capitólio. Embora seja favorável a aplicação das mesmas regras para líderes políticos e outras personalidades influentes, o comitê alerta o Facebook para a necessidade de reconhecer que os posts de chefes de Estado e outras autoridades oficiais podem apresentar riscos maiores de encorajar, legitimar ou incitar violência, tanto pela posição de confiança ocupada, que inspira maior força ou credibilidade às suas palavras, quanto pela possibilidade de que os seus respectivos seguidores assumam  o poder de agir impunes.

3) Conclusão
A falta de transparência em relação a esses processos decisórios contribui para a percepção pública de que a empresa pode ser indevidamente influenciada por interesses de ordem política ou comercial, como apontado pela própria decisão do Comitê de Supervisão. É matéria de interesse coletivo refletir sobre como o design e as opções de política das redes podem permitir abusos nas plataformas com consequências desastrosas.

Não é razoável assumir como ultimato a impossibilidade técnica de fornecer informações sobre os algoritmos, como o Facebook alega, tampouco, que pilares fundamentais do Direito Digital, como a proteção da privacidade e de dados, sejam genericamente invocados para evitar o dever de transparência da empresa para com os usuários.

A pretensa neutralidade algorítmica é uma falácia, ao contrário, o viés dos algoritmos tem anonimamente moldado os comportamentos dentro e fora das redes ao transformar em dados e predições fatores da experiência humana. É imperativo que os usuários saibam como tais algoritmos funcionam e que estes possam ser auditados, eventualmente, pelo Conselho de Supervisão, de forma a assegurar o interesse dos usuários em detrimento de interesses políticos ou corporativos.

 

[1] Embora não se espere do Facebook compromissos análogos aos assumidos pelos Estados no que diz respeito a obrigações com direitos humanos e leis nacionais, a empresa voluntariamente comprometeu-se com Os Princípios Orientadores das Nações Unidas sobre Negócios e Direitos Humanos.

[2] Ainda sem tradução precisa para os padrões da comunidade em português, a política do newsworthiness allowance implica em tolerância a conteúdos questionáveis dada a relevância para o interesse público que a rede lhes atribui. O Facebook negou que tal mecanismo tenha sido alguma vez aplicado para manutenção das postagens de Donald Trump.




Topo da página

 é pós-graduanda em Direito Digital pelo ITS/Uerj e advogada no escritório Ricomini Piccelli.

Revista Consultor Jurídico, 18 de maio de 2021, 6h35

Comentários de leitores

2 comentários

Muito necessária!

Bárbara Helena Silva (Consultor)

Parabéns pelo despertar acerca do tema. Excelente pesquisa, o direito realmente precisa se voltar ao âmbito digital.

Aplausos para a Dra. Heloísa Helena Silva !!!!

Rejane G. Amarante (Advogado Autônomo - Criminal)

Excelente artigo. Precisamos de muito mais informação para a nossa defesa no mundo digital.
Não pare.

Comentários encerrados em 26/05/2021.
A seção de comentários de cada texto é encerrada 7 dias após a data da sua publicação.