Ataques a escolas: o Ministério da Justiça e o extremismo na internet

Os recentes ataques a escolas em diferentes partes do país têm gerado preocupação entre pais, responsáveis e professores, mas, também alertaram o Ministério da Justiça, motivando-o a combater a disseminação de conteúdos violentos e prejudiciais nas redes sociais. Diante disso, ontem (12/4), foi divulgada a Portaria n.º 351/2023, que dispõe sobre medidas administrativas a serem adotadas no âmbito do Ministério da Justiça e Segurança Pública para prevenção à disseminação desse conteúdo violento e prejudicial.

Isaac Amorim/MJSP

Além dos conteúdos alarmistas, majoritariamente falsos, há ampla divulgação e intenso compartilhamento de materiais incitando à violência e à prática dos ataques — ponto central de preocupação no momento. As polícias de diversos estados e o Ministério da Justiça afirmam que estão trabalhando para combater ameaças reais que foram registradas, segundo notícia da BBC News. Somente em São Paulo, a Polícia Civil afirma ter frustrado dezenas de possíveis atos violentos em diversos municípios em março, com apreensão de facas, máscaras e celulares.

O horror e o pânico provocados pelos ataques estão crescendo exponencialmente graças às redes sociais e outras plataformas de comunicação. Nos grupos de WhatsApp, circulam incontáveis mensagens, fotos e áudios sobre supostas ameaças, alarmando professores, pais e responsáveis. As mensagens, compartilhadas incessantemente, contém listas de supostos locais ou escolas onde os próximos ataques poderiam ocorrer, datas nas quais ameaças estariam previstas e até perfis de supostos agressores.

As notícias falsas e os boatos se multiplicam, e a sensação de insegurança e incerteza funciona como combustível para a viralização — isto é, para a divulgação em massa com ampla repercussão de uma informação, mensagem, foto, vídeo ou conteúdo. O mais preocupante entre os boatos viralizados é a ideia de que haveria um ataque em massa em diversas escolas planejado para um único dia.

É nesse contexto de pânico, insegurança e incerteza que se insere a Portaria n.º 351 do Ministério da Justiça e Segurança Pública, com o objetivo de combater o extremismo violento que incita, faz apologia ou incentiva ataques a escolas. O objeto principal da Portaria, em sua parte resolutiva, são as medidas administrativas que poderão (e deverão) ser adotadas pela Senacon (Secretaria Nacional do Consumidor) para frear a propagação do conteúdo violento, ilícito ou danoso. Contudo, a leitura dos considerandos iniciais revela discussões jurídicas de extrema relevância e atualidade.

A responsabilidade de instaurar processos administrativos para apuração e responsabilização das plataformas de redes sociais pelo eventual descumprimento do dever geral de segurança e de cuidado em relação à propagação desse tipo de conteúdo foi colocada sobre a Senacon. Contudo, a responsabilidade por monitorar e eliminar esse conteúdo nocivo ou violento será das plataformas e redes sociais.

Pouco antes da divulgação da portaria, o ministro Flávio Dino se reuniu com representantes das principais plataformas de redes sociais para debater ações preventivas. Meta, Kwai, TikTok, Twitter, YouTube, Google e WhatsApp estiveram presentes, em um esforço coletivo para garantir a segurança e a liberdade de expressão nas redes sociais. Contudo, algumas disposições da Portaria n.º 351 poderão trazer desafios técnicos e práticos.

A portaria reconhece o peso dado à liberdade de expressão e à manifestação do pensamento na Constituição, mas leva em consideração a ampla propagação de conteúdos violentos incentivando ou exaltando a perpetração de ataques às escolas. Esta ponderação entre direitos e liberdades fundamentais encontra-se nos Considerandos da Portaria, e justifica as restrições por ela impostas mais adiante.

Quanto às plataformas de comunicação e redes sociais (referidas no texto como "plataformas de redes sociais"), estas são colocadas sob a condição de mediadoras do conteúdo compartilhado pelos usuários, e classificadas como fornecedoras de serviços, atraindo a aplicabilidade do Código de Defesa do Consumidor (CDC). Nesse sentido, não seria possível argumentar pela neutralidade dessas "plataformas de redes sociais", tendo em conta que possuem ingerência sobre o que será ou não exibido, qual será o alcance daquele conteúdo, e assim por diante. Nesse contexto, no qual há um modelo de negócio baseado na intermediação de conteúdo, ou interferência no flux de informações, há riscos sistêmicos e externalidades negativas a serem considerados.

A partir de tais considerações iniciais, a Portaria dispõe sobre as medidas administrativas que deverão ser adotadas pela Senacon, bem como sobre a responsabilidade da Senasp (Secretaria Nacional de Segurança Pública) pela coordenação do compartilhamento, entre as plataformas e as autoridades competentes, dos dados necessários à identificação dos usuários responsáveis pelo conteúdo ilícito.

Em linhas gerais, a Senacon terá o dever de instaurar processos administrativos para apurar a responsabilidade por esse tipo de conteúdo, responsabilizando as plataformas quando cabível. O dever de cuidado ensejaria tal obrigação de prevenção e monitoramento do conteúdo violento relacionado às escolas, incluindo a obrigação de produzir relatórios a pedido da Senacon, reportando as medidas tomadas para fins de "monitoramento, limitação e restrição dos conteúdos".

Também caberá à Senacon requisitar a adoção de medidas de mitigação relativas a riscos identificados, incluindo, expressamente, "os sistemas algorítmicos". As redes sociais utilizam algoritmos complexos para recomendar conteúdos para cada usuário, de forma personalizada, e de acordo com os seus próprios interesses. O funcionamento desses algoritmos constitui segredo de negócio, protegido pela confidencialidade, de modo que esse trecho específico da portaria poderá provocar algum atrito mais adiante.

Os riscos que devem ser mitigados pelas plataformas podem ser, basicamente, de dois tipos: risco de acesso de crianças e adolescentes a conteúdos inapropriados para idade, ilegais, nocivos ou danosos; e risco de propagação e viralização de conteúdos e perfis que exibam extremismo violento, incentivem ataques a ambiente escolar ou façam apologia e incitação a esses crimes ou a seus perpetradores.

Outro ponto que poderá trazer dificuldades jurídicas ou mesmo práticas em um futuro próximo, por uma série de motivos, é a obrigação imputada às plataformas de "impedir a criação de novos perfis a partir dos endereços de protocolo de Internet (endereço IP) em que já foram detectadas atividades ilegais, danosas e perigosas referentes a conteúdos de extremismo violento que incentivem ataques ao ambiente escolar ou façam apologia e incitação a esses crimes ou a seus perpetradores".

Muitos usuários não possuem um IP fixo; ainda, é possível ocultar facilmente o IP utilizando um Proxy ou VPN. Além disso, há casos em que uma mesma máquina é compartilhada por diversas pessoas, ou por toda uma família. Cumpre questionar se, nesses casos, a medida será viável jurídica e tecnicamente, e, acima de tudo, questionar se será uma medida eficaz.

Por fim, um último ponto da portaria que merece ser destacado nesta breve análise, é a previsão de que, em caso de grave ameaça à segurança, em circunstâncias extraordinárias, poderão ser adotados "protocolos de crise" pelo Ministério da Justiça e Segurança Pública, os quais deverão ser observados pelas plataformas "com medidas proporcionais e razoáveis". A redação aberta dessa disposição deixa margem para interpretação — e para dúvidas.

Esses episódios lamentáveis e hediondos que têm ocorrido nas escolas brasileiras relevam, mais uma vez, o peso que as plataformas e redes de comunicação possuem na sociedade atual, com capacidade de gerar impactos imprevisíveis, de dimensões antes impensáveis. O Ministério da Justiça, com a Portaria nº 351, certamente demonstra preocupação com os ataques e com a instrumentalização das redes sociais e plataformas de comunicação para propagar a violência e a insegurança.

Não obstante, ainda não é possível prever se as medidas ali dispostas serão suficientes ou mesmo efetivas para fazer frente ao poder da comunicação. A propagação em massa de notícias, mensagens e fotos sobre os ataques é motivada pelas necessidades e emoções mais básicas do ser humano, como o medo e a busca por segurança. Nessa toada, qualquer norma que pretenda regular a forma como as pessoas se comunicam precisa levar em conta os impactos sociais e as motivações que estão por trás da propagação do conteúdo violento.

Segundo reportagem divulgada pelo O Globo, esses grupos são, inicialmente, pequenas comunidades, reunidas ao redor de hashtags, formando "bolhas". Episódios como os ataques às escolas fazem com que a bolha seja perfurada, e o conteúdo viralize, chegando a um número muito maior de pessoas, e fomentando o crescimento dessas comunidades de incitação e apologia à violência. Esse tipo de conteúdo e de comunidade, antes estava restrito à “deep web”, parte da Internet que não está indexada, e que não pode ser encontrada por mecanismos de busca como o Google. Contudo, eles estão se fazendo cada vez mais presentes na superfície da Internet. Há diversos fatores que se relacionam a esse fenômeno – desde o isolamento provocado pela pandemia de COVID-19, aos acontecimentos políticos recentes no país. Não é possível apontar uma única motivação ou origem para o problema hoje enfrentado.

A radicalização e o extremismo encontram solo fértil na Internet, onde é possível encontrar comunidades específicas voltadas ao neonazismo, violência, assassinatos em massa, bem como sobre automutilação, transtornos alimentares e outros temas especialmente prejudiciais às crianças e adolescentes. Por vezes, os jovens são atraídos por conteúdos sobre jogos, ou outros que não violam diretrizes das plataformas, e, então, são levados a fóruns ou comunidades privadas, nas quais passam a ter contato direto com o conteúdo violento.

Diante disso tudo, fica claro que não bastam medidas pontuais para enfrentar as ameaças e os ataque a escolas. Trata-se de uma questão que envolve política pública, regulação das plataformas digitais, educação e informação. Se tais questões não forem contempladas, e o problema não for abordado de forma ampla, estaremos sujeitos a ver episódios como esse se repetindo em diferentes contextos. Para combater o extremismo e a violência na internet, precisamos combatê-los também no mundo real.