Receba nossas newsletters de graça
Conteúdos de comunidades que enaltecem autores de massacres no Brasil e em outros países estão viralizando no TikTok, onde esses vídeos chegam a ter milhões de visualizações. Não só esse tipo de material não é moderado pela plataforma, como chega a ser recomendado por seu algoritmo – servindo inclusive imagens gráficas de extremistas exibindo armas, de vítimas ou de suicídio dos atiradores sem qualquer tarja ou alerta.
Entre dez.22 e jan.23, o Núcleo acompanhou 112 perfis e mais de trinta hashtags dessa comunidade, e calculou que vídeos com culto a autores de massacres somam mais de 344 milhões de visualizações, correndo livres em diversas línguas, como inglês, espanhol, português e russo.
Entre os perfis brasileiros, a reportagem identificou pelo menos 32 deles dedicados ao atirador G. T. Mont., um dos responsáveis pelo massacre em uma escola de Suzano (SP), em 2019.
[Nota do editor] O Núcleo optou por ocultar o nome completo dos criminosos.
É ✷ importante ✷ porque…
Esse tipo de conteúdo pode ser facilmente encontrado na rede social, bastante usada por crianças e adolescentes
A falta de moderação está amplificando o conteúdo da comunidade e abrindo as portas para que conteúdo ainda mais violento seja publicado
Integrantes cultuam imagens de supremacistas brancos que cometeram atos violentos contra minorias, algo que pode ser uma porta para a radicalização
Milhões de visualizações
Também é fácil encontrar referências a atiradores ligados ao supremacismo branco, como B. Tar., A. Lan. e D. Kleb., autores dos massacres de Christchurch (2019), Sandy Hook (2012) e Columbine (1999), respectivamente.
Em uma análise da distribuição de visualizações, foram 251 milhões de views nas hashtags de assassinos, 77 milhões para atiradores e 14,9 milhões para supremacistas. A categoria “outros” foi designada para termos específicos, como apelidos, e teve 76 mil visualizações.
Algumas das publicações da comunidade — grupos de usuários que produzem e engajam com o mesmo tipo de conteúdo — chegaram até a aparecer na aba de recomendação durante o período de monitoramento.
Moderação capenga
Questionado pelo Núcleo, o TikTok, de longe a rede social mais usada por crianças e adolescentes, disse que segue suas Diretrizes da Comunidade para moderar conteúdos violentos, mas é evidente o quanto essa moderação é falha.
A própria existência dessa comunidade já viola a política de conteúdo da plataforma.
Segundo o item Conteúdo Violento e Explícito das Diretrizes de Comunidade do TikTok, a rede diz não permitir "conteúdo que seja excessivamente macabro, explícito, sádico ou horrendo, ou que promova, normalize ou exalte a violência ou o sofrimento extremo em nossa plataforma".
No caso dos três assassinos estrangeiros mencionados acima, por exemplo, ao digitar seus nomes no mecanismo de busca da plataforma, é retornada uma mensagem dizendo que o termo informado “pode estar associado a um comportamento de ódio” e que o TikTok está “comprometido em manter a comunidade segura”.
Mas posts, perfis e hashtags sobre eles ainda são tolerados. Usuários apenas adicionam ou removem uma letra do sobrenome dos criminosos para conseguir postar o conteúdo.
Durante o período de monitoramento, foram encontrados pelo menos cinco hashtags sobre os nomes suprimidos, que totalizam 46,4 milhões de visualizações.
Também é fácil encontrar perfis de culto a outros autores de ataques supremacistas e neonazistas que não tiveram seus nomes bloqueados do mecanismo de busca, como o de D. Ro., responsável pelo ataque contra uma igreja afro-americana nos EUA em 2015, que deixou 9 mortos.
Somente duas hashtags associadas ao supremacista coletam 2,4 milhões de visualizações.
Facilidade em encontrar
Tão alarmante quanto a tolerância da comunidade de usuários que exaltam autores de massacres é a facilidade com que ela pode ser encontrada. Basta pesquisar pelos nomes de assassinos conhecidos para cair nas hashtags centrais.
Durante o monitoramento, o TikTok chegou a recomendar alguns vídeos da comunidade no feed, que passaram a ser mais frequentes conforme havia mais engajamento com o conteúdo – tipo curtir, comentar ou assistir até o final.
Conforme esse engajamento foi aumentando durante o período, a plataforma chegou inclusive a sugerir pesquisa por vídeos de um massacre escolar.
No caso dos posts que cultuam assassinos e atiradores, eles costumam ter a estrutura de fancam, vídeos que homenageiam algo ou alguém popular na internet, e legendas com declaração de sentimentos íntimos, românticos ou sexuais perante o criminoso.
Também há vídeos cultuando as características individuais dos extremistas e aqueles que glorificam os atos violentos.
Fãs de assassinos
Não é de hoje o fenômeno de adoração de assassinos. Nas redes sociais, comunidades que reúnem esses tipos de fãs ganharam popularidade no Tumblr durante os anos 2010. Em 2018, a plataforma anunciou o banimento de discurso de ódio e conteúdo que glorifica violência e criminosos, mas o grupo permanece ativo.
No Tiktok, algumas publicações em homenagem ao atirador brasileiro G. T. Mont. conseguem atingir 200 mil visualizações em dois dias. Nas legendas, frases como “ele era apenas um humano” ou “você faz falta” são comuns.
“Pessoas ganham um capital social de visibilidade por cometerem esses atos, e elas ganham uma reputação — que para alguns, conta como um valor positivo diante a visibilidade, e por muitas pessoas acharem que podem cometer crimes juntos, ou que são tão boas que poderiam mudar esses criminosos, ou as pessoas que de fato são obcecadas e veem isso como uma forma de visibilidade nas redes. É muito perigosa essa abertura. O TikTok é um campo minado para a produção desse tipo de conteúdo”, comentou Adriana Amaral, coordenadora do CULTPOP, Laboratório de Pesquisa em Cultura Pop, Comunicação e Tecnologias.
Chama a atenção ainda o fato de muitos dos integrantes participarem também da comunidade #gore, que consiste em compartilhar e consumir vídeos extremamente violentos e explícitos online — tudo disponível no TikTok.
Para disseminar seu conteúdo, a comunidade usa hashtags centrais, que se dividem em hashtags para cada atirador, supremacista ou assassino. Durante o monitoramento, foram encontradas 36 hashtags de subcomunidades divididas em quatro tópicos: assassino, atirador, supremacista e outros. Elas somaram 344 milhões de visualizações, durante o monitoramento.
Já para impulsionar o engajamento e amplificar o alcance da comunidade, integrantes — alguns deles menores de idade, segundo informações do próprio perfil — diariamente apagam seus vídeos e engajam em outros usuários.
use o gráfico interativo abaixo
O impacto da falta de moderação
A coordenadora do Laboratório de Pesquisa em Cultura Pop, Comunicação e Tecnologias (CULTPOP) Adriana Amaral afirma que o impacto da falta de moderação nesse caso pode ser danoso justamente por envolver tópicos extremamente violentos, “principalmente se pensarmos na saúde mental dos usuários que têm contato com essas imagens, que podem gerar uma série de problemas psicológicos”, disse ela.
“Por outro lado, existem pessoas que podem se sentir legitimadas a seguir com essas imagens, acreditando que não existem consequências e elas podem seguir adiante cometendo crimes”.
Amaral afirma ainda não ser correto cair na mesma falácia de que videogames podem levar jovens a realizarem tiroteios em escolas, mas ressalta que “existem pessoas que possuem seus próprios problemas de saúde mental, e o consumo desse conteúdo nas redes pode criar algum estímulo”, disse ao Núcleo.
O impacto é muito grande e não se limita ao digital, como também na vida das pessoas.
- Adriana Amaral, do CULTPOP
“Em termos de jovens, tradicionalmente existe uma relação entre juventude e rebeldia, ser do contra, tentar se identificar com determinados grupos, tribos e subculturas. Isso faz com que esse tipo de indexação de conteúdo facilita por conta de alguns componentes da plataforma que facilitam que esse material seja localizado. É claro que isso já acontecia antes, o problema é a proporção que isso toma no digital”.
Posicionamento do TikTok
Sobre a existência de posts enaltecendo atiradores e autores de massacres em sua plataforma, o Núcleo enviou as seguintes perguntas ao TikTok:
- Há alguma estratégia de moderação específica para lidar com a comunidade?
- Há moderadores em língua portuguesa treinados para moderar conteúdo violento e extremista?
- Para além das publicações, por que contas com nomes e/ou apelidos de extremistas, assassinos e supremacistas não foram banidas?
- Por que hashtags associadas a comunidade não foram completamente banidas?
A plataforma disse que “proíbe conteúdo que promova ou incentive extremismo violento, e remove vídeos que violam nossas Diretrizes da Comunidade a fim de desencorajar comportamentos que prejudiquem a experiência criativa e alegre que as pessoas esperam em nossa plataforma”. E completou dizendo que também incentiva “toda nossa comunidade a denunciar caso veja algo que possa ser ofensivo ou que viole nossas políticas.”
A resposta do TikTok na íntegra
O TikTok proíbe conteúdo que promova ou incentive extremismo violento, e remove vídeos que violam nossas Diretrizes da Comunidade a fim de desencorajar comportamentos que prejudiquem a experiência criativa e alegre que as pessoas esperam em nossa plataforma. Também incentivamos toda nossa comunidade a denunciar caso veja algo que possa ser ofensivo ou que viole nossas políticas.
Além disso, enviamos aqui mais algumas informações de contexto:
- Avaliamos os vídeos internamente para aplicar a política adequada.
- O TikTok é um espaço para criatividade e expressão, que oferece várias ferramentas e controles para ajudar a comunidade a controlar sua experiência. Recomendamos que todos consultem nosso Centro de Segurança online, que traz mais recursos para que a nossa comunidade avalie se determinada conduta pode colocá-la em risco ou não.
- Usamos uma combinação de tecnologia e revisão humana para identificar os vídeos que violam nossas políticas. Caso alguém veja algum conteúdo que acredite que esteja violando nossas Diretrizes da Comunidade, temos ferramentas para que os usuários possam reportar.
Como fizemos
Uma conta no TikTok foi criada com o objetivo de seguir e acompanhar contas, publicações e hashtags da comunidade para observar também o funcionamento do algoritmo do TikTok. Durante dez.22 e jan.23, foram acompanhados 112 perfis e 36 hashtags. Após a publicação da reportagem, compartilhamos os dados coletados com o TikTok.
