O algoritmo de recomendação de conteúdo do YouTube está sugerindo vídeos sobre armas e violência armada para usuários interessados em videogames, de acordo com um novo relatório do Tech Transparency Project (TTP).
A organização afirma que, embora o YouTube tenha políticas para restringir conteúdo violento e perigoso, incluindo imagens de armas, essas políticas não parecem estar sendo aplicadas de forma consistente ou eficaz.
O RELATÓRIO. Para entender como o YouTube recomenda conteúdo para menores de idade, o TTP criou quatro contas de teste. Duas usaram as datas de nascimento de um menino de nove anos, e as outras duas usaram as datas de nascimento de um menino de 14 anos, identificando todos como do sexo masculino.
A organização descobriu que muitos dos vídeos sugeridos continham conteúdo ou linguagem violenta sobre armas e tiroteios em escolas.
O YouTube, no entanto, sugeriu muito mais conteúdo desse tipo — em alguns casos 10x mais — para os perfis que interagiram com as recomendações, aponta o documento.
Um dos vídeos sugeridos para os pesquisadores sobre tiroteios escolares era uma simulação do jogo GTA V de um ataque em uma escola. Também foram recomendados vídeos sobre o massacre de Columbine e dramatizações de ataques em escolas em programas de televisão.
QUAL O PROBLEMA? O TTP afirma que esses vídeos podem ser prejudiciais para jovens e podem contribuir para a normalização da violência armada. Eles também observam que muitos dos vídeos foram monetizados pelo YouTube, o que significa que os criadores estão ganhando dinheiro com a violência.
