Discord desobedece às próprias regras e permite conteúdo violento e extremista

Aviso: essa reportagem tem expressões e imagens que reproduzem mensagens com conteúdo violento e ofensivo

Racismo, misoginia, homofobia, neonazismo e incitação à violência e ao suicídio. Esse é o tom das conversas em alguns servidores do Discord, aplicativo de chat em texto e áudio bastante popular entre jovens e jogadores. Muitas vezes em forma de piadas, o chamado “shitposting” — algo como “postagem de merda”, em português — tem sido uma prática de jovens que usam a plataforma para compartilhar mensagens nas quais brincam, por exemplo, com o fato de que querem estuprar e matar mulheres e meninas.

Um dos servidores analisados, com cerca de 100 usuários, tem piadas com estupro, pedofilia, necrofilia e suicídio. “Servidor destinado a pura ironia, algazarra e entretenimento. Se é sensível por fazer não entre”, diz a descrição no grupo no Disboard, uma plataforma que reúne servidores públicos do Discord. A reportagem decidiu não publicar os nomes dos servidores para não divulgar os grupos.

Os participantes se orgulham de assistirem e compartilharem conteúdos de abuso sexual com crianças e do tipo “gore” — o termo remete a um subgênero de filmes de horror com cenas extremamente violentas. Também compartilham com frequências conteúdos neonazistas que pedem a morte de pessoas não-brancas, vídeos de pessoas negras sendo mortas pela Ku Klux Klan e mulheres sendo agredidas. 

As mensagens de texto seguem na mesma linha e os robôs —  contas que mandam mensagens automáticas nos servidores —  tem nomes como “estuprador”, “pedófilo”, “AdoroPedofilia”, entre outros. Alguns usuários desse grupo dizem que já foram banidos do Discord por conta de sua atuação, mas voltaram. 

Em outro servidor, voltado a apoiadores do ex-presidente Jair Bolsonaro (PL), um usuário disse em uma conversa, no dia 5 de abril deste ano, que seria “forçado” a “matar” outro integrante do grupo, porque “percebi que tu é gay”. No mesmo grupo, em 12 de abril, a conversa registra que dois usuários acessaram informações privadas de outros dois integrantes por meio de um link que mandaram a eles e os ameaçaram enviando vídeos explícitos de pessoas sendo assassinadas. Os dois novatos saíram e os outros dois comemoraram. O servidor que tem nome e foto em homenagem a Bolsonaro tem 24 membros no total. 

“Sou fascista e Apoio o Mito n gostou vai pra casa do krl Bolsonaro 2022 (sic)”, disse um usuário em outro servidor, que tem 87 membros, dos quais 24 são ativos. Outro grupo diz na biografia, em tom de piada: “apoiamos o bolsonaro e somos neonazistas (sic)”. Em outro servidor, em outubro de 2022, um usuário compartilhou um meme que mostrava um homem segurando uma faca. Na imagem estava escrito em inglês: “seja o motivo pelo qual mulheres não saem na rua a noite”.

Todos os conteúdos citados —  e muitos outros semelhantes, encontrados pela reportagem —  ferem as políticas do Discord. De acordo com as orientações da comunidade, não é permitido “encorajar, coordenar ou se envolver em situações de assédio”; “usar discurso de ódio”; “ameaçar a integridade de outra pessoa ou grupo”; “organizar, promover ou apoiar extremismo violento”; e “pedir, compartilhar ou tentar distribuir conteúdo que descreva, promova ou tente normalizar abuso sexual infantil”. 

A rede afirma que “todos no Discord precisam seguir estas regras e elas se aplicam a toda a nossa plataforma, inclusive ao seu conteúdo, aos seus comportamentos, aos servidores e aos aplicativos”, mas apuração da reportagem mostra que as regras não são cumpridas. A reportagem entrou em contato com o Discord, mas a rede não retornou. Caso responda, o texto será atualizado. 

“Os termos de uso existem, mas [a moderação] é absolutamente precária. Eles não conseguem aplicar os termos de uso corretamente e os canais de interlocução no Brasil com as instituições que trabalham com os sistemas é ou precário ou inexistente”, avaliou Thiago Tavares, presidente da SaferNet Brasil. 

O especialista também pontuou que faltam moderadores que falem português. “A moderação em língua inglesa existe, e já existem dados e algoritmos treinados para reconhecer algumas palavras chave, textos e etc em inglês, mas quando o conteúdo está em português é muito falha a moderação de conteúdo”, explicou Tavares.

Um estudo sobre a extrema-direita no Discord, conduzido pela Universidade de Rutgers, nos Estados Unidos, também concluiu que um dos motivos da falha na moderação é que “as plataformas terceirizam responsabilidade para moderadores e usuários, em vez de abordar o problema em o nível de projeto”. Quando a responsabilidade por administrar o conteúdo compartilhado em um servidor passa a ser do moderador, ele também pode permitir e incentivar que conteúdos violentos façam parte da conversa, como acontece em servidores analisados pela reportagem. 

Discord foi canal para marcha supremacista nos EUA

Em 2017, em Charlottesville, Virgínia, o poder de articulação do Discord para grupos de extrema-direita ficou mais evidente. Em agosto daquele ano ocorreu a manifestação “Unite the Right” [Unir a direita], que reuniu supremacistas brancos e neonazistas de vários locais dos Estados Unidos na cidade. O motivo era a derrubada de estátuas de líderes confederados — grupo que, durante a Guerra Civil Americana, defendia a manutenção da escravidão. 

Estudos posteriores ao evento mostraram que a manifestação foi organizada pelo Discord, que então passou a excluir alguns servidores de extrema-direita. De acordo com um artigo da Associação Internacional de Contraterrorismo e Profissionais de Segurança (IACSP), a violência ocorrida em Charlottesville “não poderia ter sido planejada e executada sem a plataforma do Discord”. O artigo aponta como características que tornam a rede um bom local para a organização desses grupos o anonimato e o fato de que é necessário entrar nos servidores para ver o conteúdo, o que diminui a exposição dos temas abordados.

“Redes como o Discord têm sido utilizadas como plataforma para articulação de grupos neonazistas”, explicou o pesquisador Odilon Caldeira Neto, professor adjunto de História Contemporânea na Universidade Federal de Juiz de Fora e parte do Observatório da Extrema Direita (OEB). “Eles utilizam as redes não somente como meio de propaganda de seus ideais, mas também como meio de formação. Eu sempre insisto nisso: existe um percurso formativo do jovem neonazista, ele tem contato, ele dialoga, ele produz conteúdo, ele recebe conteúdo, ele traduz conteúdo e ele exporta conteúdo. Existe uma rede estruturada, uma rede onde esse indivíduo vai se encontrar e se formar”, disse em entrevista à reportagem.

Questionado sobre o tom de humor e ironia que a maior parte das postagens neonazistas e preconceituosas leva, o professor ressaltou que essa também é uma estratégia do grupo. “A dimensão formativa desses indivíduos não se dá exclusivamente nos conteúdos mais herméticos, ou seja, lendo Mein Kampf [livro escrito por Adolf Hitler]. Antes de chegar nesse conteúdo mais organizado, esses indivíduos passam por um processo onde esses conteúdos são naturalizados, então eles usam o humor e o que muitos desses canais chamam de shitposting”, explicou.

“A extrema-direita entendeu há muito tempo o poder dos memes como tática de propaganda, ela vem usando [o humor] como tática de propaganda há muito tempo”, acrescentou Thiago Tavares. Ele aponta que os conteúdos extremistas são ainda mais frequentes e intensos em grupos privados, cujos convites são direcionados a usuários específicos —  esses servidores não foram acessados pela reportagem. “O processo de radicalização inicialmente começa ali pelas vitrines abertas das redes sociais e vai afunilando pra espaços mais fechados”, explica. 

Discord não forneceu dados à Justiça brasileira em caso de racismo

Outro problema ressaltado pelo presidente da SaferNet é que o Discord não tem representação legal no Brasil, o que, na avaliação do especialista, “dificulta muito a cooperação e interlocução com a os times de segurança da empresa para que eles recebam as notificações e atuem”. 

As consequências da falta de representantes no Brasil podem ser vistas em um caso em específico: ao ser questionado pelo Núcleo de Combate aos Crimes Cibernéticos (NUCCIBER), do Ministério Público Federal, sobre um caso de racismo que teria ocorrido na plataforma, o Discord respondeu que “oferece seus serviços nos Estados Unidos da América” e que “os dados dos usuários são armazenados exclusivamente nos Estados Unidos”.

A denúncia se refere a um ataque supostamente articulado contra uma turma universitária, que teve seu grupo de WhatsApp travado e foi encaminhada ao Discord. Lá, mensagens de cunho racista foram enviadas por um perfil falso que se fazia passar por um dos alunos. A empresa não foi capaz de fornecer dados que possibilitassem a identificação do usuário verdadeiro.

“Elas operam sem nenhum tipo de interlocução, sem nenhum tipo de representação formal no país”, aponta Tavares. “Existem falhas na legislação, uma ausência de lei que obrigue plataformas com esse nível de relevância para o mercado brasileiro a terem presença nacional”, conclui.

Os brasileiros são o segundo maior público do Discord mundialmente, atrás apenas dos Estados Unidos. De acordo com análise feita na SEMRush, uma plataforma de marketing digital, em março deste ano a rede recebeu 2,9 milhões de acessos do Brasil, o que representa 7,3% do tráfego mundial da rede —  os Estados Unidos respondem por 23%. Os dados da SEMRush mostram ainda que a rede pontua uma nota alta (93 de 100) no ranking do Google, o que significa que o Discord é indicado para pessoas que fazem buscas.

source https://apublica.org/2023/04/discord-desobedece-as-proprias-regras-e-permite-conteudo-violento-e-extremista/