Não perca as notícias do setor de mídia social de amanhã

Entre as principais preocupações em torno da aquisição de Elon Musk no Twitter está o relaxamento percebido das regulamentações anteriores sobre discurso de ódio, desinformação e outros elementos preocupantes.

Musk, que apóia fortemente a permissão de todos os tipos de discurso, seja pessoalmente censurável ou não, supervisionou o restabelecimento de dezenas de milhares de contas que foram anteriormente banidas pelo gerenciamento do Twitter, ao mesmo tempo em que removeu restrições destinadas a conter a desinformação do COVID, cancelou etiquetas de aviso no conteúdo da mídia estatal chinesa e russa, enquanto também, ele mesmo, promove várias teorias da conspiração para seus 134 milhões de seguidores.

São mudanças como essas que supostamente viram muitos anunciantes do Twitter evitarem o aplicativo, devido a preocupações com a possível associação com discurso de ódio e material ofensivo - mas o discurso de ódio está realmente aumentando no Twitter 2.0, ou é, como Musk e sua equipe afirmam , realmente reduzindo devido a processos atualizados para detectar e limitar isso no aplicativo?

Este foi o ponto-chave da discórdia que saiu da entrevista de Musk com a BBC esta semana, que Musk transmitiu ao vivo via Twitter Spaces. No geral, a entrevista de quase duas horas não forneceu nenhum novo insight - Musk discutiu suas dispensas apressadas no aplicativo e a necessidade de cortar custos para salvar a empresa, Musk afirmou que seu cachorro agora é o CEO do Twitter, e disse que o Twitter poderia possivelmente empatar dentro de meses.

Mas o discurso de ódio e o impacto que teve sobre os anunciantes foi um claro ponto sensível, com Musk compartilhando essa troca para destacar o que ele percebe como preconceito da mídia em relação a esse elemento.

Claro, a experiência pessoal de um usuário não é indicativa do escopo do problema potencial, se houver – embora, como observado, Musk e sua equipe afirmem que o discurso de ódio está realmente diminuindo desde que ele assumiu o aplicativo.

Isso pode ser verdade? Novamente, após o restabelecimento de tantas contas banidas anteriormente, muitas das quais foram encerradas devido à violação das regras de discurso de ódio da plataforma, parece que esse elemento não pode ter diminuído. Então, como Musk and Co. apresenta essas estatísticas - e quais são os estudos referidos pela BBC em relação ao aumento do conteúdo odioso?

Em primeiro lugar, na pesquisa externa, que supostamente mostra que o discurso de ódio aumentou. Conforme referido na entrevista à BBC, o Institute for Strategic Dialogue (ISD) divulgou um estudo no mês passado que diz mostrar que o volume de tweets anti-semitas mais do que duplicou no período de três meses após a aquisição de Musk na aplicação.

Esse é um gráfico bem diferente daquele que o Twitter compartilhou – então, qual é a variação aqui e por que os dados do ISD mostram um aumento sustentado enquanto os próprios números do Twitter refletem uma queda?

De certa forma, você poderia dizer que o maior pico neste gráfico reflete o mesmo incidente apontado pelos dados do Twitter, que afirma ser um aumento nos ataques de bots projetados para desacreditar a liderança de Musk, amplificando calúnias no aplicativo.

De fato, de acordo com o relatório do ISD:

“Também identificamos um aumento na criação de novas contas postando discurso de ódio que se correlacionou com a aquisição de Musk. No total, 3.855 contas que postaram pelo menos um Tweet anti-semita foram criadas entre 27 de outubro e 6 de novembro. Isso representa mais do que o triplo da taxa de criação de contas potencialmente odiosas no período equivalente anterior à aquisição.

Isso provavelmente se alinha com a detecção de bots do Twitter, enquanto o ISD também observa que o Twitter agora está removendo mais conteúdo:

“A proporção de conteúdo anti-semita removido pelo Twitter parece ter aumentado no período desde a aquisição, com 12% dos tweets anti-semitas subsequentemente indisponíveis para coleta, em comparação com 6% antes da aquisição. No entanto, esse aumento potencial na taxa de remoção não acompanhou o aumento do conteúdo anti-semita geral, com o resultado de que o discurso de ódio continua mais acessível na plataforma do que antes da aquisição de Musk. ”

As descobertas do ISD também se correlacionam com dados semelhantes do The Center for Countering Digital Hate , que descobriu que calúnias contra pessoas negras e transexuais aumentaram significativamente logo após Musk assumir o controle do aplicativo, enquanto o engajamento no discurso de ódio também aumentou.

“O número médio de curtidas, respostas e retuítes em postagens com calúnias foi de 13,3 nas semanas que antecederam o Twitter 2.0 de Musk . Desde a aquisição, a média de engajamentos em conteúdo odioso saltou para 49,5, de acordo com o relatório. ”

Mas, novamente, essas descobertas estavam nos estágios iniciais da mudança, o que o Twitter admite. A questão então é se as coisas mudaram desde então – e como elas mudaram se o Twitter está trabalhando para reduzir as restrições à fala?

Os dados divulgados pelo Twitter fornecem algum contexto adicional. No mês passado, o Twitter publicou novas informações da Sprinklr que lançaram mais luz sobre seus esforços para conter o discurso de ódio e como está calculando seus números.

Conforme Twitter:

“Sprinklr define discurso de ódio avaliando calúnias no contexto diferenciado de seu uso. O Twitter tem, até agora, uma visão mais ampla da toxicidade potencial do uso de calúnias. Para quantificar o discurso de ódio, Twitter e Sprinklr começam com 300 das calúnias mais comuns em inglês. Contamos não apenas com que frequência eles são tuitados, mas também com que frequência são vistos (impressões). Nossos modelos pontuam Tweets de calúnia sobre 'toxicidade', a probabilidade de que constituam discurso de ódio.”

De acordo com essa metodologia, a maior parte do uso de calúnias via tweet não é, na verdade, discurso de ódio, com certos termos sendo usados ​​em certas comunidades de uma forma que requer mais nuances na avaliação do que simples dados de contagem. Os termos usados ​​na comunidade negra, por exemplo, podem não ser vistos como discurso de ódio, mas seriam considerados se você estivesse usando o rastreamento de palavras-chave.

O Twitter alega que seu processo de rastreamento leva em consideração essa consideração, onde outros não, e quando o uso de qualquer terminologia desse tipo é usado de maneira odiosa, o Twitter toma medidas para remover o tweet ou restringir seu alcance.

“A análise da Sprinklr descobriu que o discurso de ódio recebe 67% menos impressões por Tweet do que Tweets de calúnias não tóxicas. Nenhum modelo é perfeito, e este trabalho nunca é feito. Continuaremos a combater o discurso de ódio incorporando outras linguagens, novos termos e metodologias mais precisas – tudo isso enquanto aumentamos a transparência.”

Essencialmente, o Twitter diz que contar todas as menções de calúnias em potencial, de acordo com esses estudos externos, não é um meio eficaz de medir o impacto disso, porque não são as menções em si, mas o contexto em que são usadas e, posteriormente, o alcance que eles conseguem.

Sem que essas considerações sejam levadas em consideração em qualquer avaliação, não pode ser preciso - o que explicaria por que os dados do Twitter são tão diferentes das descobertas por meio de análises de terceiros.

Isso é correto? Bem, sem os dados comparativos completos diante de você, é difícil dizer, mas o processo de avaliação expandido faz sentido, o que pode significar que uma análise mais binária de tais termos é falha, pelo menos até certo ponto.

Ainda assim, o Twitter também está enfrentando bilhões em multas na Alemanha por não remover o discurso de ódio em tempo hábil, de acordo com os regulamentos locais, e será interessante ver exatamente quais exemplos específicos as autoridades alemãs fornecerão nesse caso.

Portanto, ainda há, aparentemente, algumas preocupações – mas o contexto expandido a que o Twitter se refere, junto com seus esforços crescentes para restringir o discurso de ódio, faz algum sentido.

Sem dúvida, obteremos mais dados sobre isso com o passar do tempo, mas o quadro geral apresenta uma imagem mais sutil do que algumas descobertas podem sugerir.