TikTok relata um salto de 62% nos perfis falsos sendo criados no aplicativo

O TikTok publicou sua mais recente visão geral das respostas da aplicação das diretrizes da comunidade, que descreve todos os vídeos e contas que removeu ou agiu de outra forma no segundo trimestre deste ano.

E como diz o ditado – 'Mo' Usuários, Mo' Problemas'.

Ok, isso não é um ditado real, mas também pode ser, dada a quantidade crescente de ações tomadas pela equipe do TikTok em geral.

Primeiro, nas remoções de vídeo – o TikTok derrubou mais de 113 milhões de videoclipes entre abril e junho deste ano devido a violações de políticas e outros problemas – um aumento de 11% em relação ao trimestre anterior, embora permaneça bastante alinhado com a tendência atual.

Como você pode ver neste gráfico, as remoções de vídeo do TikTok aumentaram constantemente ao longo do tempo – o que faz sentido, dado o crescimento contínuo do aplicativo. Mas também aponta para o uso indevido contínuo e como o escopo do desafio a esse respeito continua a aumentar, intencionalmente ou não, à medida que as pessoas recorrem cada vez mais ao aplicativo.

Mas o TikTok também está melhorando, especificamente em termos de remoções proativas e se livrando de material violador antes que alguém o veja:

“A remoção proativa de vídeos melhorou de 83,6% no primeiro trimestre para 89,1% no segundo trimestre; a remoção de vídeos com zero visualizações melhorou de 60,8% no primeiro trimestre para 74,7% no segundo trimestre; e as remoções de vídeo em menos de 24 horas melhoraram de 71,9% para 83,9%. ”

Portanto, o TikTok está fazendo mais para proteger os usuários da exposição potencialmente prejudicial no aplicativo, embora ainda tenha um caminho a percorrer no policiamento de informações erradas especificamente.

De acordo com um estudo recente realizado pela NewsGuard, até 1 em cada 5 resultados de pesquisa no aplicativo contém informações erradas, incluindo pesquisas de 'eleição de 2022' para 'vacina mRNA'. O que é um contador interessante para os próprios dados do TikTok, o que sugere, isoladamente, que o TikTok está ficando muito, muito melhor nessa frente.

Embora, é claro, a desinformação seja apenas uma das preocupações que podem ver o conteúdo removido no aplicativo, com o TikTok também fornecendo uma visão geral dos motivos mais comuns para a remoção de conteúdo por violações de regras.

Eu diria que a desinformação se enquadra em 'Integridade e Autenticidade', que compõe apenas uma fração de sua ação total de execução, com 'Segurança Menor', 'Atividade ilegal' e 'Nudez' sendo as principais causas de remoção.

A segurança menor é uma preocupação crítica para o aplicativo, especialmente considerando sua base de usuários mais jovens, e a preocupação de que o TikTok incentive conteúdo mais arriscado , especialmente de meninas, como parte de sua atração para manter as pessoas rolando pelo feed 'Para você'.

Aprofundando-se neste elemento especificamente, você pode ver que, dentro da Segurança de Menores, 'Nudez e Atividade Sexual Envolvendo Menores' é de longe o maior motivo para remoção.

Isso, novamente, continua sendo uma área de foco crucial para o TikTok e, claramente, com base nesses números, está trabalhando para resolver esse elemento. Mas por outro lado, também continua sendo uma grande preocupação que os usuários estejam procurando postar esse tipo de material no aplicativo, o que também, de certa forma, reforça o argumento de que os algoritmos do TikTok incentivam essa atividade.

Em termos de remoções de contas, as contas falsas continuam sendo o maior contribuinte, com mais de 33 milhões de perfis falsos removidos no período, um aumento de 62% em relação ao trimestre anterior.

Novamente, isso faz sentido em relação ao crescimento do uso do TikTok. À medida que mais pessoas se inscrevem, mais perfis falsos também serão criados, seja para aumentar os números das pessoas, amplificar tendências questionáveis ​​ou 'se envolver' em outras atividades ilícitas.

E definitivamente, as plataformas sociais agora são vistas como canais-chave para amplificar movimentos e influenciar a opinião política, com o Meta relatando ontem que continua a detectar esforços de manipulação em grande escala apoiados pelo Estado visando pessoas em várias regiões.

O fato de tantas contas falsas do TikTok estarem sendo criadas – ou pelo menos terem sido tentadas – também aponta para o valor crescente da indústria de influenciadores e como o mercado de seguidores falsos no aplicativo provavelmente está em ascensão. A oferta e a demanda verão essa tendência continuar em alta, e é por isso que o TikTok precisa permanecer vigilante nesse aspecto – ou seus influenciadores correm o risco de perder credibilidade e valor para as marcas.

Que também está desenvolvendo. Além dessas notas de dados, o TikTok diz que está evoluindo continuamente seus sistemas e continua investindo em sinalização baseada em tecnologia, em várias frentes, bem como moderação e verificação de fatos.

“Temos mais de uma dúzia de parceiros de verificação de fatos em todo o mundo que analisam conteúdo em mais de 30 idiomas. Todos os nossos parceiros de verificação de fatos são credenciados pela International Fact-Checking Network como signatários verificados do código de princípios da International Fact-Checking Network .”

O TikTok também diz que implementou um novo programa proativo de verificação de fatos, que capacita os verificadores de fatos a sinalizar reivindicações novas e em evolução que estão vendo na Internet.

“Isso nos permite procurar essas reivindicações em nossa plataforma e remover violações. Desde o início deste programa no último trimestre, identificamos 33 novas alegações de desinformação, resultando na remoção de 58.000 vídeos da plataforma .”

O TikTok também expandiu recentemente sua opção de downvoting para comentários, que não foi projetada para sinalizar como os usuários podem se sentir sobre esse comentário, mas mais para sinalizar potencialmente as respostas à equipe de moderação do TikTok.

No geral, os dados mostram que o TikTok está evoluindo seus sistemas, de acordo com seu crescimento mais amplo, mas os números também ressaltam a importância de manter a pressão sobre esses elementos e garantir que ele permaneça atualizado com as técnicas e abordagens mais recentes que os golpistas estão usando para enganar seus sistemas.

Além disso, também existem outras preocupações relacionadas à amplificação algorítmica no aplicativo e como o TikTok é ou não influenciado pelo governo chinês. Esses problemas continuam sendo um foco mais amplo para especialistas em segurança cibernética e política externa e ainda podem se tornar um problema muito maior para a plataforma - mas em termos de violações claras e uso indevido, em relação às Diretrizes da comunidade do TikTok, fica claro que a plataforma ainda tem seu trabalho cortado para se manter à frente das ameaças emergentes.

Você pode ler o relatório completo de aplicação das diretrizes da comunidade do TikTok para o segundo trimestre aqui.