TikTok segnala un aumento del 62% dei profili falsi creati nell'app

TikTok ha pubblicato la sua ultima panoramica delle risposte all'applicazione delle linee guida della community, che delinea tutti i video e gli account che ha rimosso o in altro modo ha preso provvedimenti nel secondo trimestre di quest'anno.

E come si suol dire: 'Mo' Utenti, Mo' Problemi'.

Ok, non è un vero modo di dire, ma potrebbe anche esserlo, data la crescente quantità di azioni intraprese dal team di TikTok su tutta la linea.

Prima di tutto, sulle rimozioni di video: TikTok ha rimosso oltre 113 milioni di video clip tra aprile e giugno di quest'anno a causa di violazioni delle norme e altri problemi: un aumento dell'11% rispetto al trimestre precedente, anche se rimane praticamente in linea con la tendenza in corso.

Come puoi vedere in questo grafico, le rimozioni di video di TikTok sono aumentate costantemente nel tempo, il che ha senso, data la continua crescita dell'app. Ma indica anche il continuo uso improprio e il modo in cui la portata della sfida a questo riguardo continua a crescere, intenzionalmente o meno, man mano che le persone si rivolgono sempre più all'app.

Ma anche TikTok sta migliorando, in particolare in termini di rimozioni proattive e di sbarazzarsi del materiale violativo prima che qualcuno lo veda:

“La rimozione proattiva dei video è migliorata dall'83,6% nel primo trimestre all'89,1% nel secondo trimestre; la rimozione dei video a zero visualizzazioni è migliorata dal 60,8% nel 1° trimestre al 74,7% nel 2° trimestre; e le rimozioni di video in meno di 24 ore sono migliorate dal 71,9% all'83,9%. "

Quindi TikTok sta facendo di più per proteggere gli utenti dall'esposizione potenzialmente dannosa nell'app, anche se potrebbe ancora avere un modo per controllare specificamente la disinformazione.

Secondo un recente studio condotto da NewsGuard, fino a 1 risultato di ricerca su 5 nell'app contiene informazioni errate, comprese le ricerche da "elezioni del 2022" a "vaccino mRNA". Il che è un contrasto interessante ai dati di TikTok, il che suggerirebbe, isolatamente, che TikTok sta migliorando molto, molto meglio su questo fronte.

Sebbene, ovviamente, la disinformazione sia solo una delle preoccupazioni che possono vedere i contenuti rimossi nell'app, con TikTok che fornisce anche una panoramica dei motivi più comuni per la rimozione dei contenuti per le violazioni delle regole.

Presumo che la disinformazione rientri nella categoria "Integrità e autenticità", che costituisce solo una frazione della sua azione esecutiva totale, con "Sicurezza minore", "Attività illegale" e "Nudità" che sono le principali cause di rimozione.

La sicurezza minore è una preoccupazione fondamentale per l'app, soprattutto data la sua base di utenti più giovani, e la preoccupazione che TikTok incentivi contenuti più audaci , in particolare dalle ragazze, come parte della sua esca per far scorrere le persone attraverso il loro feed "For You".

Scavando più a fondo in questo elemento in particolare, puoi vedere che, all'interno di Minor Safety, "Nudità e attività sessuale che coinvolgono minori" è di gran lunga il motivo principale per la rimozione.

Questa, ancora, rimane un'area di interesse cruciale per TikTok e, chiaramente, sulla base di questi numeri, sta lavorando per affrontare questo elemento. Ma d'altra parte, rimane anche una grande preoccupazione che gli utenti stiano cercando di pubblicare questo tipo di materiale nell'app, il che, in qualche modo, rafforza anche l'argomento secondo cui gli algoritmi di TikTok incentivano tale attività.

In termini di rimozioni di account, gli account falsi rimangono il maggior contributore, con oltre 33 milioni di profili falsi rimossi nel periodo, con un aumento del 62% rispetto al trimestre precedente.

Ancora una volta, ciò ha senso in relazione alla crescita dell'utilizzo di TikTok. Man mano che più persone si iscrivono, verranno creati anche più profili falsi, per aumentare i numeri delle persone, amplificare tendenze discutibili o "impegnarsi" in altre attività illecite.

E sicuramente, le piattaforme sociali ora sono viste come canali chiave per amplificare i movimenti e influenzare l'opinione politica, con Meta che ha riferito proprio ieri che continua a rilevare sforzi di manipolazione su larga scala sostenuti dallo stato che prendono di mira persone in varie regioni.

Il fatto che vengano creati così tanti account TikTok falsi - o almeno si sia tentato di crearli - indica anche il valore crescente del settore degli influencer e come è probabile che il mercato dei follower falsi nell'app sia in aumento. Domanda e offerta vedranno questa tendenza continuare al rialzo, motivo per cui TikTok deve rimanere vigile su questo aspetto, altrimenti i suoi influencer rischiano di perdere credibilità e valore per i marchi.

Che sta anche sviluppando. Oltre a queste note sui dati, TikTok afferma che sta evolvendo continuamente i suoi sistemi e continua a investire nella segnalazione basata sulla tecnologia, su vari fronti, nonché nella moderazione e nella verifica dei fatti.

“Abbiamo più di una dozzina di partner di verifica dei fatti in tutto il mondo che esaminano i contenuti in oltre 30 lingue. Tutti i nostri partner di verifica dei fatti sono accreditati dall'International Fact-Checking Network come firmatari verificati del codice di principi dell'International Fact-Checking Network .

TikTok afferma anche di aver implementato un nuovo programma proattivo di verifica dei fatti, che consente ai verificatori di fatti di segnalare affermazioni nuove e in evoluzione che stanno vedendo su Internet.

“Questo ci consente di cercare queste affermazioni sulla nostra piattaforma e rimuovere le violazioni. Dall'avvio di questo programma lo scorso trimestre, abbiamo identificato 33 nuove denunce di disinformazione, che hanno portato alla rimozione di 58.000 video dalla piattaforma ".

TikTok ha anche recentemente ampliato la sua opzione di downvoting per i commenti, che non è progettata per segnalare come potrebbero sentirsi gli utenti riguardo a quel commento, in quanto tale, ma più per segnalare potenzialmente risposte relative al team di moderazione di TikTok.

Nel complesso, i dati mostrano che TikTok sta evolvendo i suoi sistemi, in linea con la sua crescita più ampia, ma i numeri sottolineano anche l'importanza di mantenere la pressione su questi elementi e garantire che rimanga al passo con le ultime tecniche e approcci che i truffatori stanno usando per imbrogliare i suoi sistemi.

Oltre a questi, ci sono anche altre preoccupazioni relative all'amplificazione algoritmica nell'app e al modo in cui TikTok è o non è influenzato dal governo cinese. Questi problemi rimangono un focus più ampio per gli esperti di sicurezza informatica e politica estera e potrebbero ancora diventare un problema molto più grande per la piattaforma, ma in termini di evidenti violazioni e usi impropri, in relazione alle Linee guida della community di TikTok, è chiaro che la piattaforma ha ancora il suo lavoro ritagliarsi per tenersi al passo con le minacce emergenti.

Puoi leggere il rapporto completo sull'applicazione delle linee guida della community di TikTok per il secondo trimestre qui.