TikTok meldet einen Anstieg von 62 % bei der Erstellung gefälschter Profile in der App

TikTok hat seine neueste Übersicht über die Antworten auf die Durchsetzung von Community-Richtlinien veröffentlicht, in der alle Videos und Konten aufgeführt sind, die im zweiten Quartal dieses Jahres entweder entfernt oder anderweitig bearbeitet wurden.

Und wie heißt es so schön: „Mo' Users, Mo' Problems“.

Okay, das ist kein richtiger Spruch, aber angesichts der zunehmenden Maßnahmen, die das TikTok-Team auf ganzer Linie ergreift, könnte es genauso gut sein.

Zunächst einmal zur Entfernung von Videos – TikTok hat zwischen April und Juni dieses Jahres aufgrund von Richtlinienverstößen und anderen Problemen über 113 Millionen Videoclips entfernt – eine Steigerung von 11 % gegenüber dem Vorquartal, obwohl dies ziemlich dem anhaltenden Trend entspricht.

Wie Sie in diesem Diagramm sehen können, haben die Videoentfernungen von TikTok im Laufe der Zeit stetig zugenommen – was angesichts des anhaltenden Wachstums der App sinnvoll ist. Es weist aber auch auf anhaltenden Missbrauch hin und wie der Umfang der Herausforderungen in dieser Hinsicht, absichtlich oder nicht, weiter zunimmt, da sich die Menschen zunehmend der App zuwenden.

Aber auch TikTok verbessert sich, insbesondere in Bezug auf proaktive Entfernungen und die Entfernung von verletzendem Material, bevor es jemand sieht:

„Das proaktive Entfernen von Videos verbesserte sich von 83,6 % im ersten Quartal auf 89,1 % im zweiten Quartal; Entfernung von Videos bei null Aufrufen verbesserte sich von 60,8 % im ersten Quartal auf 74,7 % im zweiten Quartal; und Videoentfernungen in weniger als 24 Stunden von 71,9 % auf 83,9 % verbessert. ”

TikTok tut also mehr, um Benutzer vor potenziell schädlicher Exposition in der App zu schützen, obwohl es möglicherweise noch einen weiten Weg vor sich hat, um Fehlinformationen gezielt zu überwachen.

Laut einer kürzlich von NewsGuard durchgeführten Studie enthält bis zu 1 von 5 Suchergebnissen in der App Fehlinformationen, einschließlich Suchen nach „Wahl 2022“ zu „mRNA-Impfstoff“. Das ist ein interessanter Gegenpol zu TikToks eigenen Daten, die isoliert darauf hindeuten würden, dass TikTok an dieser Front viel, viel besser wird.

Obwohl Fehlinformationen natürlich nur eines der Bedenken sind, die dazu führen können, dass Inhalte in der App entfernt werden, bietet TikTok auch einen Überblick über die häufigsten Gründe für das Entfernen von Inhalten aufgrund von Regelverstößen.

Ich würde davon ausgehen, dass Fehlinformationen unter „Integrität und Authentizität“ fallen, was nur einen Bruchteil der gesamten Durchsetzungsmaßnahmen ausmacht, wobei „Minor Safety“, „Illegal Activity“ und „Nacktheit“ die häufigsten Gründe für die Entfernung sind.

Geringe Sicherheit ist ein kritisches Anliegen für die App, insbesondere angesichts ihrer jüngeren Nutzerbasis, und der Sorge, dass TikTok Anreize für riskantere Inhalte bietet, insbesondere von jungen Mädchen, als Teil seiner Verlockung, die Leute dazu zu bringen, durch ihren „Für dich“-Feed zu scrollen.

Wenn Sie sich genauer mit diesem Element befassen, können Sie sehen, dass „Nacktheit und sexuelle Aktivitäten mit Minderjährigen“ bei Minderjähriger bei weitem der häufigste Grund für die Entfernung sind.

Dies bleibt wiederum ein entscheidender Schwerpunktbereich für TikTok, und basierend auf diesen Zahlen arbeitet TikTok eindeutig daran, dieses Element anzugehen. Aber auf der anderen Seite bleibt es auch ein großes Problem, dass Benutzer diese Art von Material überhaupt in der App veröffentlichen möchten, was in gewisser Weise auch das Argument verstärkt, dass die Algorithmen von TikTok solche Aktivitäten anregen.

In Bezug auf die Entfernung von Konten bleiben gefälschte Konten der größte Beitrag, mit über 33 Millionen entfernten gefälschten Profilen in diesem Zeitraum, eine Steigerung von 62 % gegenüber dem Vorquartal.

Auch das macht im Hinblick auf das Nutzungswachstum von TikTok Sinn. Je mehr Leute sich anmelden, desto mehr gefälschte Profile werden erstellt, entweder um die Nummern der Leute zu knacken, fragwürdige Trends zu verstärken oder sich an anderen illegalen Aktivitäten zu „beteiligen“.

Und definitiv werden soziale Plattformen jetzt als wichtige Kanäle zur Verstärkung von Bewegungen und zur Beeinflussung der politischen Meinung angesehen, wobei Meta erst gestern berichtete, dass es weiterhin groß angelegte, staatlich unterstützte Manipulationsbemühungen aufdeckt, die auf Menschen in verschiedenen Regionen abzielen.

Die Tatsache, dass so viele gefälschte TikTok-Konten erstellt werden – oder zumindest versucht wurden, erstellt zu werden – weist auch auf den wachsenden Wert der Influencer-Branche hin und wie der Markt für gefälschte Follower in der App wahrscheinlich wächst. Dieser Trend wird sich aufgrund von Angebot und Nachfrage fortsetzen, weshalb TikTok bei diesem Aspekt wachsam bleiben muss – oder seine Influencer riskieren, an Glaubwürdigkeit und Wert für Marken zu verlieren.

Was es auch entwickelt. Zusätzlich zu diesen Datennotizen sagt TikTok, dass es seine Systeme kontinuierlich weiterentwickelt und weiterhin in technologiebasierte Kennzeichnung an verschiedenen Fronten sowie in Moderation und Faktenprüfung investiert.

„Wir haben mehr als ein Dutzend Faktenprüfungspartner auf der ganzen Welt, die Inhalte in über 30 Sprachen überprüfen. Alle unsere Fact-Checking-Partner sind vom International Fact-Checking Network als verifizierte Unterzeichner des Grundsatzkodex des International Fact-Checking Network akkreditiert .“

TikTok sagt auch, dass es ein neues, proaktives Faktenprüfprogramm implementiert hat, das es den Faktenprüfern ermöglicht , neue und sich entwickelnde Behauptungen zu kennzeichnen, die sie im Internet sehen.

„Auf diese Weise können wir auf unserer Plattform nach diesen Behauptungen suchen und Verstöße beseitigen. Seit dem Start dieses Programms im letzten Quartal haben wir 33 neue Behauptungen über Fehlinformationen identifiziert, was zur Entfernung von 58.000 Videos von der Plattform führte .“

TikTok hat kürzlich auch seine Downvoting-Option für Kommentare erweitert, die nicht darauf abzielt, zu signalisieren, wie Benutzer über diesen Kommentar als solchen denken, sondern eher darauf, potenziell besorgniserregende Antworten an das Moderationsteam von TikTok zu kennzeichnen.

Insgesamt zeigen die Daten, dass TikTok seine Systeme im Einklang mit seinem breiteren Wachstum weiterentwickelt, aber die Zahlen unterstreichen auch, wie wichtig es ist, den Druck auf diese Elemente aufrechtzuerhalten und sicherzustellen, dass es mit den neuesten Techniken und Ansätzen von Betrügern auf dem Laufenden bleibt verwenden, um seine Systeme zu betrügen.

Abgesehen davon gibt es auch andere Bedenken im Zusammenhang mit der algorithmischen Verstärkung in der App und wie TikTok von der chinesischen Regierung beeinflusst wird oder nicht. Diese Probleme bleiben ein breiterer Fokus für Cybersicherheits- und Außenpolitikexperten und könnten immer noch ein viel größeres Problem für die Plattform werden – aber in Bezug auf eindeutige Verstöße und Missbrauch in Bezug auf die Community-Richtlinien von TikTok ist klar, dass die Plattform noch ihre Arbeit hat darauf ausgelegt, aufkommenden Bedrohungen einen Schritt voraus zu sein.

Hier können Sie den vollständigen Bericht zur Durchsetzung der Community-Richtlinien von TikTok für Q2 lesen.