Verpassen Sie nicht die Neuigkeiten aus der Social-Media-Branche von morgen

Zu den wichtigsten Bedenken im Zusammenhang mit der Übernahme von Elon Musk bei Twitter gehörte die wahrgenommene Lockerung früherer Vorschriften in Bezug auf Hassreden, Fehlinformationen und andere besorgniserregende Elemente.

Musk, der sich nachdrücklich dafür einsetzt, alle Arten von Reden zuzulassen, unabhängig davon, ob sie persönlich anstößig sind oder nicht, hat die Wiederherstellung von Zehntausenden von Konten überwacht, die zuvor vom Twitter-Management gesperrt wurden, während er auch Beschränkungen zur Eindämmung von COVID-Fehlinformationen aufgehoben und Warnhinweise entfernt hat über chinesische und russische staatliche Medieninhalte, während er selbst seinen 134 Millionen Anhängern verschiedene Verschwörungstheorien vorstellt.

Es sind Änderungen wie diese, die Berichten zufolge dazu geführt haben, dass viele Twitter-Werbetreibende die App aufgrund von Bedenken hinsichtlich einer möglichen Verbindung mit Hassreden und anstößigem Material gemieden haben – aber hat Hassrede tatsächlich auf Twitter 2.0 zugenommen, oder ist es das, wie Musk und sein Team behaupten , tatsächlich reduziert durch aktualisierte Prozesse zur Erkennung und Begrenzung solcher in der App?

Dies war der entscheidende Streitpunkt aus Musks Interview mit der BBC in dieser Woche, das Musk live über Twitter Spaces ausstrahlte. Insgesamt lieferte das fast zweistündige Interview keine neuen Erkenntnisse – Musk sprach über seine übereilten Entlassungen bei der App und die Notwendigkeit, die Kosten zu senken, um das Unternehmen zu retten, Musk behauptete, sein Hund sei jetzt der CEO von Twitter, und sagte, dass Twitter möglicherweise innerhalb von Monaten die Gewinnschwelle erreichen könnte.

Aber Hassreden und die Auswirkungen, die sie auf Werbetreibende hatte, waren ein klarer wunder Punkt, da Musk diesen Austausch teilte, um hervorzuheben, was er als Voreingenommenheit der Medien in Bezug auf dieses Element wahrnimmt.

Natürlich ist die persönliche Erfahrung eines Benutzers kein Hinweis auf das Ausmaß des potenziellen Problems, falls es eines gibt – obwohl Musk und sein Team, wie bereits erwähnt, behaupten, dass Hassreden seit seiner Übernahme der App weit zurückgegangen sind.

Könnte das wahr sein? Auch hier scheint es nach der Wiederherstellung so vieler zuvor gesperrter Konten, von denen viele wegen Verstoßes gegen die Hassredenregeln der Plattform geschlossen wurden, dass dieses Element nicht reduziert werden konnte. Wie kommen Musk und Co. dann auf diese Statistiken – und auf welche Studien bezieht sich die BBC in Bezug auf die Zunahme hasserfüllter Inhalte?

Zunächst zu den externen Untersuchungen, die Berichten zufolge zeigen, dass Hassreden zugenommen haben. Wie im BBC-Interview erwähnt, veröffentlichte das Institute for Strategic Dialogue (ISD) letzten Monat eine Studie, die zeigt, dass sich das Volumen antisemitischer Tweets in den drei Monaten nach Musks Übernahme der App mehr als verdoppelt hat.

Das ist ein ganz anderes Diagramm als das, das Twitter geteilt hat – was ist also diese Varianz hier, und warum zeigen die Daten von ISD einen anhaltenden Anstieg, während Twitters eigene Zahlen einen Rückgang widerspiegeln?

In gewisser Weise könnte man sagen, dass der größte Anstieg in diesem Diagramm denselben Vorfall widerspiegelt, auf den die Daten von Twitter hinweisen, von dem behauptet wird, dass es sich um eine Zunahme von Bot-Angriffen handelt, die darauf abzielen, Musks Führung zu diskreditieren, indem die Beleidigungen in der App verstärkt werden.

Laut ISD-Bericht:

„Wir haben auch einen Anstieg bei der Erstellung neuer Konten festgestellt, in denen Hassreden gepostet wurden, die mit der Übernahme von Musk korrelierten. Insgesamt wurden zwischen dem 27. Oktober und dem 6. November 3.855 Konten erstellt, die mindestens einen antisemitischen Tweet gepostet haben. Dies entspricht mehr als dem Dreifachen der Rate potenziell hasserfüllter Kontenerstellung im entsprechenden Zeitraum vor der Übernahme.“

Das stimmt wahrscheinlich mit der Erkennung von Bots durch Twitter überein, während ISD auch feststellt, dass Twitter jetzt mehr Inhalte entfernt:

„Der Anteil der von Twitter entfernten antisemitischen Inhalte scheint in der Zeit seit der Übernahme gestiegen zu sein, wobei 12 % der antisemitischen Tweets anschließend nicht mehr zum Sammeln verfügbar waren, verglichen mit 6 % vor der Übernahme. Dieser potenzielle Anstieg der Entfernungsrate hat jedoch nicht mit dem Anstieg der antisemitischen Inhalte insgesamt Schritt gehalten, mit dem Ergebnis, dass Hassreden auf der Plattform nach wie vor zugänglicher sind als vor der Übernahme durch Musk. ”

Die Ergebnisse von ISD korrelieren auch mit ähnlichen Daten des Center for Countering Digital Hate , das feststellte, dass die Beleidigungen gegen Schwarze und Transgender-Personen kurz nach der Übernahme der App durch Musk deutlich zunahmen, während das Engagement für Hassreden ebenfalls zunahm.

„Die durchschnittliche Anzahl an Likes, Antworten und Retweets auf Posts mit Beleidigungen betrug in den Wochen vor Musks Twitter 2.0 13,3 . Seit der Übernahme ist die durchschnittliche Interaktion mit hasserfüllten Inhalten laut Bericht auf 49,5 gestiegen. ”

Aber auch hier befanden sich diese Erkenntnisse in den frühen Stadien der Verschiebung, was Twitter zugibt. Die Frage ist also, ob sich die Dinge seitdem geändert haben – und wie haben sie sich geändert, wenn Twitter daran arbeitet, die Sprachbeschränkungen zu verringern?

Von Twitter veröffentlichte Daten bieten zusätzlichen Kontext. Letzten Monat veröffentlichte Twitter neue Erkenntnisse von Sprinklr, die mehr Aufschluss über seine Bemühungen zur Eindämmung von Hassreden und die Berechnung seiner Zahlen geben.

Laut Twitter:

„Sprinklr definiert Hassreden, indem es Beleidigungen im nuancierten Kontext ihrer Verwendung bewertet. Twitter hat bis zu diesem Punkt eine breitere Sicht auf die potenzielle Toxizität der Verwendung von Beleidigungen eingenommen. Um Hassreden zu quantifizieren, beginnen Twitter und Sprinklr mit 300 der häufigsten englischsprachigen Beleidigungen. Wir zählen nicht nur, wie oft sie getwittert werden, sondern auch, wie oft sie gesehen werden (Impressionen). Unsere Modelle bewerten beleidigende Tweets nach „Toxizität“, der Wahrscheinlichkeit, dass sie Hassreden darstellen.“

Gemäß dieser Methodik handelt es sich bei den meisten Beleidigungen über Tweets eigentlich nicht um Hassreden, da bestimmte Begriffe in bestimmten Gemeinschaften auf eine Weise verwendet werden, die eine differenziertere Bewertung erfordert als einfache Zähldaten. Begriffe, die beispielsweise in der Schwarzen Community verwendet werden, können insgesamt nicht als Hassreden angesehen werden, würden jedoch als solche angesehen, wenn Sie Keyword-Tracking verwenden würden.

Twitter behauptet, dass sein Tracking-Prozess diese Überlegung berücksichtigt, wo andere dies nicht tun, und wenn die Verwendung einer solchen Terminologie auf hasserfüllte Weise verwendet wird, ergreift Twitter Maßnahmen, um den Tweet entweder zu entfernen oder seine Reichweite einzuschränken.

„Die Analyse von Sprinklr ergab, dass Hassreden 67 % weniger Impressionen pro Tweet erhalten als ungiftige Beleidigungs-Tweets. Kein Modell ist jemals perfekt, und diese Arbeit ist nie getan. Wir werden Hassreden weiter bekämpfen, indem wir andere Sprachen, neue Begriffe und präzisere Methoden integrieren – und gleichzeitig die Transparenz erhöhen.“

Im Wesentlichen sagt Twitter, dass das Zählen aller Erwähnungen potenzieller Beleidigungen gemäß diesen externen Studien kein wirksames Mittel ist, um die Auswirkungen solcher zu messen, da es nicht um die Erwähnungen selbst geht, sondern um den Kontext, in dem sie verwendet werden, und folglich, die Reichweite, die sie bekommen.

Ohne diese Überlegungen, die in eine Bewertung einfließen, kann es nicht genau sein – was erklären würde, warum sich die Daten von Twitter so stark von den Ergebnissen der Analyse durch Dritte unterscheiden.

Ist das korrekt? Nun, ohne die vollständigen Vergleichsdaten vor Ihnen ist es schwer zu sagen, aber der erweiterte Bewertungsprozess ist sinnvoll, was bedeuten könnte, dass eine stärkere binäre Analyse solcher Begriffe zumindest bis zu einem gewissen Grad fehlerhaft ist.

Dennoch drohen Twitter auch in Deutschland Bußgelder in Milliardenhöhe, weil es versäumt hat, Hassreden rechtzeitig gemäß den örtlichen Vorschriften zu entfernen, und es wird interessant sein, genau zu sehen, welche konkreten Beispiele die deutschen Behörden in diesem Fall liefern.

Es gibt also anscheinend immer noch einige Bedenken – aber der erweiterte Kontext, auf den sich Twitter bezieht, zusammen mit seinen verstärkten Bemühungen, Hassreden einzuschränken, macht durchaus Sinn.

Wir werden zweifellos im Laufe der Zeit mehr Daten dazu erhalten, aber das Gesamtbild zeigt ein differenzierteres Bild davon, als manche Ergebnisse vermuten lassen.