Twitter sieht sich Boykott von Werbetreibenden gegenüber, weil es versäumt hat, Material über Kindesmissbrauch zu überwachen

Twitters nicht gutes, sehr schlechtes Jahr geht weiter, wobei das Unternehmen diese Woche gezwungen war, einige Werbetreibende darüber zu informieren, dass ihre Anzeigen in der App neben Tweets angezeigt wurden, die zu Kinderpornografie und anderem Missbrauchsmaterial auffordern.

Wie von Reuters berichtet:

„ Marken wie Walt Disney, NBCUniversal und Coca-Cola bis hin zu einem Kinderkrankenhaus gehörten zu den etwa 30 Werbetreibenden, die auf den Profilseiten von Twitter-Konten erschienen sind, die Links zu dem ausbeuterischen Material anbieten.“

Die Entdeckung wurde von der Cybersicherheitsgruppe Ghost Data gemacht, die mit Reuters zusammenarbeitete, um die Bedenken hinsichtlich der Anzeigenplatzierung aufzudecken, was den laufenden Geschäftsaussichten der App einen weiteren schweren Schlag versetzte.

Bereits in einem Zustand der Verwirrung inmitten der andauernden Übernahmesaga von Elon Musk und nach den jüngsten Enthüllungen seines ehemaligen Sicherheitschefs, dass es bei der Datensicherheit und anderen Maßnahmen nachlässig ist, sieht sich Twitter nun auch mit einem Exodus von Werbetreibenden konfrontiert, mit großen Marken wie Dyson, Mazda und Ecolab Aussetzung ihrer Twitter-Kampagnen als Reaktion darauf.

Was wirklich das am wenigsten Besorgniserregende an der Entdeckung ist, da der Ghost Data-Bericht auch mehr als 500 Konten identifiziert, die über einen Zeitraum von 20 Tagen offen Material über sexuellen Missbrauch von Kindern geteilt oder angefordert haben.

Ghost Data sagt, dass Twitter es nicht geschafft hat, mehr als 70 % der Konten während der Zeit der Studie zu entfernen.

Die Ergebnisse werfen weitere Fragen über die Unfähigkeit oder Bereitschaft von Twitter auf, sich mit potenziell schädlichem Material zu befassen, wobei The Verge Ende letzten Monats berichtete, dass Twitter „sexuelle Ausbeutung von Kindern und nicht einvernehmliche Nacktheit in großem Umfang nicht genau erkennen kann“.

Diese Feststellung ergab sich aus einer Untersuchung des von Twitter vorgeschlagenen Plans, Erstellern von Inhalten für Erwachsene die Möglichkeit zu geben, bezahlte Abonnements im OnlyFans-Stil in der App zu verkaufen.

Anstatt daran zu arbeiten, die Fülle an pornografischem Material auf der Plattform anzugehen, erwog Twitter stattdessen, sich darauf einzulassen – was zweifellos den Risikofaktor für Werbetreibende erhöhen würde, die nicht möchten, dass ihre Werbeaktionen neben potenziell anstößigen Tweets erscheinen.

Was wahrscheinlich in noch größerem Umfang geschieht, als dieser neue Bericht vermuten lässt, denn Twitters eigene interne Untersuchung seines OnlyFans-ähnlichen Vorschlags ergab Folgendes:

„ Twitter konnte erwachsenen Erstellern nicht erlauben, Abonnements zu verkaufen, weil das Unternehmen schädliche sexuelle Inhalte auf der Plattform nicht effektiv überwachte – und immer noch nicht tut.“

Mit anderen Worten, Twitter konnte es nicht riskieren, die Monetarisierung von ausbeuterischem Material in der App zu erleichtern, und da es keine Möglichkeit hat, dagegen vorzugehen, musste es den Vorschlag verwerfen, bevor er wirklich an Fahrt gewann.

In Anbetracht dessen sind diese neuen Erkenntnisse keine Überraschung – aber auch hier dürfte die Gegenreaktion der Werbetreibenden erheblich sein, was Twitter dazu zwingen könnte, so oder so ein neues Durchgreifen zu starten.

Twitter seinerseits sagt, dass es mehr Ressourcen für die Kindersicherheit investiert, „einschließlich der Einstellung neuer Stellen, um Richtlinien zu schreiben und Lösungen umzusetzen“.

Toll, Twitter ergreift jetzt Maßnahmen. Aber diese Berichte, die auf der Untersuchung der eigenen Untersuchungen von Twitter basieren, zeigen, dass Twitter sich dieses potenziellen Problems seit einiger Zeit bewusst ist – nicht speziell die Ausbeutung von Kindern, sondern die Sorge um Inhalte für Erwachsene, dass es keine Möglichkeit hat, sie zu überwachen.

Tatsächlich hilft Twitter offen bei der Förderung von Inhalten für Erwachsene, wenn auch unbeabsichtigt. Zum Beispiel empfiehlt Twitter im Abschnitt „Für dich“ meiner Registerkarte „Erkunden“ (dh der Startseite von „Erkunden“ in der App) kontinuierlich, dass ich „Facebook“ als Thema folge, basierend auf meinen Tweets und den Personen, denen ich folge in der App.

Hier sind die Tweets, die gestern als einige der topaktuellen Tweets für ‚Facebook‘ hervorgehoben wurden:

Es ist kein pornografisches Material als solches, aber ich tippe darauf, dass ich es ziemlich schnell finden werde, wenn ich eines dieser Profile durchklicke. Und wiederum werden diese Tweets basierend auf dem Twitter-eigenen Algorithmus für aktuelle Tweets hervorgehoben, der auf der Interaktion mit Tweets basiert, in denen der Themenbegriff erwähnt wird. Diese völlig bezugslosen und nicht zum Thema gehörenden Tweets werden dann von Twitter selbst an Benutzer weitergeleitet, die kein Interesse an nicht jugendfreien Inhalten bekundet haben.

Basierend auf allen verfügbaren Beweisen ist klar, dass Twitter ein Pornoproblem hat und wenig tut, um es anzugehen.

Verteiler von Inhalten für Erwachsene betrachten Twitter als das beste soziale Netzwerk für Werbung, da es weniger restriktiv ist als Facebook und eine viel größere Reichweite als Nischenseiten für Erwachsene hat, während Twitter die Nutzungs- und Engagementvorteile des Hostings von Material erhält, die andere soziale Plattformen einfach nicht zulassen würden .

Das ist wahrscheinlich der Grund, warum es so lange bereit war, die Augen davor zu verschließen, bis zu dem Punkt, dass es jetzt als ein viel größeres Problem hervorgehoben wird.

Es ist jedoch wichtig zu beachten, dass nicht jugendfreie Inhalte an sich nicht problematisch sind, zumindest nicht unter einwilligenden erwachsenen Nutzern. Es ist die Herangehensweise von Twitter an Kindesmissbrauch und ausbeuterische Inhalte, die das eigentliche Problem darstellen.

Und die Systeme von Twitter sind in dieser Hinsicht Berichten zufolge „beklagenswert unzureichend“.

Wie von The Verge berichtet:

„ Ein Bericht aus dem Jahr 2021 stellte fest, dass die Prozesse, die Twitter verwendet, um Material zur sexuellen Ausbeutung von Kindern zu identifizieren und zu entfernen, völlig unzureichend sind – weitgehend manuell in einer Zeit, in der sich größere Unternehmen zunehmend automatisierten Systemen zuwenden, die Material abfangen können, das nicht von PhotoDNA gekennzeichnet ist. Laut dem Bericht ist die primäre Durchsetzungssoftware von Twitter „ein veraltetes, nicht unterstütztes Tool“ namens RedPanda. „RedPanda ist bei weitem eines der anfälligsten, ineffizientesten und am wenigsten unterstützten Tools, die wir anbieten“, sagte ein in dem Bericht zitierter Ingenieur.“

Tatsächlich ergab eine zusätzliche Analyse der CSE-Erkennungssysteme von Twitter, dass von den 1 Million Berichten, die jeden Monat übermittelt werden, 84 % neu entdecktes Material enthalten – „von denen keines von den Twitter-Systemen gekennzeichnet würde“.

Während es also die Werbetreibenden sind, die in diesem Fall wieder Druck auf das Unternehmen ausüben, ist klar, dass die Probleme von Twitter weit über die Anzeigenplatzierung hinausgehen.

Das Erreichen des Endergebnisses von Twitter ist jedoch möglicherweise der einzige Weg, um die Plattform zum Handeln zu zwingen – obwohl es interessant sein wird zu sehen, wie willens und in der Lage Twitter ist, einen umfassenderen Plan zu erlassen, um dies inmitten seines anhaltenden Eigentumskampfes anzugehen.

In seiner Übernahmevereinbarung mit Elon Musk gibt es eine Bestimmung, die besagt, dass Twitter Folgendes tun muss:

„Seine wirtschaftlich angemessenen Anstrengungen unternehmen, um die wesentlichen Bestandteile seiner derzeitigen Geschäftsorganisation im Wesentlichen intakt zu halten.“

Mit anderen Worten, Twitter kann in der Übergangsphase, die derzeit im Hinblick auf einen Gerichtsstreit mit Musk diskutiert wird, keine wesentlichen Änderungen an seiner Betriebsstruktur vornehmen.

Würde die Einleitung einer signifikanten Aktualisierung seiner CSE-Erkennungsmodelle als wesentliche Änderung gelten – erheblich genug, um die Betriebsstruktur des Unternehmens zum Zeitpunkt der ursprünglichen Vereinbarung zu ändern?

Im Wesentlichen will Twitter wahrscheinlich keine großen Änderungen vornehmen. Aber es könnte nötig sein, besonders wenn sich mehr Werbetreibende diesem neuen Boykott anschließen und das Unternehmen dazu drängen, sofort Maßnahmen zu ergreifen.

Es ist wahrscheinlich so oder so ein Chaos, Dies ist jedoch ein großes Problem für Twitter, das zu Recht für seine systemischen Fehler in dieser Hinsicht zur Rechenschaft gezogen werden sollte.