Twitter stoi w obliczu bojkotu reklamodawcy z powodu niepowodzeń policyjnych materiałów dotyczących wykorzystywania dzieci

Twitter nie jest dobry, bardzo zły rok trwa, a firma w tym tygodniu została zmuszona do poinformowania niektórych reklamodawców, że ich reklamy były wyświetlane w aplikacji wraz z tweetami nakłaniającymi do pornografii dziecięcej i innych materiałów związanych z nadużyciami.

Jak donosi Reuters:

„ Marki, od Walta Disneya, NBCUniversal i Coca-Coli, po szpital dziecięcy, znalazły się wśród około 30 reklamodawców, którzy pojawili się na stronach profilowych kont na Twitterze, które sprzedają linki do materiałów służących do wykorzystywania”.

Odkrycia dokonała grupa ds. bezpieczeństwa cybernetycznego Ghost Data, która współpracowała z Reuters w celu ujawnienia problemów związanych z umieszczaniem reklam, zadając kolejny duży cios perspektywom biznesowym aplikacji.

Już w stanie zamętu pośród trwającej sagi o przejęciu Elona Muska i po ostatnich doniesieniach byłego szefa bezpieczeństwa, że ​​nie dba o bezpieczeństwo danych i inne środki, Twitter stoi teraz w obliczu exodusu reklamodawców, z dużymi markami, takimi jak Dyson, Mazda i Ecolab zawieszenie ich kampanii na Twitterze w odpowiedzi.

Co tak naprawdę jest najmniej niepokojącym elementem w odkryciu, ponieważ raport Ghost Data identyfikuje również ponad 500 kont, które otwarcie udostępniały lub żądały materiałów dotyczących wykorzystywania seksualnego dzieci w ciągu 20 dni.

Ghost Data twierdzi, że Twitter nie usunął ponad 70% kont w czasie badania.

Odkrycia rodzą kolejne pytania dotyczące niezdolności lub chęci Twittera do zajęcia się potencjalnie szkodliwymi materiałami, a The Verge podało pod koniec zeszłego miesiąca, że ​​Twitter „nie może dokładnie wykryć wykorzystywania seksualnego dzieci i niedobrowolnej nagości na dużą skalę”.

To odkrycie wynikało z dochodzenia w sprawie proponowanego planu Twittera, aby dać twórcom treści dla dorosłych możliwość rozpoczęcia sprzedaży płatnych subskrypcji w stylu OnlyFans w aplikacji.

Zamiast pracować nad nadmiarem materiałów pornograficznych na platformie, Twitter zamiast tego rozważał pochylenie się w tym kierunku – co niewątpliwie podniosłoby czynnik ryzyka dla reklamodawców, którzy nie chcą, aby ich promocje pojawiały się obok potencjalnie obraźliwych tweetów.

Co prawdopodobnie się dzieje, na jeszcze większą skalę, niż sugeruje ten nowy raport, ponieważ wewnętrzne dochodzenie Twittera w sprawie propozycji OnlyFans-esque wykazało, że:

„ Twitter nie mógł bezpiecznie zezwolić twórcom dorosłych na sprzedaż subskrypcji, ponieważ firma nie była – i nadal nie jest – skutecznie nadzorowała szkodliwych treści seksualnych na platformie”.

Innymi słowy, Twitter nie mógł zaryzykować ułatwienia monetyzacji materiałów eksploatacyjnych w aplikacji, a ponieważ nie ma możliwości rozwiązania tego problemu, musiał zrezygnować z propozycji, zanim naprawdę zyskała na popularności.

Mając to na uwadze, te nowe odkrycia nie są niespodzianką – ale znowu reakcja reklamodawców może być znaczna, co może zmusić Twittera do rozpoczęcia nowej represji.

Ze swojej strony Twitter twierdzi, że inwestuje więcej zasobów poświęconych bezpieczeństwu dzieci, „w tym zatrudnianie na nowe stanowiska w celu pisania polityki i wdrażania rozwiązań”.

Świetnie, Twitter podejmuje teraz działania. Ale te raporty, oparte na dochodzeniu w sprawie własnych badań Twittera, pokazują, że Twitter od jakiegoś czasu był świadomy tego potencjalnego problemu – nie konkretnie wykorzystywania dzieci, ale treści dla dorosłych dotyczą tego, że nie ma możliwości ścigania.

W rzeczywistości Twitter otwarcie pomaga w promowaniu treści dla dorosłych, choć nieumyślnie. Na przykład w sekcji „Dla Ciebie” na mojej karcie „Odkrywaj” (tj. na stronie głównej Eksploruj w aplikacji) Twitter stale zaleca, abym śledził „Facebook” jako temat, w oparciu o moje tweety i osoby, które śledzę w aplikacji.

Oto tweety, które wyróżnił jako jedne z najważniejszych tematycznych tweetów wczoraj na „Facebooku”:

Nie jest to materiał pornograficzny jako taki, ale sugeruję, że jeśli wejdę w któryś z tych profili, szybko go znajdę. I znowu, te tweety są wyróżniane na podstawie własnego algorytmu tweetów tematycznych Twittera, który opiera się na zaangażowaniu w tweety, które wymieniają termin tematyczny. Te całkowicie niezwiązane i nie na temat tweety są następnie wysyłane przez sam Twitter użytkownikom, którzy nie wyrazili zainteresowania treściami dla dorosłych.

Oczywiste jest, w oparciu o wszystkie dostępne dowody, że Twitter ma problem z pornografią i niewiele robi, aby go rozwiązać.

Dystrybutorzy treści dla dorosłych postrzegają Twittera jako najlepszą sieć społecznościową do celów reklamowych, ponieważ jest mniej restrykcyjny niż Facebook i ma znacznie szerszy zasięg niż niszowe witryny dla dorosłych, podczas gdy Twitter zyskuje korzyści związane z użytkowaniem i zaangażowaniem z hostingu materiałów, na które inne platformy społecznościowe po prostu nie pozwalają .

I prawdopodobnie dlatego tak długo przymykała na to oko, do tego stopnia, że ​​teraz jest to podkreślane jako znacznie większy problem.

Chociaż ważne jest, aby pamiętać, że treści dla dorosłych same w sobie nie są z natury problematyczne, przynajmniej wśród wyrażających zgodę dorosłych użytkowników. Prawdziwym problemem jest podejście Twittera do wykorzystywania i wykorzystywania dzieci.

A systemy Twittera są podobno „żałośnie niewystarczające” pod tym względem.

Jak donosi The Verge:

„ Raport z 2021 r. wykazał, że procesy wykorzystywane przez Twitter do identyfikowania i usuwania materiałów związanych z wykorzystywaniem seksualnym dzieci są żałośnie nieodpowiednie – w dużej mierze ręczne w czasach, gdy większe firmy coraz częściej zwracają się do zautomatyzowanych systemów, które mogą przechwytywać materiały, które nie są oznaczone przez PhotoDNA. Według raportu, głównym oprogramowaniem do egzekwowania na Twitterze jest „przestarzałe, nieobsługiwane narzędzie” o nazwie RedPanda. „RedPanda jest zdecydowanie jednym z najbardziej delikatnych, nieefektywnych i słabo wspieranych narzędzi, jakie mamy w ofercie” – powiedział jeden z inżynierów cytowany w raporcie.

Rzeczywiście, dodatkowa analiza systemów wykrywania CSE Twittera wykazała, że ​​z miliona raportów przesyłanych każdego miesiąca 84% zawiera nowo odkryte materiały – „z których żaden nie zostanie oflagowany” przez systemy Twittera.

Tak więc, chociaż w tym przypadku to reklamodawcy ponownie wywierają presję na firmę, jasne jest, że problemy Twittera wykraczają daleko poza kwestie związane z umieszczaniem reklam.

Uderzenie w dolną granicę Twittera może być jednak jedynym sposobem na zmuszenie platformy do podjęcia działań – choć ciekawie będzie zobaczyć, jak chętny i zdolny Twitter ma wprowadzić szerszy plan rozwiązania tego problemu w toczącej się walce o własność.

W umowie o przejęciu z Elonem Muskiem znajduje się postanowienie, które stanowi, że Twitter musi:

„Dołóż wszelkich uzasadnionych z handlowego punktu widzenia wysiłków, aby zachować zasadniczo nienaruszone elementy materialne obecnej organizacji biznesowej”.

Innymi słowy, Twitter nie może wprowadzić żadnych znaczących zmian w swojej strukturze operacyjnej, gdy znajduje się w fazie przejściowej, która jest obecnie przedmiotem debaty, gdy zmierza do bitwy w sali sądowej z Muskiem.

Czy zainicjowanie istotnej aktualizacji modeli wykrywania CSE kwalifikowałoby się jako istotna zmiana – wystarczająco istotna, aby zmienić strukturę operacyjną firmy w momencie zawierania pierwotnej umowy?

Zasadniczo Twitter prawdopodobnie nie chce wprowadzać żadnych większych zmian. Ale może być konieczne, zwłaszcza jeśli więcej reklamodawców przyłączy się do nowego bojkotu i zmusi firmę do podjęcia natychmiastowych działań.

Tak czy inaczej, prawdopodobnie będzie bałagan, ale jest to ogromny problem dla Twittera, który należy słusznie rozliczać z jego systemowych niepowodzeń w tym zakresie.