Twitter Menghadapi Boikot Pengiklan Karena Kegagalan Polisi terhadap Materi Pelecehan Anak

Twitter tidak baik, tahun yang sangat buruk terus berlanjut, dengan perusahaan minggu ini dipaksa untuk memberi tahu beberapa pengiklan bahwa iklan mereka telah ditampilkan di aplikasi bersama tweet yang meminta pornografi anak dan materi pelecehan lainnya.

Seperti dilansir Reuters:

“ Merek mulai dari Walt Disney, NBCUniversal dan Coca-Cola, hingga rumah sakit anak-anak, termasuk di antara sekitar 30 pengiklan yang muncul di halaman profil akun Twitter yang menjajakan tautan ke materi eksploitatif.”

Penemuan ini dilakukan oleh grup keamanan siber Ghost Data, yang bekerja dengan Reuters untuk mengungkap masalah penempatan iklan, memberikan pukulan besar lainnya bagi prospek bisnis aplikasi yang sedang berlangsung.

Sudah dalam keadaan kacau di tengah saga pengambilalihan Elon Musk yang sedang berlangsung, dan setelah pengungkapan baru-baru ini dari mantan kepala keamanannya bahwa itu lemah dalam keamanan data dan tindakan lainnya, Twitter sekarang juga menghadapi eksodus pengiklan, dengan merek besar termasuk Dyson, Mazda dan Ecolab menangguhkan kampanye Twitter mereka sebagai tanggapan.

Yang, sebenarnya, adalah elemen yang paling tidak mengkhawatirkan tentang penemuan tersebut, dengan laporan Ghost Data juga mengidentifikasi lebih dari 500 akun yang secara terbuka membagikan atau meminta materi pelecehan seksual anak selama periode 20 hari.

Ghost Data mengatakan bahwa Twitter gagal menghapus lebih dari 70% akun selama masa penelitian.

Temuan ini menimbulkan pertanyaan lebih lanjut tentang ketidakmampuan, atau kesediaan Twitter, untuk menangani materi yang berpotensi berbahaya, dengan The Verge melaporkan akhir bulan lalu bahwa Twitter 'tidak dapat secara akurat mendeteksi eksploitasi seksual anak dan ketelanjangan non-konsensual dalam skala besar'.

Temuan itu berasal dari penyelidikan rencana Twitter yang diusulkan untuk memberi pembuat konten dewasa kemampuan untuk mulai menjual langganan berbayar gaya OnlyFans di aplikasi.

Alih-alih bekerja untuk mengatasi banyaknya materi pornografi di platform, Twitter malah mempertimbangkan untuk bersandar padanya – yang tidak diragukan lagi akan meningkatkan faktor risiko bagi pengiklan yang tidak ingin promosi mereka muncul bersamaan dengan tweet yang berpotensi menyinggung.

Yang kemungkinan besar terjadi, pada skala yang lebih besar daripada yang disarankan oleh laporan baru ini, karena penyelidikan internal Twitter sendiri terhadap proposal ala OnlyFans menemukan bahwa:

“ Twitter tidak dapat dengan aman mengizinkan pembuat konten dewasa untuk menjual langganan karena perusahaan tidak – dan masih belum – secara efektif mengawasi konten seksual berbahaya di platform.”

Dengan kata lain, Twitter tidak dapat mengambil risiko memfasilitasi monetisasi materi eksploitatif di aplikasi, dan karena tidak memiliki cara untuk mengatasi hal tersebut, ia harus membatalkan proposal sebelum benar-benar mendapatkan daya tarik.

Dengan mengingat hal itu, temuan baru ini tidak mengejutkan - tetapi sekali lagi, reaksi pengiklan kemungkinan besar akan signifikan, yang dapat memaksa Twitter untuk meluncurkan tindakan keras baru.

Untuk bagiannya, Twitter mengatakan bahwa mereka menginvestasikan lebih banyak sumber daya yang didedikasikan untuk keselamatan anak, 'termasuk mempekerjakan posisi baru untuk menulis kebijakan dan menerapkan solusi'.

Jadi, bagus, Twitter mengambil tindakan sekarang. Namun laporan-laporan ini, berdasarkan penyelidikan terhadap pemeriksaan Twitter sendiri, menunjukkan bahwa Twitter telah menyadari potensi masalah ini selama beberapa waktu – bukan eksploitasi anak secara khusus, tetapi konten dewasa khawatir bahwa ia tidak memiliki cara untuk mengawasi.

Faktanya, Twitter secara terbuka membantu mempromosikan konten dewasa, meskipun secara tidak sengaja. Misalnya, di bagian 'Untuk Anda' pada tab 'Jelajahi' saya (yaitu halaman depan Jelajahi di aplikasi), Twitter terus merekomendasikan agar saya mengikuti 'Facebook' sebagai topik, berdasarkan tweet saya dan orang yang saya ikuti di aplikasi.

Berikut adalah tweet yang disorot sebagai beberapa tweet topikal teratas untuk 'Facebook' kemarin:

Ini bukan materi pornografi seperti itu, tetapi saya memberi tip bahwa jika saya mengetuk salah satu profil ini, saya akan menemukannya dengan cepat. Dan lagi, tweet ini disorot berdasarkan algoritma tweet topikal Twitter sendiri, yang didasarkan pada keterlibatan dengan tweet yang menyebutkan istilah topik. Tweet yang sama sekali tidak terkait dan di luar topik ini kemudian didorong oleh Twitter sendiri, kepada pengguna yang belum menyatakan minat pada konten dewasa.

Jelas, berdasarkan semua bukti yang ada, Twitter memang memiliki masalah pornografi, dan tidak banyak yang bisa dilakukan untuk mengatasinya.

Distributor konten dewasa memandang Twitter sebagai jejaring sosial terbaik untuk periklanan, karena tidak terlalu membatasi dibandingkan Facebook, dan memiliki jangkauan yang jauh lebih luas daripada situs khusus dewasa, sementara Twitter memperoleh manfaat penggunaan dan keterlibatan dari materi hosting yang tidak diizinkan oleh platform sosial lainnya. .

Yang mungkin mengapa itu bersedia untuk menutup mata seperti itu begitu lama, sampai-sampai sekarang disorot sebagai masalah yang jauh lebih besar.

Meskipun penting untuk dicatat bahwa konten dewasa, dengan sendirinya, pada dasarnya tidak bermasalah, setidaknya di antara pengguna dewasa yang menyetujui. Pendekatan Twitter terhadap pelecehan anak dan konten eksploitatif itulah masalah sebenarnya yang dihadapi.

Dan sistem Twitter dilaporkan 'sangat tidak memadai' dalam hal ini.

Seperti dilansir The Verge:

Laporan tahun 2021 menemukan bahwa proses yang digunakan Twitter untuk mengidentifikasi dan menghapus materi eksploitasi seksual anak sangat tidak memadai - sebagian besar manual pada saat perusahaan besar semakin beralih ke sistem otomatis yang dapat menangkap materi yang tidak ditandai oleh PhotoDNA . Perangkat lunak penegakan utama Twitter adalah "alat warisan yang tidak didukung" yang disebut RedPanda, menurut laporan itu. “RedPanda sejauh ini merupakan salah satu alat yang paling rapuh, tidak efisien, dan kurang didukung yang kami tawarkan,” kata seorang insinyur yang dikutip dalam laporan itu.

Memang, analisis tambahan dari sistem deteksi CSE Twitter menemukan bahwa dari 1 juta laporan yang dikirimkan setiap bulan, 84% berisi materi yang baru ditemukan – 'tidak ada yang akan ditandai', oleh sistem Twitter.

Jadi sementara pengiklan yang memberikan tekanan kembali pada perusahaan dalam hal ini, jelas bahwa masalah Twitter jauh melampaui masalah penempatan iklan saja.

Namun, mencapai garis bawah Twitter, mungkin merupakan satu-satunya cara untuk memaksa platform untuk mengambil tindakan – meskipun akan menarik untuk melihat seberapa bersedia dan mampu Twitter untuk memberlakukan rencana yang lebih luas untuk mengatasi hal tersebut di tengah-tengah pertempuran kepemilikan yang sedang berlangsung.

Dalam perjanjian pengambilalihan dengan Elon Musk, ada ketentuan yang menyatakan bahwa Twitter perlu:

“Gunakan upaya yang wajar secara komersial untuk melestarikan secara substansial komponen material dari organisasi bisnisnya saat ini.”

Dengan kata lain, Twitter tidak dapat membuat perubahan signifikan pada struktur operasionalnya saat berada dalam fase transisi, yang saat ini sedang diperdebatkan karena menuju ruang sidang pertempuran dengan Musk.

Apakah memulai pembaruan signifikan untuk model deteksi CSE-nya memenuhi syarat sebagai perubahan substansial - cukup substansial untuk mengubah struktur operasi perusahaan pada saat perjanjian awal?

Intinya, Twitter sepertinya tidak ingin melakukan perubahan besar. Tapi mungkin harus, terutama jika lebih banyak pengiklan bergabung dengan boikot baru ini, dan mendorong perusahaan untuk mengambil tindakan segera.

Kemungkinan besar akan berantakan, tetapi ini adalah masalah besar bagi Twitter, yang harus bertanggung jawab atas kegagalan sistemiknya dalam hal ini.