Twitter、児童虐待素材の取り締まりの失敗により、広告主のボイコットに直面

Twitter にとって良くない、非常に悪い年が続いており、同社は今週、一部の広告主に対して、自社の広告が児童ポルノやその他の虐待的なコンテンツを求めるツイートと一緒にアプリに表示されたことを通知することを余儀なくされました。

ロイターの報道によると：

「ウォルト・ディズニー、NBCUniversal、コカ・コーラから小児病院まで、さまざまなブランドが、搾取的な素材へのリンクを売り込む Twitter アカウントのプロフィール ページに表示された約 30 の広告主の中に含まれています。」

この発見は、ロイターと協力して広告配置の問題を明らかにしたサイバーセキュリティ グループの Ghost Data によって行われ、アプリの進行中のビジネスの見通しに別の大きな打撃を与えました。

進行中のイーロン・マスクの乗っ取り騒動の中ですでに混乱状態にあり、元セキュリティ責任者からデータセキュリティやその他の対策が緩いという最近の暴露を受けて、Twitterは現在、ダイソン、マツダ、エコラボなどの大手ブランドで広告主の流出に直面しています.それに応じてTwitterキャンペーンを一時停止します。

これは、実際には、発見に関して最も懸念されていない要素であり、Ghost Dataレポートは、20日間にわたって児童の性的虐待資料を公然と共有または要求した500を超えるアカウントも特定しています.

Ghost Data によると、Twitter は調査期間中にアカウントの 70% 以上を削除できませんでした。

この調査結果は、Twitter が潜在的に有害な素材に対処できない、または対処する意思があることについて、さらなる疑問を投げかけています。The Verge は先月末、Twitterは「児童の性的搾取と同意のないヌードを大規模に正確に検出できない」と報告しています。

この調査結果は、Twitter が提案したアダルト コンテンツ クリエーターがアプリ内で OnlyFans スタイルの有料サブスクリプションを販売できるようにする計画の調査に端を発しています。

Twitter は、プラットフォーム上の大量のポルノ素材に対処するのではなく、代わりにそれに傾倒することを検討しました。これは、攻撃的な可能性のあるツイートと一緒にプロモーションが表示されることを望まない広告主にとって、間違いなくリスク要因を高めることになります.

これは、この新しいレポートが示唆するよりもさらに大きな規模で起こっている可能性があります.

「 Twitter はプラットフォーム上の有害な性的コンテンツを効果的に取り締まっていなかったし、今もそうしていないため、アダルト クリエーターがサブスクリプションを安全に販売することを許可できませんでした。」

言い換えれば、Twitter はアプリ内の搾取的なコンテンツの収益化を助長する危険を冒すことはできず、そのようなことに取り組む方法がないため、実際に注目を集める前に提案を破棄しなければなりませんでした。

それを念頭に置いて、これらの新しい調査結果は驚くべきことではありませんが、広告主の反発が大きい可能性が高く、いずれにせよ Twitter は新たな取り締まりを開始せざるを得なくなる可能性があります。

ツイッターは、「ポリシーを作成し、解決策を実施するための新しいポジションの採用を含めて」、子供の安全に専念するためにより多くのリソースを投資していると述べています.

それで、すばらしい、Twitterは今行動を起こしています。 しかし、Twitter 自身の調査の調査に基づくこれらのレポートは、Twitter がこの潜在的な問題を以前から認識していたことを示しています。具体的には子供の搾取ではなく、アダルト コンテンツを監視する方法がないことを懸念しています。

実際、Twitter は、不注意ではありますが、アダルト コンテンツの宣伝を公然と支援しています。 たとえば、私の「Explore」タブの「For You」セクション (つまり、アプリの Explore のフロント ページ) では、Twitter は、私のツイートとフォローしている人々に基づいて、トピックとして「Facebook」をフォローすることを継続的に推奨しています。アプリで。

昨日、「Facebook」の話題のトップツイートの一部として強調されたツイートは次のとおりです。

それ自体はポルノ素材ではありませんが、これらのプロファイルのいずれかをタップすると、すぐに見つかると思います. 繰り返しますが、これらのツイートは、トピック用語に言及しているツイートへの関与に基づく、Twitter 独自のトピック ツイート アルゴリズムに基づいて強調表示されます。 これらのまったく関係のないトピック外のツイートは、Twitter 自体によって、アダルト コンテンツに関心を示さなかったユーザーにプッシュされます。

利用可能なすべての証拠に基づいて、Twitter がポルノの問題を抱えていることは明らかであり、それに対処するためにほとんど何もしていません。

アダルト コンテンツの配信者は、Twitterを広告に最適なソーシャル ネットワークと見なしています。これは、Facebook よりも制限が少なく、ニッチなアダルト サイトよりもリーチがはるかに広いためです。一方、Twitter は、他のソーシャル プラットフォームでは許可されていない素材をホストすることで、利用とエンゲージメントのメリットを得ることができます。 .

それが、今でははるかに大きな問題として強調されているほど、長い間そのようなことに目をつぶろうとしてきた理由である可能性があります.

ただし、少なくとも同意した成人ユーザーの間では、アダルト コンテンツ自体は本質的に問題ではないことに注意することが重要です。 目の前の本当の問題は、児童虐待と搾取的なコンテンツに対する Twitter のアプローチです。

Twitter のシステムは、この点で「ひどく不十分」であると報告されています。

The Verge によると、次のように報告されています。

「 2021 年のレポートでは、Twitter が子供の性的搾取の素材を特定して削除するために使用するプロセスがひどく不十分であることが判明しました。PhotoDNA によってフラグが立てられていない素材を検出できる自動化されたシステムに大企業がますます目を向けている現在、大部分は手作業です。 レポートによると、Twitter の主要な強制ソフトウェアは、RedPanda と呼ばれる「サポートされていないレガシー ツール」です。 「RedPanda は、私たちが提供しているツールの中で最も壊れやすく、非効率的で、サポートが不十分なツールの 1 つです」と、レポートで引用されているあるエンジニアは述べています。

実際、Twitter の CSE 検出システムをさらに分析したところ、毎月提出される 100 万件のレポートの 84% に、Twitter のシステムによって「フラグが立てられない」新たに発見された素材が含まれていることがわかりました。

この場合、Twitter に圧力をかけているのは広告主ですが、Twitter の問題が広告配置の問題だけにとどまらないことは明らかです。

しかし、Twitter の最終的な収益に打撃を与えることが、プラットフォームに行動を起こさせる唯一の方法かもしれません。ただし、進行中の所有権争いの中で、Twitter がそのような問題に対処するためのより広範な計画を制定する意思と能力があることを確認するのは興味深いことです。

イーロン マスクとの買収契約の中で、Twitter は次のことを行う必要があると規定されています。

「商業的に合理的な努力を払って、現在の事業組織の重要な構成要素を実質的に無傷で維持してください。」

言い換えれば、Twitter は現在、Musk との法廷闘争に向けて議論されている移行段階にある間、運用構造に大きな変更を加えることはできません。

CSE 検出モデルの大幅な更新を開始することは、大幅な変更と見なされるでしょうか?最初の合意の時点で会社の運営構造を変更するのに十分な変更でしょうか?

本質的に、Twitter はおそらく大きな変更を加えたくないでしょう。 しかし、特にこの新たなボイコットに参加する広告主が増え、会社に直ちに行動を起こすよう促す場合には、そうしなければならないかもしれません。

どちらにしても混みそうですが、 しかし、これは Twitter にとって大きな懸念事項であり、この点に関する体系的な失敗の責任を正当に負うべきです。