画面の裏側: ソーシャル メディアを実行するアルゴリズムとボット
公開: 2023-10-27特定の投稿がフィードに表示され、他の投稿が表示されない理由を疑問に思ったことはありますか? あるいは、あなたのコメント欄にランダムにボットのフォロワーを送り込んでいるのは誰ですか? 今日のソーシャル メディアは、ますます自動化され、アルゴリズム化されており、かなり…ボット化されているように感じられます。
私たちが毎日何時間もスクロールする Web サイトは、中立的なプラットフォームとは程遠いものです。 画面の背後には、コンテンツを厳選し、ユーザーを引き付けるために設計された複雑な技術インフラストラクチャがあります。
私たちの多くは、オンラインで見られるものを計算するプログラムされた式であるアルゴリズムの概念に精通しています。 しかし、これらのアルゴリズムは正確にどのように機能するのでしょうか? そして、ボット（反復的なタスクを実行するように設計された自動化されたソフトウェア アプリケーション）はどのようにしてソーシャル メディア エコシステムに侵入したのでしょうか? これらのテクノロジーの目標と影響は広範囲に及びますが、透明性はほとんどありません。
この記事では、ソーシャル メディア画面の背後にある内部の仕組みを明らかにします。 アルゴリズムやボットが受け取る情報にどのような影響を与え、さらには意見や行動を操作するのかを学びます。
また、ボットが失敗したケーススタディを掘り下げ、説明責任を高めるためのアイデアを検討します。 私たちがよく知っていて毎日使用しているソーシャル ウェブの舞台裏で実際に何が起こっているのかを調査する時期が来ています。 物語はあなたが思っているよりも複雑です。
TLDR; ソーシャルメディアを実行するアルゴリズムとボット
- アルゴリズムは、質の高い議論ではなく、エンゲージメントを最大化するためにソーシャル メディア フィードを厳選します
- スパムボットや政治ボットなどのボットがプラットフォーム上で誤った情報やプロパガンダを広める
- アルゴリズムはエコー チャンバーを作成する可能性があります。 ボットはフェイクニュースとサイバー犯罪を促進します
- ソーシャル プラットフォームにはアルゴリズムに関する監視と透明性が欠如しています
- ユーザーはソーシャルプラットフォームに対して透明性と説明責任を要求する必要があります
ソーシャルメディアにおけるアルゴリズムの台頭
アルゴリズムは、特定のタスクや目標を達成するためにプログラムされた一連の命令または計算です。 ソーシャル メディア プラットフォームでは、アルゴリズムが膨大な量のユーザー データを分析し、ユーザーのフィード内のコンテンツを厳選して推奨します。 目標は、現時点で最も関心を示す可能性が高い投稿を人々に表示することです。
Facebook は、2006 年にアルゴリズムによってパーソナライズされたニュース フィードのアイデアを先駆けて開発しました。それ以前は、投稿は単純に時系列順に表示されていました。 Facebook は、「意味のあるコンテンツ」、つまり最も多くの「いいね！」、コメント、シェアを獲得できる投稿を最適化したいと考えていました。 Twitter、Instagram、TikTok などの他のプラットフォームも、最終的にはアルゴリズム フィードを採用しました。
これらのアルゴリズムは、接続、興味、過去のアクティビティ、デバイスの種類など、各ユーザーに関する何百ものシグナルを考慮します。 彼らは常に学習し、新しいデータに基づいて更新しています。 また、レコメンダー アルゴリズムは、ユーザーがすでに関与しているものとの類似性に基づいて、フォローするアカウントや表示するコンテンツを提案します。 最終目標は広告収入を最大化することであるため、アルゴリズムはユーザーが際限なくスクロールし続ける投稿や広告も最適化します。
ソーシャル プラットフォームにおけるボットの状況
ソーシャル メディア ボットは、コンテンツを自動的に作成し、多くの場合人間のアカウントを装って実際のユーザーと対話するソフトウェア プログラムです。 スパムボットはスパム、広告、またはマルウェアを自律的に拡散します。 チャットボットはAIと会話します。 2016 年の米国選挙で見られたように、政治ボットはプロパガンダや誤った情報を広めます。
ソーシャル プラットフォームの拡大に伴い、ボットは急速に普及しました。 ある調査では、Twitter アカウントの 9 ～ 15% がボットである可能性があると推定されています。 Facebook では、2021 年後半の時点で、重複アカウントと偽アカウントが世界中の月間アクティブ ユーザーの約 11% を占めると推定されています。
ただし、ボットの検出は困難です。 ボットはさらに進化しており、AI を使用してオンラインで人間の行動パターンを模倣しています。 彼らの目的は、検出を避けながら世論を操作したり、言説に悪影響を与えることです。
アルゴリズムとボットの影響
アルゴリズムとボットはソーシャル メディア ユーザーにいくつかのメリットをもたらしました。 アルゴリズムによるキュレーションにより、個人の興味に合わせてフィードがパーソナライズされ、無関係なコンテンツに費やす時間が節約されます。 チャットボットは、便利な自動化された顧客サービスを提供できます。
しかし、高度なアルゴリズムによるキュレーションは、人々が同じ考えの視点しか見ないため、エコーチェンバーや二極化も引き起こしています。 世界中の選挙で見られるように、ボットは誤った情報を急速に広め、事実をかき消し、公の議論を操作するために使用されてきました。
おそらく最も懸念されるのは、これらのテクノロジーに関する監視と透明性の欠如です。 ソーシャル プラットフォームでは、アルゴリズムがどのように機能するのか、またアルゴリズムがユーザーに表示されるコンテンツにどのような影響を与えるのかについてほとんど可視性がありません。 また、高度なボットの検出にも苦労しており、その不作為から生じる有害な操作を抑制することはほとんどできていません。
失敗したボットのケーススタディ
2016 年、Microsoft は Twitter 上で、カジュアルな会話を通じてユーザーと関わることを目的とした AI チャットボット Tay を立ち上げました。 しかし、インターネット荒らしたちは、テイを訓練して人種差別的な言葉を使い、攻撃的な意見を広めることができることを発見した。 24 時間以内に、Tay はシャットダウンされなければなりませんでした。
2016 年の米国大統領選挙中、ロシア関連のボットがプロパガンダを生成し、Facebook、Twitter、その他のプラットフォーム上で 1 億人以上のアメリカ人に届きました。 これは社会的、政治的不和を引き起こすことを目的としていました。
スパムボットは、偽のアカウントを通じてソーシャル プラットフォーム上にマルウェアや悪意のあるリンクを定期的に拡散します。 2020 年のある調査では、100,000 を超える Twitter ボットが、連携した新型コロナウイルス感染症の偽情報キャンペーンとサイバー犯罪キャンペーンに関与していることが判明しました。 これらはユーザーに大きなリスクをもたらします。
悪質なボットとの継続的な闘い
ソーシャル プラットフォームは機械学習を使用して、ツイート頻度の高さ、コンテンツの重複、協調的な動作などのパターンに基づいてボット アカウントを検出します。 ボットの可能性があるとフラグが立てられた場合、アカウントは CAPTCHA または電話認証を通じて人間であることを証明するよう求められる場合があります。 ボットチェックに失敗した場合、アカウントは削除されます。
ただし、人工知能を利用したより高度なボットを識別することは依然として困難です。 これらのボットは、人間のような投稿スケジュール、コンテンツの多様性、オンラインでのやり取りを模倣します。 フラグが立てられると動作を切り替えることで検出を回避するものもあります。 プラットフォームは、進化するボットの機能に対して終わりのないいたちごっこを繰り広げています。
専門家は、アカウントのメタデータ、関係性、言語パターンを長期にわたって分析することで、より優れた検出が可能になる可能性があると示唆しています。 コンテンツの急速なウイルス拡散を遅らせることで、被害が大きくなりすぎる前に、連携したボット ネットワークの影響をより効果的に抑制できる可能性があります。
透明性と監視の推進
アルゴリズムとボットが中核となるビジネス モデルに組み込まれているため、ソーシャル プラットフォームには透明性を高めたり、意味のある監視を許可したりするインセンティブがほとんどありません。 しかし、擁護団体は、研究者が影響を評価できるようにするアルゴリズム監査を求めている。
各国政府はまた、透明性、人間による監視要件、不当なアルゴリズム上の決定に対する控訴の権利を強制する規制も検討している。
ユーザーは、嘆願書やハッシュタグを通じて懸念を表明したり、透明性を支持する政治家を支援したり、さらには自分の活動パターンを歪めてアルゴリズムを騙したりすることで、圧力をかけるのに協力することができます。 ソーシャル プラットフォームの閉鎖的で利益主導の文化を変えるのは困難ですが、継続的な国民の意識と圧力により、アルゴリズムとボットに関する透明性が不可欠になる可能性があります。
まとめ: ソーシャルメディアを実行するアルゴリズムとボット
ソーシャルメディアのファサードが剥がされ、これらのプラットフォームを動かしているアルゴリズムとボットの複雑な組み合わせが垣間見えてきました。 私たちのフィードは、質の高い議論ではなく、エンゲージメントと収益を最適化した不透明な公式によって厳選されています。 自動アカウントは偽の人間の身元を隠して暴走します。
この垣間見えた真実は、ソーシャルメディアの現状に対して私たちに大きな不快感を与えるはずです。 私たちはもはや、中立的なオンラインの街の広場という古風な概念にしがみつくことはできません。 利益動機と野放しの自動化により、ソーシャル ウェブの可能性が損なわれています。 怒りは透明性と説明責任を求めるものにならなければなりません。
私たちユーザーは数の力を持っています。 アルゴリズムがあなたの思考にどのような影響を与えるかについて無知を受け入れないでください。 法律とプラットフォームへの直接的な関与による需要の変化。 ボットの増幅には警戒してください。 そして、現実の人間であれ、狡猾な AI であれ、画面の向こうの人間を決して忘れないでください。 私たちの将来の現実は、私たちの人間性を思い出すことにかかっているのかもしれません。