G2 は生成 AI の時代におけるレビューモデレーションにどのようにアプローチするか

公開: 2023-07-24

探検家がコンパスを愛していることを責めるつもりはありません。

革新的なテクノロジーにより、私たちの興奮を抑えるのは困難です。私たちの働き方や世界との関わり方に根本的な影響を与える何かが現れると、私たちはそれを受け入れたくなります。

新しいツールや発明が万能薬だと思いたいときでも、少し時間を置いて、もう少し掘り下げたほうがよい場合もあります。ニュアンスや意味を理解していないと、頭から本塁に滑り込むのは思ったより危険かもしれません。

生成型人工知能 (AI) の時代が到来しました。人類の歴史の新たな章に入るにつれ、この新しいテクノロジーをどのように採用するかという競争が始まっています。この記事では、生成 AI が B2B ソフトウェアレビューにどのように適用されるか、およびそれに対する G2 のスタンスを検討します。

猛烈なスピードでのイノベーション

DALL-E 2 や ChatGPT などの生成 AI ツールが最初に話題になったのは、2022 年末でした。2023 年が始まってわずか数か月で、AI テクノロジーの採用と関心が爆発的に高まりました。 AI を統合して新しいソリューションを作成する方法を模索するソフトウェアベンダーが増える中、業界の専門家がこれをビジネスの新たなフロンティアとして歓迎しています。

生成 AI には 2030 年までに世界の GDP を 7% 押し上げる可能性があると主張する人もいます。その一方で、このテクノロジーが世界の労働市場にどのような影響を与えるかを多くの人が予測しています。どの程度の規模になるかはまだ分からないが、専門家らは、それが近いうちに私たちの働き方を変える可能性を示唆している。

生成 AI はテキストや画像の出力を生成することで最もよく知られていますが、コードの作成やデータ分析の支援など、他のこともできる可能性を秘めています。 ChatGPT の 1 回の反復で、ユーザーはこのツールを使用して、Pong の再生可能なバージョンを 60 秒以内に作成することに成功しました。

生成 AI は、業界を問わず、広範囲に影響を及ぼします。しかし、このテクノロジーは非常に速いペースで進歩しているため、特有の課題や、悪意のある者による悪用の可能性も生じています。この革新的なテクノロジーと、レビューのモデレーションに関連する G2 のポリシーおよびプロセスを結び付ける前に、生成 AI に関するコンテキストを確立することが重要です。

初期段階におけるエキサイティングなテクノロジーの課題

AI によって生成されたコンテンツは、今後数年間でコンテンツ作成に革命をもたらし、既存のクリエイティブ産業を破壊する可能性があります。このテクノロジーは潜在力に満ちているため、広範な悪用の可能性も大いにあります。

生成 AI が印象的なものであることは否定できません。ただし、ダイビングを行う前に、次の課題とリスクを考慮してください。

倫理と著作権への懸念: AI によって生成されたコンテンツに反対する人の多くは、そのコンテンツに関する倫理的な懸念に注目しています。これらのモデルは既存のコンテンツに基づいてトレーニングされるため、出典の引用とクレジットの表示が複雑になります。 AIを活用する大学生から～に学期末レポートを書くコードを大規模に「借用」すると、盗作や著作権侵害のリスクが非常に現実的になります。
コンテンツの品質: 一般的に言えば、生成 AI ツールは魅力的です。しかし、作家やアーティストなら誰でも言うように、すぐに人間の仕事に取って代わられることはありません。 AI の将来はテクノロジーと人間のオペレーターの組み合わせになる可能性がありますが、クリエイティブチームがこれらのツールに置き換わることはまだ期待しないでください。
誤った情報と不正確さ: コンテンツの品質と同様に、生成 AI も問題を防ぐ方法はほとんどありません。不正確、虚偽、または誤解を招く出力。不正確なコンテンツを公開するとブランドの評判が損なわれる可能性があるため、AI が生成したコンテンツのファクトチェックについては常に警戒することが重要です。
学習されたバイアス: AI 生成コンテンツの批判者が挙げるもう 1 つの側面は、彼らのモデルが人間のコンテンツを使用していることです。人間には暗黙的および明示的なバイアスがあるため、これらの AI モデルはこれらのパターンと行動を学びます。

生成 AI とソフトウェアのレビューに対する当社のスタンス

実際のユーザーからの 200 万を超えるレビューが寄せられる G2 は、B2B ソフトウェアの世界最大のマーケットプレイスです。この時点に到達するには、私たちのチームの多大な努力と献身が必要でした。しかし、それは、偏りのない本物のレビューの力を尊重することなしには不可能でしょう。

根本的には、人間は他人の体験を信頼しているということを私たちは知っています。そのため、私たちはレビューの量よりも質を優先します。 G2 は次のような信頼性を保証するためにできる限りのことを行っているため、購入者はソフトウェアの調査と評価において G2 を信頼するようになりました。

G2 上のすべてのユーザーの身元を確認します。
43 以上のデータポイントを活用して真正性を評価します。
厳格なガイドラインを使用してすべてのレビューを精査します。

G2 は、公平なアプローチで適度なレビューを行っています。私たちの目標は、すべてのレビューがレビューアーの製品体験に基づく正直な意見であることを保証することです。また、不正行為を示すパターンを積極的に監視します。このような事例が発生した場合、当社は徹底的な監査を実施し、問題のレビューを削除し、必要な措置を講じます。

購入者からの公平なフィードバックを重視する当社の取り組みにより、コンテンツの大部分を作成するために生成 AI を使用するレビューは G2 のコミュニティガイドラインを満たしていません。

私たちは、レビューは実際の人々からのものであるべきだと強く主張していますが、唯一の例外は AI ライティングアシスタントの使用です。このツールが読みやすさ、文法、スペルの改善のみを目的としている限り、レビュー担当者がこれらのツールを利用することを歓迎します。

G2 がレビュー投稿エクスペリエンスに AI ツールを組み込むメリットを慎重に検討していることも注目に値します。執筆アシスタントが査読者を支援できるのと同様に、私たちは投稿プロセス全体を常に改善しています。

G2 レビューモデレーションが AI 生成コンテンツを検出する方法

私たちのチームは、すべての新しいレビュー提出に対して厳格な審査および監査プロセスを実施しています。私たちは毎日膨大な数のレビューを収集するため、クラス最高のテクノロジーと、洞察力のあるよく訓練されたチームメンバーを慎重に組み合わせて使用する必要があります。

4K+

AI によって生成されたレビュー G2 が毎月拒否した件数は、毎月のレビュー送信総数の 5 ～ 8% を占めています。

G2 は、主要なサードパーティのツールとサービスを使用して、レビュー投稿内の AI 生成コンテンツを検出します。利用されている特定のテクノロジーについては明かしませんが、市場で最も評価の高いソフトウェアの一部を利用していることはご安心ください。

G2 が利用できるツールは、AI が生成したコンテンツをスキャンしてフラグを立てるエンタープライズグレードのコンテンツ検出ソリューションです。このコンテンツにフラグを立てた後、社内の定性モデレーターチームがこれらのインスタンスを検証します。

善意と悪意の対比

生成 AI を使用する投稿を阻止し、拒否することを認識することが重要です。本物のレビューの力を重視する当社のスタンスにより、当社のプロセスで AI 生成コンテンツが検出された場合は、意図が正当か不正かに関係なく、レビューを拒否することを目指しています。

サードパーティツールの使用に加えて、不正なレビューを検出するために各モデレーターの決定から学習する内部 MLモデルも利用しています。この ML モデルは、ユーザーのレビュー履歴、ソーシャルメディアのプレゼンス、送信パターン、ブラウザーのアクション、IP アドレス、位置情報などの他のデータも使用して、不正行為を検出します。

また、AI コンテンツ検出と当社の ML モデルは、大規模な偽レビューにフラグを立てるのに役立ちますが、より重要な評価が必要なレビューを監査するために、モデレーターの専門知識も重ねています。私たちのチームは、不正行為に一般的に関連するパターンを特定し、効果的な不正行為防止策を作成することに熟達しています。

AI による明るい未来への基礎を築く

生成 AI テクノロジーの爆発的な普及により、今後数年間で世界が大きく変わってしまう可能性は十分にあります。数え切れないほどのコンテンツクリエイターやブランドは、競争力を維持するためにこれらのツールを適応させ、使いこなす必要があります。

しかし、このテクノロジーがもたらす可能性があるのは良いことですが、潜在的に及ぼす可能性のある害についても同じことが言えます。 G2 は、生成 AI がもたらす多大な利点を受け入れ、認識しています。しかし、私たちは依然として、レビューは実際の人々の直接の経験に基づいたもののみが信頼できると考えています。

私たちは本物のレビューの力を信じているため、G2 が顧客の声を擁護することを常に期待できます。

AI の力で適切なソフトウェアを見つけます。 G2 の AI を活用したチャットボット Monty を使用して、新しい調査方法を模索してください。