G2 如何在生成式人工智能時代進行審查審核

已發表: 2023-07-24

你不會因為探險家對指南針的熱愛而責怪他們。

創新技術讓我們難以抑制興奮。當某件事的出現對我們的工作方式或與世界的互動方式產生根本性影響時，我們想要擁抱它。

有時，即使我們想認為某些新工具或發明是包治百病的靈丹妙藥，但最好還是稍微深入研究一下。在不了解其中的細微差別和影響的情況下，一頭扎進本壘的風險可能比我們想像的要大。

生成人工智能（AI）的時代已經到來。當我們進入人類歷史的新篇章時，如何採用這項新技術的競賽已經開始。在本文中，我們將探討生成式 AI 如何應用於 B2B 軟件評論以及 G2 對此的立場。

極速創新

DALL-E 2 和 ChatGPT 等生成式人工智能工具在 2022 年末首次成為頭條新聞。進入 2023 年僅幾個月，人工智能技術的採用和興趣就出現了爆炸式增長。隨著越來越多的軟件供應商探索如何集成人工智能來創建新的解決方案，各行業的專業人士都將其視為企業的新領域。

一些人認為，到 2030 年，生成式人工智能有可能使全球 GDP 增長 7%。另一方面，許多人預見到這項技術可能會如何影響全球勞動力市場。其影響程度還有待觀察，但專家表示，它可能很快就會改變我們的工作方式。

儘管生成式人工智能最出名的是生成文本和圖像輸出，但它也有潛力做其他事情，例如編寫代碼和幫助數據分析。在 ChatGPT 的一次迭代中，用戶成功使用該工具在 60 秒內創建了可玩的 Pong 版本。

無論哪個行業，生成式人工智能都具有深遠的影響。但由於這項技術的進步速度如此之快，它也帶來了獨特的挑戰和被不良行為者濫用的可能性。在將這項創新技術與 G2 與審核審核相關的政策和流程聯繫起來之前，建立有關生成式 AI 的背景非常重要。

人工智能生成的內容將在未來幾年徹底改變內容創作，並可能擾亂現有的創意產業。由於這項技術充滿了潛力，因此也很可能被廣氾濫用。

不可否認，生成式人工智能令人印象深刻。但是，在潛水之前請考慮以下挑戰和風險。

道德和版權問題：許多人工智能生成內容的反對者指出了圍繞它的道德問題。由於這些模型是在現有內容上進行訓練的，因此引用來源和給予信任變得複雜。從使用人工智能的大學生到寫學期論文大規模“借用”代碼，抄襲和侵犯版權的風險是非常現實的。
內容質量：一般來說，生成式人工智能工具很引人注目。但正如任何作家或藝術家都會告訴你的那樣，它們不會很快取代人類的工作。人工智能的未來可能是技術和人類操作員的結合，但目前還不要指望用這些工具取代您的創意團隊。
錯誤信息和不准確之處：與內容質量類似，生成式人工智能幾乎無法阻止不准確、錯誤或誤導性的輸出。發布不准確的內容可能會損害品牌聲譽，因此對人工智能生成的內容進行事實核查保持警惕至關重要。
習得性偏見：人工智能生成內容的批評者提出的另一個方面是他們的模型使用人類內容。爭論的焦點是，由於人類存在隱性和顯性的偏見，這些人工智能模型學習這些模式和行為。

G2 擁有超過 200 萬條來自真實用戶的評論，是全球最大的 B2B 軟件市場。達到這一點需要我們團隊的大量努力和奉獻。但如果不尊重公正、真實評論的力量，這是不可能的。

這一切的核心是，我們知道人類信任他人的經歷，這就是為什麼我們優先考慮評論的質量而不是數量。買家開始信任 G2 研究和評估軟件，因為我們竭盡全力保證真實性，例如：

G2 採用公正的方式來審核評論。我們的目標是保證每一次評論都是評論者對產品體驗的誠實意見。我們還積極監控表明欺詐行為的模式。當發生此類情況時，我們會進行徹底的審核，取消相關審查，並實施必要的強制措施。

由於我們致力於提供公正的買家反饋，使用生成式 AI 撰寫大部分內容的評論不符合G2 的社區準則。

雖然我們仍然堅持評論應該來自真實的人，但一個例外是使用人工智能寫作助手。只要該工具僅旨在提高可讀性、語法和拼寫，我們歡迎審閱者使用這些工具。

還值得注意的是，G2 正在仔細考慮將人工智能工具納入審稿提交體驗的好處。與寫作助理如何幫助審稿人類似，我們正在不斷改進整個提交流程。

我們的團隊對所有新提交的審查都有嚴格的審查和審核流程。由於我們每天都會收集大量評論，因此我們必須將一流的技術與訓練有素、眼光敏銳的團隊成員周全地結合在一起。

AI 生成的評論 G2 每月拒絕，佔每月評論提交總數的 5-8%。

G2 使用領先的第三方工具和服務來檢測評論提交中人工智能生成的內容。雖然我們不會透露所使用的具體技術，但請放心，我們使用了市場上一些最受好評的軟件。

G2 可以使用的工具是企業級內容檢測解決方案，可以掃描並標記人工智能生成的內容。標記此內容後，我們的內部定性審核團隊會驗證這些實例。

重要的是要承認我們不鼓勵並拒絕使用生成式人工智能的提交內容。由於我們對真實評論力量的立場，我們的目標是在我們的流程檢測到人工智能生成的內容時拒絕評論，無論其意圖是合法還是欺詐。

除了使用第三方工具之外，我們還利用內部機器學習模型，從每個版主的決定中學習，以檢測欺詐性評論。該機器學習模型還使用其他數據（例如用戶的評論歷史記錄、社交媒體存在、提交模式、瀏覽器操作、IP 地址、位置信息等）來檢測欺詐活動。

雖然人工智能內容檢測和我們的機器學習模型有助於大規模標記虛假評論，但我們還利用審核員的專業知識來審核需要更大量評估的評論。我們的團隊擅長識別通常與欺詐活動相關的模式並創建有效的欺詐預防實踐。

由於生成式人工智能技術的爆炸式增長，未來幾年世界很可能會發生很大的變化。無數的內容創作者和品牌將必須適應和掌握這些工具才能保持競爭力。

但儘管這項技術可以帶來很多好處，但它可能帶來的潛在危害也是如此。 G2 擁抱並認識到生成式人工智能所帶來的巨大優勢。然而，我們仍然認為，只有來自真人的第一手體驗的評論才值得信賴。

因為我們相信真實評論的力量，所以您始終可以信賴 G2 來捍衛客戶的聲音。

借助人工智能的力量找到合適的軟件。使用 G2 的人工智能聊天機器人 Monty 探索研究的新方法。