John Jantsch (00:00)：嘿，您知道 HubSpot 年度入站會議即將召開嗎？ 這是正確的。 將於 9 月 5 日至 8 日在波士頓舉行。 每年，業務、銷售、營銷、客戶成功、運營等領域的領導者都會齊聚一堂。 您將能夠發現所有必須了解的最新趨勢和策略，您可以實際實施這些趨勢和策略，以可持續的方式擴展您的業務。 您可以向行業專家學習，並受到令人矚目的人才的啟發。 今年，瑞茜·威瑟斯彭 (Reese Witherspoon)、德里克·傑特 (Derek Jeter)、蓋伊·拉茲 (Guy Raz) 等明星都將亮相。 立即訪問 inbound.com 並獲取機票。 你不會後悔的。 這個節目一定能激發靈感並恢復活力。 這是正確的。 立即前往 inbound.com 獲取機票。

(01:03)：大家好，歡迎收看管道膠帶營銷播客的另一集。這是約翰·詹奇。 今天我的客人是肯尼思·溫格。 他是一位作家、多倫多城市大學的研究學者和 Squint AI Inc. 的首席技術官。他的研究興趣在於人類與機器的交叉，確保我們建立一個基於負責任地使用技術的未來。 今天我們要討論他的書《算法對我們不利嗎？：人工智能概念、數學和陷阱的外行指南》。 那麼，肯，歡迎來到這個節目。

肯尼思·溫格 (01:40)：嗨，約翰。非常感謝。 謝謝你有我。

John Jantsch (01:42)：所以，我們要討論這本書，但我，我只是好奇，Squint AI 是做什麼的？

肯尼思·溫格 (01:47)：這是一個很好的問題。所以，squint ai，嗯，是我們創建的一家公司，嗯，做一些研究並開發一個平台，使我們能夠，嗯，

(02:00)：以一種更負責任的方式，呃，做人工智能。好的。 好的。 所以，呃，我確信我們會討論這個，但是我在書中也在很多情況下談到了它，我們談論，呃，人工智能，人工智能的道德使用，一些艾的垮台。 因此，我們正在用 Squint 做的是，我們試圖弄清楚，你知道，我們如何嘗試創建一個環境，​​使我們能夠以某種方式使用人工智能，讓我們了解這些算法何時無法執行當他們犯錯誤等等時，他們處於最佳狀態。 是的，

約翰·詹奇 (02:30)：是的。所以，你的書的標題是《算法繪圖反對》，這是一個有點挑釁性的問題。 我的意思是，顯然我確信有人會說不，有些人說，嗯，絕對如此。 那麼，為什麼要問這個問題呢？

肯尼思·溫格 (02:49)：嗯，因為我實際上覺得這是一個由許多不同的人提出的問題，實際上具有不同的含義。正確的？ 所以，這幾乎與人工智能是否構成生存威脅的問題相同？ 我，我，這個問題對不同的人來說意味著不同的事情。 正確的。 所以我想在書中深入探討這一點，並嘗試做兩件事。 首先，為人們提供能夠自己理解這個問題的工具，對吧。 首先弄清楚他們在這場辯論中的立場，然後，嗯，你知道，一路上也提供我的觀點。

約翰·詹奇 (03:21)：是的，是的。我可能沒有像我想的那樣優雅地問這個問題。 我實際上認為你問這個問題很好，因為最終我們想做的是讓人們做出自己的決定，而不是說，人工智能是這樣，或者人工智能不是這樣。 正確的。

肯尼思·溫格 (03:36)：沒錯。這是正確的。 而且，而且，再一次，特別是因為這是一個微妙的問題。 是的。 這對不同的人來說意味著不同的事情。

John Jantsch (03:44)：這是一個非常困難的問題，但我要問你，你知道，我們真正處於人工智能的連續體中嗎？我的意思是，多年來一直關注這個話題的人們意識到它已經融入到我們每天使用的許多東西中，並認為這是理所當然的，顯然我們 ChatGPT 帶來了另一類人，你知道，現在至少有一個關於它是什麼的談話詞彙。 但我記得，你知道，我已經、我已經、我擁有自己的事業 30 年了。 我的意思是，我們沒有網絡，我們沒有網站，你知道，我們沒有現在肯定發揮作用的移動設備，但我記得當每一個出現時，人們就像，哦，我們注定要失敗。 結束了。 正確的。 那麼，目前圍繞人工智能有很多此類語言，但你認為我們真正處於進化的連續體中的哪個位置？

Kenneth Wenger (04:32)：你知道，這是一個很好的問題，因為我認為我們實際上還處於起步階段。是的。 我認為，我們在很短的時間內取得了顯著的進展，但我認為我們仍然處於非常早期的階段。 你知道，如果你想到我們現在的人工智能水平，我們已經在十年前取得了一些進展。 但我認為，從根本上來說，在科學層面上，我們才剛剛開始觸及表面。 我給你舉一些例子。 所以最初，你知道，第一個模型，它們非常擅長為我們提供一些證據，證明這種提出問題的新方式本質上是，呃，神經網絡。 是啊是啊。 正確的。 它們是非常複雜的方程。 呃，如果你使用 GPU 來運行這些複雜的方程，那麼我們實際上可以解決相當複雜的問題。 這是我們在 2012 年左右以及在 2017 年左右意識到的事情，所以在 2012 年到 2017 年之間，進展是非常線性的。

(05:28)：你知道，新的模型被創建了，新的想法被提出了，但事情的擴展和進展非常線性。但在 2017 年之後，隨著 Transformer 模型的引入，它是 chat、g、pt 和所有這些大型語言模型背後的基礎架構，我們有了另一種實現。 就在那時，我們意識到，如果你採用這些模型，然後將它們放大，就模型的大小和我們用來訓練它們的數據集的大小而言，它們會呈指數級增長。 好的。 就在那時，我們到達了今天的地步，我們再次意識到，自 2017 年以來，僅僅通過縮放它們，我們就沒有做任何根本上不同的事情。我們所做的就是增加模型的大小，增加數據集的大小，而且它們的性能呈指數級增長。

John Jantsch (06:14)：所以，乘法而不是加法？

肯尼思·溫格 (06:18)：嗯，是的，完全正確。是的。 所以，事實並非如此，進步是指數級的，不僅僅是在線性軌跡上。 是的。 但我認為，事實上，我們在這些模型中沒有從根本上改變太多，這種情況很快就會逐漸減少。 這是我的期望。 現在我們處於時間軸的哪個位置？ 這是你原來的問題。 我想，如果你想想模特們今天在做什麼，就會發現他們所做的事情非常重要。 本質上，他們正在做非常簡單的統計。 嗯嗯。 ，它們並不是這些模型被稱為人工智能的想法。 正確的。 我認為有時這有點用詞不當。 我同意。 這引發了人們的一些問題。 嗯，因為那裡並沒有太多深度智能，只是統計建模，而且非常簡單。 然後我們從這裡走向何方，我希望未來是什麼，那就是我們開始的時候，我認為，當我們開始獲得不僅能夠進行簡單統計的模型時，事情將會發生巨大變化，但能夠理解他們想要實現的目標的背景。 是的。 並且能夠理解正確答案和錯誤答案。 因此，例如，他們，他們，他們，他們能夠知道什麼時候他們在談論他們知道的事情，什麼時候他們在迴避他們並不真正了解的事情的灰色地帶。 那有意義嗎？ 是的，

約翰·詹奇 (07:39)：當然。我的意思是，我完全同意你關於人工智能的看法。 我實際上一直稱它為ia。 我認為這更多的是信息自動化。 這就是我的看法，至少在我的工作中是這樣。 你是否看到有一天，你知道，提示提問，你知道，這就是很多人在街頭使用人工智能的方式。 你是否有一天會開始向你提問？ 比如，你為什麼想知道這個？ 或者你想通過問這個問題來實現什麼目的？

肯尼思·溫格 (08:06)：是的。所以，簡單的答案是肯定的。 我，我絕對願意。 我認為這就是實現更高水平智力的一部分。 當他們不只是執行你的命令時，它不僅僅是一個工具。 是啊是啊。 呃，但是他們，他們有自己想要實現的目標。 所以那時你會看到諸如問題之類的事情本質上是由系統產生的，對嗎？ 當他們有一個想要實現的目標時，你知道，然後他們制定一個計劃來實現該目標。 那時你會看到一些事情的出現，比如向你提出的問題。 我認為我們還沒有做到這一點，但是，是的，我認為這當然是可能的。

John Jantsch (08:40)：但這也是科幻版本，對吧？我的意思是，人們開始說，你知道，電影，就像，不，不，肯，你還不知道這些信息。 我會決定你什麼時候能知道。

肯尼思·溫格 (08:52)：嗯，你是對的。我的意思是，這個問題，你問問題的方式更像是，原則上可能嗎？ 我認為絕對是。 是的。 是的。 我們想要那個嗎？ 我是說，我，我不知道。 我想這是一部分，是的，這取決於我們正在考慮的用例。 呃,但是從第一原理的角度來說是的,是的,這當然是可能的。 是的。 不是為了得到一個模型

約翰·詹奇 (09:13)：這樣做。 所以我，我確實認為有很多人，他們對人工智能的唯一理解是我去這個有一個盒子的地方，我輸入一個問題，它會給出一個答案。 由於標題中同時包含了外行和數學，您能否給我們提供一些外行版本的信息？

肯尼思·溫格 (09:33)：是的，絕對如此。所以，好吧，至少我會嘗試，讓我這樣說， ，剛才我提到這些模型，本質上它們是什麼，它們是非常簡單的統計模型。 這本身，這句話本身，有點爭議，因為歸根結底，我們不知道我們擁有什麼樣的情報，對嗎？ 因此，如果你考慮一下我們的智力，我們不知道在某種程度上我們是否也是一個統計模型，對吧？ 然而，我今天所說的像 ChatGPT 這樣的大型語言模型中的人工智能是簡單的統計模型，我的意思是它們正在執行一項非常簡單的任務。 因此，如果你想到 ChatGPT，他們正在做的就是嘗試，本質上是預測序列中的下一個最佳單詞。 這就是他們所做的一切。 他們這樣做的方式是計算所謂的概率分佈。

(10:31)：基本上，對於 a、a、提示或文本語料庫中的任何單詞，他們都會計算該單詞屬於該序列的概率。正確的？ 然後他們選擇下一個正確概率最高的單詞。 好的？ 現在，從以下意義上來說，這是一個非常簡單的模型。 如果你想想我們如何溝通，對吧？ 你知道，我們現在正在談話。 我想當你問我一個問題時，我，我會停下來思考我要說什麼，對吧？ 所以我有一個世界模型，我的談話有一個目的。 我想出我想要回應的想法，然後我利用我的能力來說出並發音來與你溝通。 正確的？ 我的大腦中可能有一個與大型語言模型非常相似的系統，從某種意義上說，一旦我開始說單詞，我要說的下一個單詞就是最有可能的單詞鑑於我剛才所說的話，是正確的。

(11:32)：這很有可能。這是真的。 然而不同的是，至少我已經在某個潛在的空間裡對我要說的話有了一個計劃。 我已經以某種形式編碼了。 我想表達的是，我怎麼說，專業人士產生這些單詞的能力可能與語言模型非常相似。 但不同之處在於，大型語言模型試圖弄清楚它要說什麼，同時提出這些單詞。 嗯嗯。 ， 正確的？ 那有意義嗎？ 所以這有點像他們在胡言亂語，有時如果他們說得太久，他們就會在無意義的領域里胡言亂語。 是的。 是的。 因為他們不知道自己要說什麼，直到他們說出來。 。 是的。 所以，這是一個非常根本的區別。 是的。

John Jantsch (12:20)：我，我，我當然看到了一些非常有趣的輸出。但是，你知道，正如我聽到你談論的那樣，我的意思是，在很多方面，我們正在做的就是我們正在查詢我們所教的內容的數據庫，是我們所學的單詞。除了我們研究過的概念之外，我們還知道這些概念，並且能夠清楚地表達出來。 我的意思是，在某些方面我們正在向我詢問，提示或我也問你一個問題，我的意思是，它的工作原理類似。 你可以說

Kenneth Wenger (12:47)：提出問題然後回答它的方面，它是相似的，但不同的是，你試圖描述的概念。 所以，再一次，當你問我一個問題時，我會思考，然後我想出，所以我再一次，我有一個世界模型，到目前為止對我來說有效，可以幫助我度過一生，對嗎？ 這個世界模型讓我以不同的方式理解不同的概念。 當我要回答你的問題時，我會思考，制定答案，然後找到一種與你溝通的方法。 好的？ 這些語言模型正在做的事情缺少這一步，對吧？ 他們得到了提示，但沒有任何步驟讓他們制定具有某種目標的響應，對吧？ 正確的？ 是的。 某種目的。 他們本質上是在獲取文本，並嘗試生成一系列單詞，這些單詞在生成時正在被弄清楚，對嗎？ 沒有最終的計劃。 所以，這是一個非常根本的區別。

John Jantsch (13:54)：現在，讓我們聽聽贊助商“營銷變得簡單”的一句話。這是由 J j Peterson 博士主持的播客，由 HubSpot Podcast Network 為您帶來，HubSpot Podcast Network 是商務專業人士營銷變得簡單的音頻目的地，為您帶來實用的技巧，讓您的營銷變得簡單，更重要的是，讓它發揮作用。 在最近的一集中，JJ 和 April 與 StoryBrand 認證指南和機構所有者討論如何使用 ChatGPT 進行營銷。 我們都知道這在今天有多重要。 聽聽《營銷變得簡單》。 無論您在哪裡獲取播客。

(14:30)：嘿，營銷機構老闆，你知道，我可以教你在短短 90 天內將你的業務翻倍的關鍵，或者你的退款。聽起來很有趣。 您所要做的就是許可我們的三步流程，這將使您能夠讓您的競爭對手變得無關緊要，為您的服務收取溢價，並在不增加管理費用的情況下進行擴展。 這是最好的部分。 您只需參加即將舉行的機構認證強化考察，即可為您的機構授權整個系統，為什麼要創造輪子呢？ 使用我們花費 20 多年創建的一套工具。 今天您就可以擁有它們，請訪問 dtm.world/certification 進行查看。 這就是 DTM 世界斜線認證。

(15:18)：我確實想要喜歡未來的發展，但我想詳細討論一下您在書中深入探討的幾件事。你知道，除了媒體傳播的恐懼之外，還有什麼，你知道，依賴人工智能的真正的、明顯的陷阱是什麼？

Kenneth Wenger (15:38)：我認為最大的問題之一，我的意思是，當我開始寫這本書時，對我來說真正的動力是，它是一個強大的工具，原因有兩個。看起來很容易使用，對嗎？ 是的。 你可以花一個週末學習Python，你可以寫幾行，你可以轉換，你可以分析，你可以解析以前僅使用庫無法完成的數據。 因此，您實際上不必了解自己在做什麼，並且可以獲得一些看起來有用的結果，好嗎？ 嗯嗯。 ，但是在這個過程中加熱，對嗎？ 事實上，您可以獲取大量數據，以某種方式對其進行修改，然後獲得響應，獲得一些結果，而無需了解中間發生的情況，這會對誤解您所獲得的結果產生巨大影響， 正確的？ 然後，如果您在世界上使用這些工具，對吧？

(16:42)：以一種可以影響其他人的方式。例如，你知道，假設你在一家金融機構工作，你想出了一個模型來弄清楚，呃，你應該給誰，你應該給誰一些信用，獲得，你知道，批准為、為信貸、為信貸額度，以及你不應該為誰。 現在，現在，銀行有自己的模型，但當然，如果你把人工智能從中剔除，傳統上這些模型是由統計學家仔細考慮的，他們可能偶爾會出錯，但至少他們有一個很大的你知道，分析數據、使數據產生偏差意味著什麼，對嗎？ 數據偏差會產生什麼影響？ 如何擺脫所有這些事情是一個優秀的統計學家應該接受培訓的事情。 但現在，如果你去掉統計學家，因為任何人都可以使用模型來分析數據並獲得一些預測，那麼最終會發生的情況是，你最終會拒絕和批准那些與你一起的人的信用額度，你知道，其後果可能是，你知道，是由數據中非常負面的偏見驅動的，對嗎？

(17:44)：就像，它可能會對某些人群產生負面影響。也許有些人無法再獲得信貸額度，只是因為他們住在某個特定的社區……嗯。 ，或者他們，你知道，有很多原因導致這可能成為一個問題，

John Jantsch (17:57)：但這不是以前的一個因素嗎？我的意思是，當然會考慮社區，你知道，作為的一部分，你知道，即使在模擬模型中，我認為也是如此。

肯尼思·溫格 (18:06)：是的，絕對如此。就像我說的，我們總是存在偏見的問題，對吧？ 數據裡有吧？ 但傳統上，你會希望，所以會發生兩件事。 首先，你會希望無論是誰提出一個模型，僅僅因為這是一個複雜的問題，他們就必須接受一些令人滿意的統計訓練。 是的。 正確的？ a，道德統計學家必須考慮如何處理數據中的偏差，對吧？ 所以這是第一。 第二，我們現在面臨的問題是，首先，你不需要做出這樣的決定。 您可以只使用該模型而不了解發生了什麼，對吧？ 正確的。 更糟糕的是，對於這些模型，我們實際上無法理解，或者傳統上很難理解模型是如何到達或預測的。 因此，如果您被拒絕信用額度，或者正如我在書中談到的保釋，例如，在法庭案件中，呃，很難爭論，好吧，為什麼是我？ 為什麼，為什麼我這件事被拒絕了？ 然後，如果您使用傳統方法再次審核並做出決定，您總是可以問，那麼您是如何建模的？ 呃，為什麼這個人在審計中被拒絕了這個特殊案例？ 嗯嗯。 例如，對於一個神經網絡，這會變得更加複雜。

John Jantsch (19:21)：所以我，我的意思是，所以你所說的，最初的問題之一是人們依賴輸出、數據。我的意思是，甚至，你知道，我以一種非常簡單的方式使用它。 我經營一家營銷公司，我們經常使用它來為我們提供文案創意，為我們提供標題創意，你知道，一些事情。 所以我真的不覺得那裡有任何真正的危險，除了聽起來可能和其他人一樣在你的副本中。 呃，但是，但是你是說，你知道，當人們開始依賴這些來做出應該知情的決定時，很多時候預測都是錯誤的。

肯尼思·溫格 (19:57)：是的。而且，而且非常，所以答案是肯定的。 現在，有兩個原因。 順便說一句，讓我回過頭來說一下，在某些用例中，您當然必須將其視為一個頻譜，對嗎？ 就像是的，是的。 在某些情況下，犯錯的後果比其他情況更嚴重，對嗎？ 所以正如你所說，如果你試圖生成一些副本，並且你知道，如果它是無意義的，那麼你就繼續更改它。 到最後，你可能還是會回顧它。 所以，成本更低，可能更低。 例如，錯誤的成本將低於在司法程序中使用模型的情況。 正確的？ 正確的。 正確的。 現在，關於這些模型有時會犯錯誤的事實，其原因是這些模型實際工作的方式是它們，而且，可能具有欺騙性的部分是它們往往非常適合也就是說，他們非常了解數據中的領域。

(20:56)：所以，如果你想到一個數據集，對嗎？因此，他們使用數據集中的大部分數據進行訓練，他們將能夠很好地對其進行建模。 這就是為什麼您得到的模型在特定數據集上的準確率達到 90%。 問題是，對於 10% 的人來說，他們無法很好地建模，那裡的錯誤是顯著的，而且在某種程度上，人類是不可能犯這些錯誤的。 是的。 那麼在這些情況下會發生什麼，首先，當我們訓練我們得到的這些模型時，我們說，嗯，你知道，我們在這個特定的數據集中得到 10% 的錯誤率。 一個問題是，當您將其投入生產時，您不知道這些錯誤的發生率在現實世界中是相同的，對吧？

(21:40)：您最終可能會遇到這樣的情況：您獲得的數據點導致錯誤的比率比您在數據集中的錯誤率高得多。只有一個問題。 第二個問題是，如果你處於一個用例中，如果你的生產，你知道，應用程序，那麼錯誤可能會付出代價，比如在醫療用例或自動駕駛中，當你必須回去解釋為什麼你出錯了，為什麼模型出錯了，而這與人類出錯的地方有如此奇怪的不同。 這是我們今天沒有在安全關鍵領域部署這些系統的根本原因之一。 順便說一句，這就是我們創建夾板的根本原因之一，就是為了專門解決這些問題，就是弄清楚我們如何創建一組模型或一個系統，能夠具體理解模型何時做對了，並且當他們在運行時出錯時。 因為我真的認為這是我們目前沒有取得應有進展的根本原因之一。 這是因為當模型工作得非常好時，呃，當他們能夠對數據進行建模時，那麼他們就會工作得很好。 但對於他們無法對這部分數據進行建模的情況，錯誤簡直令人難以置信，對吧？ 這是人類永遠不會製造的東西

約翰·詹奇 (23:00)：錯誤。 耶耶耶。 而且，顯然，你知道，在任何人信任發送由人工智能或其他東西引導的載人航天器之前，這肯定是必須解決的，對嗎？ 我的意思是，當你知道人的生命處於危險之中時，你就知道，你必須有信任。 因此，我想，如果你不能相信這個決策，那肯定會阻止人們使用這項技術。

肯尼思·溫格 (23:24)：對嗎？或者，例如，正如我所說，使用它們來幫助醫療領域，例如癌症診斷，對吧？ 如果您希望模型能夠檢測某些類型的癌症（例如活檢掃描），您希望能夠信任該模型。 現在任何東西、任何模型本質上都會犯錯誤。 沒有什麼是完美的，但你希望發生兩件事。 首先，您希望能夠最大限度地減少模型可能犯的錯誤類型，並且您需要有一些跡象表明模型的預測質量不佳。 你不想擁有那個。 是的。 其次，一旦發生錯誤，你必須能夠辯護說，錯誤發生的原因是因為數據的質量，你知道，即使是人類也無法做得更好。 是的。 我們不能讓模型犯錯誤，讓人類醫生看到後說，好吧，這顯然是不對的。

約翰·詹奇 (24:15)：是的。是的。 絕對地。 好吧，肯，我想，呃，我想感謝您花一點時間觀看管道膠帶營銷播客。 你想告訴人們在哪裡可以找到，如果你願意的話可以與你聯繫，然後顯然他們可以在哪裡找到《算法正在針對我們嗎？》的副本。

肯尼思·溫格 (24:29)：當然。首先非常感謝您邀請我。 這是一次很棒的談話。 所以，是的，你可以在 LinkedIn 上聯繫我，也可以向警察索要這本書的副本，也可以從亞馬遜以及我們的出版商網站（即工作 fires.org）獲取該書。

約翰·詹奇 (24:42)：太棒了。好吧，再次感謝您通過愉快的談話解決了問題。 希望有一天我們會在路上遇到你。

肯尼思·溫格（24:49）：謝謝。

John Jantsch (24:49)：嘿，走之前還有最後一件事。你知道我如何談論營銷策略，先策略後戰術嗎？ 好吧，有時可能很難理解您在這方面的立場，以及在製定營銷策略方面需要做什麼。 因此我們為您創建了一個免費工具。 這稱為營銷策略評估。 您可以在 @marketingassessment.co、not.com、dot co 找到它。 查看我們的免費營銷評估，了解您當前的策略狀況。 這只是marketingassessment.co。 我很樂意與您討論您得到的結果。