如何在营销中扩展大型语言模型的使用

正如我们所知，生成式人工智能和大型语言模型将改变营销行业。

TrustInsights.ai 首席数据科学家 Christopher Penn 在 MarTech 大会上发言时表示，为了保持竞争力，您需要了解这项技术以及它将如何影响我们的营销工作。

了解扩大使用大型语言模型 (LLM) 的方法、提示工程的价值以及营销人员如何为未来做好准备。

大型语言模型背后的前提

自推出以来，ChatGPT 一直是大多数行业的热门话题。 你不能在没有看到每个人对它的看法的情况下上网。 然而，佩恩说，了解其背后技术的人并不多。

ChatGPT 是一个基于 OpenAI 的 GPT-3.5 和 GPT-4 LLM 的人工智能聊天机器人。

法学硕士建立在英国语言学家约翰·鲁珀特·弗斯 (John Rupert Firth) 1957 年提出的一个前提之上：“你应该通过它所保留的公司来认识一个词。”

这意味着可以根据通常出现在单词旁边的单词来理解单词的含义。 简而言之，单词不仅由它们的字典定义定义，而且还由使用它们的上下文定义。

这个前提是理解自然语言处理的关键。

例如，看看下面的句子：

• “我在泡茶。”
• “我把茶洒了。”

前者指的是热饮，后者则是八卦的俚语。 在这些情况下，“茶”具有截然不同的含义。

词序也很重要。

• “我在泡茶。”
• “我泡的茶。”

上面的句子有不同的焦点，即使它们使用相同的动词“酿造”。

大型语言模型的工作原理

下面是transformers的系统图，transformers是构建大型语言模型的架构模型。

简而言之，转换器接受输入并将其转换（即“转换”）为其他东西。

法学硕士可用于创造，但更擅长将一件事变成另一件事。

OpenAI 和其他软件公司首先吸收大量数据，包括数百万份文档、学术论文、新闻文章、产品评论、论坛评论等等。

考虑一下“我正在泡茶”这句话在所有这些摄取的文本中出现的频率。

上面的亚马逊产品评论和 Reddit 评论就是一些例子。

注意这个短语保留的“公司”——也就是说，所有出现在“我正在泡茶”附近的词。

“味道”、“气味”、“咖啡”、“香气”等等都为这些法学硕士提供了背景。

机器无法读取。 因此，为了处理所有这些文本，他们使用了嵌入，这是转换器架构中的第一步。

嵌入使模型能够为每个单词分配一个数值，并且该数值在文本语料库中重复出现。

词的位置对这些模型也很重要。

在上面的示例中，数值保持不变，但顺序不同。 这是位置编码。

简单来说，大型语言模型是这样工作的：

• 机器获取文本数据。
• 为所有单词分配数值。
• 查看不同单词之间的统计频率和分布。
• 试着找出序列中的下一个单词是什么。

所有这些都需要大量的计算能力、时间和资源。

及时工程：必须学习的技能

我们为 LLM 提供的上下文和说明越多，他们返回更好结果的可能性就越大。 这就是提示工程的价值所在。

Penn 将提示视为机器将生产什么的护栏。 机器将在我们的输入中提取单词，并在开发输出时锁定它们的上下文。

例如，在编写 ChatGPT 提示时，您会注意到详细的说明往往会返回更令人满意的响应。

在某些方面，提示就像作家的创意简报。 如果你想正确地完成你的项目，你不会给你的作家一个单行指令。

相反，您将发送一份大小适中的摘要，涵盖您希望他们写的所有内容以及您希望他们写的内容。

扩大 LLM 的使用

当您想到 AI 聊天机器人时，您可能会立即想到一个 Web 界面，用户可以在其中输入提示，然后等待工具的响应。 这是大家见惯了的。

“无论如何，这都不是这些工具的最终游戏。 这是游乐场。 这是人类开始修补工具的地方，”Penn 说。 “这不是企业将其推向市场的方式。”

将即时写作视为编程。 您是一名开发人员，向计算机编写指令以使其执行某些操作。

针对特定用例微调提示后，您可以利用 API 并让真正的开发人员将这些提示包装在附加代码中，以便您可以通过编程方式大规模发送和接收数据。

这就是 LLM 将如何扩展和改变业务以使其变得更好。

由于这些工具随处可见，因此务必记住每个人都是开发人员。

这项技术将出现在 Microsoft Office——Word、Excel 和 PowerPoint——以及我们日常使用的许多其他工具和服务中。

“因为你是用自然语言编程，所以不一定是传统的程序员会有最好的想法，”Penn 补充道。

由于 LLM 由写作、营销或公关专业人士（而非程序员）提供支持，因此可能会开发出使用这些工具的创新方法。

给搜索营销人员的额外提示

我们开始看到大型语言模型对营销的影响，特别是搜索。

2 月，微软发布了由 ChatGPT 提供支持的新 Bing。 用户无需单击任何链接即可与搜索引擎对话并获得查询的直接答案。

“您应该期望这些工具能够从您的非品牌搜索中分一杯羹，因为它们以不需要点击的方式回答问题，”Penn 说。

“作为 SEO 专业人士，我们已经面对过这个问题，有特色片段和零点击搜索结果……但对我们来说情况会变得更糟。”

他建议使用 Bing Webmaster Tools 或 Google Search Console 并查看您的网站从非品牌信息搜索中获得的流量百分比，因为这是 SEO 的最大风险区域。