治理人工智能：营销应该发挥什么作用？

已发表: 2022-08-10

如果你有一个人工智能项目，你也有一个委员会、团队或机构，负责对人工智能的开发、部署和使用进行治理。如果您不这样做，则需要创建一个。

在我的上一篇文章中，我分享了在营销中应用 AI 和 ML 模型的关键领域，以及这些模型如何帮助您进行创新和满足客户需求。在这里，我看一下营销对人工智能治理的责任。

那么，什么是人工智能治理？

AI 治理就是我们所说的管理您使用 AI 的框架或流程。任何 AI 治理工作的目标都很简单——降低使用 AI 带来的风险。为此，组织必须建立一个流程来评估人工智能驱动算法的风险及其道德使用。

治理的严格程度高度依赖于行业。例如，在金融环境中部署人工智能算法可能比在制造业中部署人工智能具有更大的风险。使用人工智能来分配消费者信用评分需要比人工智能算法在工厂车间经济高效地分配零件的透明度和监督。

为了有效地管理风险，人工智能治理计划应该着眼于人工智能驱动应用程序的三个方面：

数据：算法使用什么数据？质量是否适合模型？数据科学家是否可以访问所需的数据？作为算法的一部分，隐私是否会受到侵犯？（尽管这不是故意的，但某些 AI 模型可能会无意中暴露敏感信息。）由于数据可能会随着时间而变化，因此有必要始终如一地管理数据在 AI/ML 模型中的使用。
算法。 如果数据发生了变化，它会改变算法的输出吗？例如，如果创建了一个模型来预测下个月将购买哪些客户，则数据将随着时间的推移而老化并影响模型的输出。模型是否仍在生成适当的响应或操作？由于营销中最常见的 AI 模型是机器学习，因此营销人员需要注意模型漂移。模型漂移是模型预测的任何变化。如果模型今天预测的结果与昨天的预测不同，则称该模型“漂移”了。
利用。 那些使用 AI 模型输出的人是否接受过如何使用它的培训？他们是否监控输出的差异或虚假结果？如果 AI 模型正在生成营销使用的操作，这一点尤其重要。使用相同的示例，模型是否识别出最有可能在下个月购买的客户？如果是这样，您是否对销售或支持代表进行了有关如何处理可能购买的客户的培训？您的网站是否“知道”这些客户在访问时该怎么做？这些信息会影响哪些营销流程？

人工智能治理可以通过多种方式构建，方法从高度控制到自我监控不等，这高度依赖于行业及其所在的企业文化。

为了能够指导模型开发及其验证和部署，治理团队通常由了解算法如何运行的技术成员和了解模型为何按计划工作的领导者组成。此外，代表内部审计职能的人通常位于治理结构中。

无论人工智能治理的结构如何，主要目标都应该是一个高度协作的团队，以确保人工智能算法、它们使用的数据以及使用结果的流程得到管理，从而使组织符合所有内部和外部法规。

这是一个采用集中式方法的组织的 AI 治理设计示例，在医疗保健、金融和电信等高度监管的行业中很常见：

营销参与人工智能模型的治理有几个原因。所有这些原因都与营销的使命有关。

为客户代言。营销的工作是确保客户获得购买和继续购买所需的信息，并宣传公司的产品。营销负责客户的体验并保护客户的信息。由于这些责任，营销组织应该参与任何使用客户信息的人工智能算法或任何影响客户满意度、购买行为或宣传的算法。

保护品牌。营销的主要职责之一是保护品牌。如果以任何可能损害品牌形象的方式部署人工智能模型，营销应该介入。例如，如果人工智能生成的信用评分用于提前确定哪些客户获得“家庭”折扣，那么营销应该是在如何部署该模型方面发挥着重要作用。营销应该是决定模型是否会产生适当结果的团队的一部分。营销人员必须始终问这样一个问题：“这种情况会改变我们的主要客户对与我们开展业务的感受吗？”

确保开放的沟通。 AI/ML 模型开发和部署中最常被忽视的领域之一是讲故事，这是帮助其他人理解模型应该做什么所必需的。透明度和可解释性是良好的、受管控的 AI/ML 建模的两个最重要的特征。透明度意味着创建的模型被创建者和使用它们的人以及组织的管理者和领导者完全理解。由于无法向内部业务负责人解释该模型的作用以及它是如何做的，AI 治理团队冒着无法从外部向政府监管机构、外部顾问或股东解释该模型的巨大风险。传达模型正在做什么以及它对业务意味着什么的“故事”是营销的工作。

保护营销部署的 AI 模型。 营销部门也应该是这些 AI/ML 模型的大用户，这些模型有助于确定哪些客户会购买最多，哪些客户将保持客户的时间最长，哪些最满意的客户可能会将您推荐给其他潜在客户或确实流失. 在这个角色中，营销部门应该在 AI 治理表中占有一席之地，以确保客户信息得到妥善管理，偏见不会进入模型，并为客户维护隐私。

阅读下一篇：营销中的人工智能和机器学习：您是否部署了正确的模型？

我想说，贵组织的 AI 治理将欢迎营销人员参与进来，但做好准备并做好功课永远不会有坏处。在开始之前，您需要熟悉以下一些技能和能力：

人工智能/机器学习理解。 您应该了解什么是 AI/ML 以及它们是如何工作的。这并不意味着您需要博士学位。在数据科学中，但是最好参加有关这些功能是什么以及它们的作用的在线课程。最重要的是您要了解模型应该产生什么样的影响，尤其是当它们冒着暴露客户信息或使组织面临财务或品牌风险的风险时。
数据。 您应该精通模型中使用的数据、收集方式以及更新方式和时间。为 AI 模型选择和管理数据是偏见可以进入算法的第一个地方。例如，如果您尝试分析特定产品的客户行为，您通常需要以相同方式收集和整理的大约四分之三的数据，以便获得完整且准确的信息。如果算法将使用营销数据，那么你的角色就更重要了。
过程。 您应该对部署算法的过程有很好的了解。如果您作为营销代表坐在 AI 治理团队中，并且正在评估的 AI 算法是针对销售的，那么您应该熟悉该流程以及营销如何以及在何处对该流程做出贡献。因为如果你在 AI Governance 团队服务，这是一项重要的技能，许多营销团队将任命营销运营负责人作为他们的代表。

无论您在 AI 治理中扮演什么角色，请记住它的重要性。确保在您的组织中负责任地部署 AI/ML 不仅势在必行，而且是一个持续的过程，需要持久性和警惕性，因为模型会继续从它们使用的数据中学习。

获取数字营销人员所依赖的每日通讯。