ChatGPT 的危险：伟大的个性化工具还是伟大的网络钓鱼技术？

OpenAI 的 ChatGPT 风靡全球。

除了已经尝试过它的数百万人之外，电子邮件服务提供商 (ESP) 正在使用活动数据对其进行培训，以生成高效的电子邮件主题行和内容。

Salesforce 用户正在探索 ChatGPT 如何创建公式和验证规则。 而且，微软现在已将其整合到其 Bing 搜索引擎中——已经有人说这是一个潜在的“谷歌杀手！”

那么，这项新技术是如何运作的呢？

ChatGPT（生成式预训练转换器）使用深度学习技术来处理数 TB 的网络数据（包含数十亿个单词），从而为用户的提示或问题创建答案。

互动就像与人交谈。 许多人说 ChatGPT 是第一个通过图灵测试的人工智能应用程序——这意味着它表现出与人类等同或无法区分的智能行为。

我们已经看到了一些引人注目的用例：

• 英国的泰晤士报使用 ChatGPT 撰写每日社论，然后要求读者识别哪些内容是机器创作的。 大多数不能！
• 在线贺卡零售商 Moonpig 正在考虑将 ChatGPT 集成到其系统中。 客户可以要求它生成个性化的消息或诗歌，而无需为正确的词而绞尽脑汁。

ChatGPT 实现了创新和生产力，这可能会改变游戏规则，与网络本身的创建相媲美。 但是每一枚硬币都有两个面。 这项新技术有潜在的阴暗面吗？

让我们看看 ChatGPT 如何为网络安全攻击者和防御者创造新的机会。

更好的网络钓鱼尝试

研究人员已经看到人工智能生成的代码被发布到网络犯罪论坛上。 来自“黑暗面”的 ChatGPT 用例之一是鱼叉式网络钓鱼——有意针对特定个人、组织或企业的电子邮件诈骗。 使用这种策略，欺诈者可以窃取数据用于恶意目的或在目标计算机上安装恶意软件。

在一个典型的例子中，一家公司的员工可能会收到一封来自他们的“CEO”的电子邮件，其中有一个紧急请求，要求他们参与链接的文档或阅读附件。 熟悉的名字搭配他们通常期望的请求会增加可信度——以及他们回应的可能性。

事实上，最近的皇家邮政勒索软件攻击完全有可能是从鱼叉式网络钓鱼电子邮件开始的。

因为 ChatGPT 可以以提名人的方式制作内容，鱼叉式网络钓鱼邮件很快就会变得更有说服力。 欺诈者现在可以请求听起来像目标 CEO 的内容，使信息更加真实，并最大限度地增加员工上当受骗的机会。

反社会工程学

ChatGPT 还可能增强其他形式的假冒欺诈，尤其是在需要建立信任的情况下。

使用 ChatGPT，欺诈者可以更有说服力地冒充银行员工、警察、税务官员（他们告诉受害者他们有未付账单）或服务提供商代表（他们声称受害者的路由器已被黑客入侵，他们需要远程访问他们的计算机）来解决问题）。

一个越来越常见的例子涉及来自“海外”的朋友或家人的消息。 他们通常会说他们的钱包和手机被偷了，有人借给他们另一部手机来申请应急资金。

原创内容的消亡

许多教育工作者非常担心 ChatGPT 意味着学生永远不需要再写一篇论文。

有些人已经对此进行了测试，提交了 AI 生成的文章，并获得了可靠的及格分数（前提是他们可以接受不是一流的）。 教育工作者越来越担心人工智能会导致大规模作弊，一些学校已经开始放弃家庭作业作文作为回应。

隐私问题

ChatGPT 可能知道韦伯太空望远镜最先拍摄到的是哪颗行星（当时是 HIP 65426 b）。 但这些数据的来源方式可能会与新兴隐私法发生冲突，例如通用数据保护条例(GDPR) 和加州消费者隐私法 (CCPA)。

在Clearview AI案例中，面部识别数据库是使用图像抓取建立的，最终导致泛欧监管机构处以数百万美元的罚款。

ChatGPT 的工作方式并不完全相同——更像是数据的食物搅拌机，原始成分不再可识别。 但仍然存在个人是否希望以这种方式使用他们的数据的问题。

侵犯版权的可能性更大。 在美国，针对 AI 艺术生成器 Stable Diffusion 的开发商 Stability AI 提起了集体诉讼。 检察官指控侵犯了原始图像所有者的权利。

而且，总部位于英国的照片和艺术图书馆 Getty Images 表示，它还将起诉 Stable Diffusion 未经许可使用其图像。

GPT = 立即获得保护

虽然这些场景听起来有点像世界末日，但有一些既定的最佳实践可以用作保障措施：

• 警惕永远是第一道防线。 银行和警察绝不会要求提供银行卡详细信息、PIN 或网上银行密码。 因此，请高度怀疑任何类似的请求。
• 收到电子邮件时，检查只有合法发件人才会拥有的数据。 这就是银行通常将邮政编码作为其信息的一部分的原因。 使用品牌指标进行消息认证 (BIMI) 也将在这里发挥关键作用，因为底层认证协议 (DMARC) 确认电子邮件来自经过验证的发件人。
• 在工作中，实施规则以突出显示来自组织外部的电子邮件。 一封声称来自您的 CEO 但以“外部”开头的电子邮件将是一个直接的危险信号。

如何识别 AI 创作的内容

我们还看到出现了新的策略来帮助识别 AI 创作的内容。 例如，开发了像GPTZero这样的工具来帮助教师和讲师确定他们学生的论文是否是机器创作的。

此外，有预测称 OpenAI 将在来自 ChatGPT 的文本中插入水印。

对于如何保护生成人工智能可能使用的数据，个人也会变得更有创意。 有一个著名的故事，关于摇滚乐队 Van Halen 要求将 M&M 巧克力豆的碗去掉，作为他们音乐会要求的一部分。 批评者指责他们让名声冲昏了头脑。 然后，他们的歌手大卫李罗斯解释说，这是为了确保他们与活动发起人（具有重要安全要求）的合同已被充分阅读。

人们完全有可能开始在网络上传播关于他们自己的不正确“事实”（类似于反垃圾邮件供应商部署原始垃圾邮件陷阱的方式）。

例如，我可以在博客中声明我在澳大利亚长大。 （实际上是南非。）任何认识我的人都会知道澳大利亚的参考资料是不真实的，如果随后在关于我的内容中使用它，那将是一个危险信号！

人工智能仍然是一股向善的力量

尽管我在这篇文章中概述了一些担忧，但这场人工智能革命的总体影响应该是非常积极的。

它可与汽车和计算机等其他重要发明相媲美。 工作会改变（生活也会改变），但新的工作将会出现——尤其是在与人工智能开发和部署相关的领域。 也许最重要的是，生产力将会提高。

想听听我们对生成式人工智能将如何服务于营销领域的预测吗？ 查看我们最近的电子邮件状态实时网络研讨会，我们在其中深入探讨了这些机会。

在回答您未提出的问题时，不，我没有使用 ChatGPT 来写这篇文章！