AI在很多方面可以提供帮助，无论是起草电子邮件、制作概念艺术，还是冒充朋友或亲戚进行欺诈。AI的用途非常广泛！但由于有些人不愿被欺骗，我们来聊一聊应该注意些什么。

近几年来，从文字到音频再到图像和视频，生成媒体的质量大幅提升，同时其制作成本和难度也大幅降低。同样的工具既可以帮助概念艺术家设计幻想中的怪物或飞船，也可以帮助非母语者改进他们的商业英语，但这些工具也可能被用来进行恶意活动。

不用担心终结者会敲你的门推销庞氏骗局——这些都是我们多年来一直面临的老骗局，但加上生成AI的扭曲，使其更容易、更便宜或更具说服力。

以下并非完整的清单，只是一些AI可以大幅增强的明显骗局。我们会在新的骗局出现时添加，或者提供更多保护自己的措施。

模仿家人和朋友的声音

合成声音已经存在几十年，但只有在最近一两年，技术进步才使得从几秒钟的音频中生成新声音成为可能。这意味着任何曾在公共场合播放过声音的人——比如新闻报道、YouTube视频或社交媒体上——都有可能被克隆声音。

骗子们已经利用这项技术生成逼真的假冒亲友的声音。这些声音可以说任何话，但在骗局中，它们最有可能录制一段求助的声音片段。

例如，父母可能会收到一个未知号码的语音邮件，听起来像是他们的儿子，说他在旅行中东西被偷了，有人让他用电话，然后问爸妈能否汇点钱到这个地址、Venmo收款人或某个商家。可以想象出很多变体，比如车出了问题（“他们不释放我的车，除非有人付款”）、医疗问题（“这种治疗不在保险范围内”）等。这种类型的骗局已经使用了拜登总统的声音。尽管他们抓住了这些罪犯，但未来的骗子会更加小心。

如何对抗语音克隆？

首先，不要费心去分辨假声音。它们每天都在变得更好，并且有很多方法可以掩盖任何质量问题。即使是专家也会被愚弄。

任何来自未知号码、电子邮件地址或账户的内容都应被自动视为可疑。如果有人说他们是你的朋友或亲人，请按照你平常的方式联系该人。他们可能会告诉你他们很好，正如你所猜测的，这是一个骗局。

如果你忽略了，骗子往往不会跟进——而家人可能会。所以在你考虑时，可以让可疑的信息保持未读状态。

个性化的钓鱼邮件和消息

我们都会时不时收到垃圾邮件，但生成文本的AI使得可以向每个个人发送定制的群发邮件。由于数据泄露频繁发生，很多个人数据已经泄露。

收到一封“点击这里查看您的发票！”的骗局邮件并附带明显吓人的附件，这种情况很常见。但即使有一点点背景信息，这些邮件突然变得非常可信，使用最近的位置、购买和习惯，使其看起来像是真人或真实问题。凭借一些个人信息，语言模型可以在几秒钟内为成千上万的收件人定制一封普通的邮件。

所以，原本“尊敬的客户，请查收您的发票附件”变成了“嗨，Doris！我是Etsy推广团队的。您最近看过的商品现在有50%的折扣！如果使用这个链接，运送到您在贝灵汉的地址是免费的。” 一个简单的例子，但还是可以看到有了真实姓名、购物习惯（容易找到）、大致位置（同上）等，信息突然不那么明显了。

最终，这些仍然只是垃圾邮件。但这种定制垃圾邮件以前必须由外国内容农场中的低薪人员完成。现在它可以由具有比许多专业作家更好文笔技能的LLM大规模完成。

如何对抗邮件垃圾邮件？

与传统垃圾邮件一样，警惕是你最好的武器。但不要指望在野外区分生成文本和人工文本。很少有人能做到，当然也不是另一种AI模型能做到的。

尽管文本有所改进，这种类型的骗局仍然面临让你打开可疑附件或链接的根本挑战。一如既往，除非你百分之百确定发件人的真实性和身份，否则不要点击或打开任何东西。如果你有一点不确定——这是一种需要培养的好感觉——不要点击，如果你有知识丰富的人可以转发给他们以获得第二意见，那就这么做。

“假你”身份和验证欺诈

由于过去几年数据泄露的数量（谢谢，Equifax），几乎可以肯定的是我们每个人都有大量个人数据在暗网中流传。如果你遵循良好的网络安全实践，大部分风险会因为你更改了密码、启用了多因素认证等而减轻。但生成AI可能会在这一领域带来新的严重威胁。

随着网上有大量关于某人的数据，甚至他们的声音片段，创建一个听起来像目标人物并拥有大量用于验证身份的事实的AI人格变得越来越容易。

想象一下。如果你在登录时遇到问题，无法配置身份验证应用程序，或丢失了手机，你会怎么做？可能会打电话给客户服务——他们会使用一些琐碎的事实来“验证”你的身份，比如你的出生日期、电话号码或社会安全号码。即使是更先进的方法，如“自拍”，也变得越来越容易被破解。

客户服务代表——我们不知道，也可能是AI——可能会满足这个假你并赋予它所有你实际打电话时会有的权限。从那个位置他们能做的事情各不相同，但没有一个是好的。

与此清单上的其他项一样，危险不在于这个假你有多逼真，而在于骗子可以广泛且反复地进行这种攻击。不久前，这种类型的假冒攻击代价高昂且耗时，因此通常仅限于高价值目标，如富人和首席执行官。如今，你可以创建一个工作流，生成数千个假冒代理，几乎不需要监督，这些代理可以自主拨打所有已知账户的客户服务号码——甚至创建新的账户。只需成功少数几次即可证明攻击成本的合理性。

如何对抗身份欺诈？

正如在AI来临之前一样，“网络安全101”是你的最佳选择。你的数据已经在外面；你无法将牙膏塞回管子里。但你可以确保你的账户对最明显的攻击进行适当保护。多因素认证是这里最重要的一步。任何严重的账户活动都会直接发送到你的手机上，电子邮件中会显示可疑登录或更改密码的尝试。不要忽视这些警告或将其标记为垃圾邮件，即使（尤其是）你收到很多这样的警告。

AI生成的深度伪造和敲诈

也许最可怕的新兴AI骗局形式是使用深度伪造图像进行敲诈。你可以感谢飞速发展的开放图像模型，让这种未来感和可怕的前景成为现实。对某些方面的前沿图像生成感兴趣的人们已经创建了工作流，不仅可以渲染裸体，还可以将其与任何能找到的面部结合起来。无需详细说明，它已经在使用了。

但一个意想不到的后果是延伸了一种常被称为“报复色情”的骗局，但更准确地描述为非自愿分发亲密图像（尽管像“深度伪造”一样，可能很难替换原始术语）。当某人的私人图像通过黑客攻击或报复的前任被公开时，第三方可以利用这些图像进行敲诈，威胁要广泛发布这些图像，除非支付一笔钱。

AI通过使不需要存在任何实际亲密图像来增强这种骗局。任何人的脸都可以被添加到AI生成的身体上，尽管结果并不总是令人信服，但如果它被像素化、低分辨率或部分模糊，可能会骗到你或其他人。而这正是让人支付保护费所需要的，尽管像大多数敲诈骗局一样，第一次支付不太可能是最后一次。

如何对抗AI生成的深度伪造？

不幸的是，我们正走向一个几乎任何人的假裸体图像都可以按需生成的世界。这令人恐惧、怪异且恶心，但遗憾的是，猫已经出袋。

除了坏人，没有人对这种情况感到高兴。但对于潜在的受害者来说，还有一些有利因素。这些图像模型可能在某些方面生成逼真的身体，但像其他生成AI一样，它们只知道被训练的内容。因此，假图像会缺乏任何显著的标志，例如，可能在其他方面明显错误。

尽管这种威胁可能永远不会完全消失，但受害者越来越多地有追索权，可以合法地迫使图像托管服务商删除图片，或禁止骗子在其发布的网站。随着问题的加剧，打击它的法律和私人手段也会增加。