深度伪造技术及其威胁

摘要: 如果没有适当的准则和框架，则更多的组织有可能成为AI骗局的受害者。

深度伪造技术及其威胁

深度伪造是一种数字上的改变媒体形式，包括照片、视频和音频剪辑，看起来像真实的人。它们是通过训练一个人的真实剪辑的AI系统来创建的，然后使用该AI系统生成逼真（但不真实）的新媒体。深度伪造的使用变得越来越普遍。香港案件是近几周一系列备受关注的深度伪造事件中的最新案例。社交媒体上流传着泰勒·斯威夫特的假裸照，巴基斯坦一名被监禁的候选人的政党使用深度伪造视频发表演讲，一款深度伪造的“语音克隆”拨打电话给初选选民告诉他们不要投票。

不那么引人注目的深度伪造案例也在规模和复杂性上不断增加。在银行业，网络犯罪分子现在正试图通过使用人的语音克隆来冒充用户并获取他们的资金，以克服语音认证。银行已经开始提高他们识别深度伪造使用的能力，并增加认证要求。

网络犯罪分子还利用深度伪造对个人进行“鱼叉式网络钓鱼”攻击。一种常见的方法是通过使用语音克隆欺骗一个人的家人和朋友，冒充某人打电话并要求将资金转账到第三方账户。去年，McAfee的一项调查发现，70%的受访者不确定自己能否区分人和他们的语音克隆，近一半的受访者表示，如果打电话的家人或朋友声称自己被抢劫或遇到车祸，他们会回应转账请求。

保护自己免受深度伪造的威胁

1. 对员工进行教育，持续不断地教育他们关于AI-enabled scams以及新的AI能力及其风险。
2. 升级网络钓鱼指导，包括深度伪造威胁。许多公司已经教育员工警惕网络钓鱼邮件，并在收到可疑请求时敦促谨慎。这种网络钓鱼指导应该包括AI深度伪造诈骗，并指出它可能不仅仅使用文本和电子邮件，还可能使用视频、图像和音频。
3. 适当增加或校准对员工、商业伙伴和客户的认证。例如，根据决策或交易的敏感性和风险，使用多种认证方式。
4. 考虑深度伪造对公司资产的影响，如标志、广告人物和广告活动。这些公司资产可以很容易地通过深度伪造复制，并通过社交媒体和其他互联网渠道迅速传播。考虑公司如何减轻这些风险并教育利益相关者。
5. 预计会有更多且更好的深度伪造，鉴于生成AI的改进速度、2024年进行的大选进程数量以及深度伪造在人与人之间以及跨国界传播的便捷性。