深度伪造技术：一种新颖的互动方式

摘要: AI假货是一种虚假信息的威胁。但是，一些政客，高管和学者认为他们是扩大自己的影响力的一种方式。

深度伪造技术：一种新颖的互动方式

一家咨询公司Accenture在为一个潜在客户提出新项目的时候，采用了一种与众不同的方式。他们展示给客户的不是传统的幻灯片，而是几位真实员工的深度伪造视频，他们站在虚拟舞台上，完美地描述了他们希望参与的项目。

Accenture的高级总监Renato Scaff说：“我希望他们能够了解我们的团队。这也是我们与竞争对手区别开来的一种方式。”

这些深度伪造视频是由Touchcast生成的，Touchcast是一家Accenture投资的公司，提供一个以真实或合成人物为特色的互动演示平台。Touchcast的虚拟人物可以通过分析相关信息并即时生成答案的AI模型，以文字或语音回答提问。

Scaff对于他的深度伪造员工说：“有一种诡异的感觉，但更重要的是有一种很酷的感觉。”

深度伪造技术是一种强大而危险的虚假信息和声誉损害工具。但是，一些公司将这项技术视为一种巧妙而引人注目的与客户互动的新方式。

这些实验不仅限于企业领域。伦敦帝国理工学院商学院的创新、数字教育和分析实验室执行主任Monica Arés创建了真实教授的深度伪造视频，她希望这种方式能够更加吸引人并有效地回答学生在课堂之外的问题。Arés表示，这项技术有潜力增加个性化，提供管理和评估学生的新方式，并提高学生的参与度。她说：“你仍然可以听到一个人类的声音，所以感觉非常自然。”

这一切都要归功于人工智能。多年来，好莱坞电影工作室一直可以使用软件复制演员的声音、面部表情和举止，但近年来，人工智能使类似的技术普及并几乎免费。除了Touchcast之外，包括Synthesia和HeyGen在内的公司为企业提供了一种生成真实或虚假个体的虚拟形象，用于演示、营销和客户服务。

Touchcast的创始人兼首席执行官Edo Segal认为，数字化虚拟形象可能是一种新的呈现和互动内容的方式。他的公司开发了一款名为Genything的软件平台，允许任何人创建自己的数字化双胞胎。

与此同时，随着深度伪造技术在许多国家（包括美国）的选举即将到来，人们对其滥用的担忧也日益加剧。上个月，使用人工智能生成的虚假乔·拜登的自动电话被用来传播选举虚假信息。泰勒·斯威夫特最近也成为广泛可用的人工智能图像工具生成深度伪造色情内容的目标。

白宫人工智能特别顾问Ben Buchanan在最近接受WIRED采访时表示：“深度伪造图像确实令人担忧和震惊。”他说，斯威夫特的深度伪造“是一个更广泛趋势的关键数据点，这个趋势对女性和女孩造成了不成比例的网络骚扰和虐待。”

根据去年10月发布的白宫行政命令，美国人工智能安全研究所正在制定AI生成媒体的水印标准。此外，Meta、Google、微软和其他科技公司也正在开发用于检测AI伪造品的技术，这成为了一场高风险的人工智能竞赛。

然而，一些政治上的深度伪造应用突显了这项技术的双重潜力。

巴基斯坦前总理伊姆兰·汗在被困监狱的情况下，上周向他的政党支持者发表了一次激励演讲。这位前板球明星因其政党所称的军事政变而被监禁，他使用了深度伪造软件进行演讲，生成了一个逼真的他坐在桌子后面说出他从未真正说过的话的副本。

随着基于AI的视频处理技术的不断改进和使用的便捷性增加，企业和消费者对这项技术的合法用途的兴趣很可能会增长。中国科技巨头百度最近开发了一种方法，让其聊天机器人应用的用户可以生成深度伪造视频来发送农历新年的祝福。

即使对于早期采用者来说，滥用的潜力也不容忽视。Accenture的Scaff说：“毫无疑问，安全性必须是至关重要的。一旦你拥有了一个合成的双胞胎，你可以让他们做任何事情，说任何话。”