泰勒·斯威夫特粉丝联合起来对抗深度伪造色情视频

摘要: 泰勒·斯威夫特（Taylor Swift）的粉丝在流行歌星被明确，无情的深击骚扰之后反击。

泰勒·斯威夫特粉丝联合起来对抗深度伪造色情视频

本周，泰勒·斯威夫特的非自愿深度伪造色情视频在X平台上迅速传播，其中一篇帖子获得了超过4500万次浏览、2.4万次转发和数十万次点赞，直到被删除。

这位流行歌手拥有全球最忠诚、极度活跃且庞大到难以理解的粉丝群体。现在，斯威夫特的粉丝们正在寻找报复。

当超级粉丝们组织起来时，他们能够做到很多事情，比如韩流粉丝曾预订了数百张唐纳德·特朗普竞选集会的门票，试图破坏出席人数。随着2024年美国总统选举的临近，一些评论家甚至推测斯威夫特粉丝作为一个选民集团的力量。

但今天不是选举日，斯威夫特的粉丝们关注的是更紧迫的事情：尽可能地让音乐人的非自愿深度伪造视频难以被找到。现在，当你在X平台上搜索“泰勒·斯威夫特 AI”或“泰勒·斯威夫特深度伪造”等词语时，你会发现成千上万篇粉丝的帖子试图掩盖这些由人工智能生成的内容。在X平台上，“保护泰勒·斯威夫特”这个词组已经成为热门话题，有超过3.6万篇帖子。

有时，这些粉丝驱动的运动可能会越过界限。一些粉丝鼓励彼此去揭露传播深度伪造视频的X用户，而其他人则担心用更多的骚扰来对抗骚扰，尤其是当嫌疑人有一个相对常见的名字时，有时斯威夫特的粉丝可能会攻击错误的人。由于成千上万的粉丝参与到这个行动中，不可避免地，并非每个斯威夫特粉丝都会站在同一条战线上，有些人对“声誉”时代的了解比其他人更多。

对于那些搜索“泰勒·斯威夫特 AI”的人，这是一个信息：pic.twitter.com/2Q2AhkXjvL

根据网络安全公司Deeptrace的研究，随着可访问的生成式人工智能工具的兴起，这种骚扰行为已经变得非常普遍。约96%的深度伪造视频是色情的，而且几乎都是以女性为对象。

报告中写道：“深度伪造色情视频是一种专门针对和伤害女性的现象。”这种滥用甚至渗透到学校中，未成年女孩被同学用具有攻击性的非自愿深度伪造视频作为目标。因此，对于一些泰勒·斯威夫特的粉丝来说，这不仅仅是保护这位明星的问题。他们意识到这些攻击可能发生在任何人身上，不仅仅是名人，他们必须努力确立这种行为是不可容忍的先例。

一位名为LeAnn的TikTok用户在一段视频中说：“她现在为我们承受着打击。”“保护她，就是在保护自己和你的女儿。”

根据404 Media的说法，这些图片起源于一个专门使用生成式人工智能制作女性非自愿色情图片的Telegram聊天群。该群组指导其用户在微软的Designer上生成AI深度伪造视频；尽管这种内容违反了微软的政策，但其人工智能仍然能够生成这种内容，用户已经找到了绕过基本安全工具的简单方法。

在发表之前，微软和X没有回应请求评论。

国会正在推动立法，将非自愿深度伪造视频定为犯罪行为。弗吉尼亚州已经禁止深度伪造的复仇色情，纽约州代表伊维特·克拉克（D-NY）最近重新提出了《深度伪造问责法案》，她在2019年首次提出该法案。尽管批评人士担心很难对网络的黑暗角落进行立法，但一些人认为该法案至少可以建立一些保护免受这种滥用的法律先例。斯威夫特的粉丝还引起了娱乐巨头Ticketmaster的注意，该公司也拥有Live Nation。联邦贸易委员会主席莉娜·卡恩去年曾表示，购买斯威夫特的巡回演唱会门票的灾难性经历“比我所能做的任何事情都更能在一夜之间将更多的Z世代转变为反垄断主义者。”

这种滥用行为体现了人工智能迅猛发展的问题：公司建设速度过快，无法充分评估他们正在推出的产品的风险。因此，也许泰勒·斯威夫特的粉丝们将发起一场对快速发展的人工智能产品进行深思熟虑的监管之战，但如果需要一场针对名人的大规模骚扰运动才能让未经测试的人工智能模型面临任何形式的审查，那就是另一个问题了。