拜登政府敦促科技行业关闭利用AI技术制作的滥用性图像市场

摘要: 当局说，拜登政府正在敦促科技公司和金融机构解决虐待AI生成的性图像的兴起。

拜登政府敦促科技行业关闭利用AI技术制作的滥用性图像市场

拜登政府正在敦促科技行业和金融机构关闭一个利用人工智能技术制作滥用性图像的市场。

新的AI工具可以轻松地创建逼真的、性暴露的深度伪造图像并在网上分享。

白宫呼吁公司自愿合作，希望它们承诺采取措施遏制这些图像的传播。

拜登的首席科学顾问阿拉蒂·普拉巴卡表示，非自愿图像的现象在AI工具的推动下迅速加剧，主要针对女性和女孩，可能会颠覆她们的生活。

私营部门应当加强对基于图像的性虐待的监管，特别是限制对宣传未成年人性暴力图像的网站的支付访问。

云服务提供商和移动应用商店也可以限制宣传未经个人同意创建或修改性图像的网络服务和移动应用程序。

无论是AI生成的还是真实的裸照被放在互联网上，受害者应当更容易地让在线平台删除这些图像。

值得注意的是，已经有一些学校在美国和其他地方开始应对由AI生成的深度伪造裸照描绘他们的学生的问题。

去年夏天，拜登政府促使亚马逊、谷歌、Meta、微软等主要技术公司做出承诺，在公开发布新的AI系统之前在其上设置一系列保障措施。

拜登还表示，政府对AI的保护措施需要得到立法的支持。

长期以来，已经有一些法律禁止制作和持有儿童性图像，即使它们是虚假的。

然而，对于使这些图像制作成为可能的技术工具和服务几乎没有监管。

斯坦福互联网观察中心在去年十二月表示，在巨大的AI数据库LAION中发现了数千张涉嫌儿童性虐待的图像。

伦敦的Stability AI表示，他们并没有批准威斯康辛州男子使用的早期模型。这些开源模型很难收回。

普拉巴卡表示，不仅是开源AI技术造成了伤害。

“这是一个更广泛的问题，”她说。“不幸的是，许多人似乎在使用图像生成器进行这类行为。我们看到这种现象的爆发，但我认为这并不是一个简单的开源和专有系统的问题。”