AI生成图像的利与弊

摘要: 开源工具允许任何人制作AI艺术。它们还被用来制作非自愿的深胶色情。

AI生成图像的利与弊

Reuven Cohen利用AI生成的图像吸引人们的注意，他希望引起人们对技术更黑暗用途的关注。AI生成图像技术的开源模型可以被任何人利用，缺乏监管。尽管一些社区成员努力阻止滥用，但开源模型的自由使用几乎无法控制。

研究AI有害用途多年的Henry Ajder表示，开源图像生成软件已成为深度伪造色情内容的基础。一些工具专门用于淫秽或骚扰用途，如数字去衣应用。但许多工具既可用于合法用途，也可用于骚扰用途。

一些开源人脸交换程序被娱乐行业使用，同时也成为“不法分子制作深度伪造的首选工具”。一家名为Stability AI的初创公司开发的高分辨率图像生成器Stable Diffusion声称拥有超过1000万用户，设有防止淫秽图像创建的限制措施。然而，该公司在2022年开源了一个可定制的图像生成器版本，网上有指南教如绕过内置限制。

LoRA是较小的AI模型，可轻松调整Stable Diffusion模型的输出风格、概念或姿势。它们在Civitai等AI模型市场上广泛可用。一些创作者呼吁不要将其用于不安全的图片，但一旦下载，创作者就无法控制其使用。

一些社区用户试图抵制大量色情和恶意图像，呼吁举报Reddit和模型托管网站上描绘未成年人的图像。4chan等网站上存在大量非法深度伪造色情内容，使用公开可用的程序和专门用于性图像的AI模型。