AI开发者需要保护他们的机密配方

摘要: 苏珊·赖斯（Susan Rice）帮助白宫经纪人与OpenAI和其他科技公司达成了AI安全协议，她说她担心中国会窃取美国AI秘密。

AI开发者需要保护他们的机密配方

去年，白宫与AI开发者达成了一项具有里程碑意义的安全协议，其中包括Google和OpenAI等公司承诺在创建类似CHAT GPT背后的软件时考虑可能出现的问题。现在，拜登总统的前国内政策顾问表示，AI开发者需要在另一个方面加强：保护他们的机密配方免受中国的侵害。

“因为他们落后了，他们会想要利用我们拥有的东西，”Susan Rice关于中国表示。她去年离开了白宫，并在周三的一场由斯坦福大学人类中心AI研究所举办的关于AI和地缘政治的活动中发表讲话。她说：“无论是通过购买和修改我们最好的开源模型，还是窃取我们最好的机密。我们确实需要看整个谱系，我们如何保持领先，我担心在安全方面，我们正在落后。”

Rice提出的担忧并非假设。今年三月，美国司法部对一名前Google软件工程师提出了指控，称其涉嫌窃取与该公司TPU AI芯片相关的商业机密，并计划在中国使用。

一些AI开发者和研究人员并不普遍认为他们的代码和其他组件需要保护。一些人认为今天的模型还不够复杂，不需要锁定，而像Meta这样开发开源AI模型的公司则发布了许多政府官员（如Rice）建议紧密保护的内容。Rice承认，加强安全措施可能会导致美国公司在改进其AI系统的人才库方面落后。

对于保护AI模型的兴趣和担忧似乎在增加。就在上周，美国智库RAND发布了一份报告，指出AI项目中秘密可能泄露的38种方式，包括贿赂、闯入和利用技术后门。

RAND的建议包括鼓励员工报告同事的可疑行为，并只允许少数员工访问最敏感的材料。其重点是保护所谓的模型权重，即人工神经网络内部的值，在训练过程中调整以赋予其有用功能，例如CHAT GPT回答问题的能力。

根据拜登总统去年十月签署的一项全面的AI行政命令，美国国家电信和信息管理局预计今年将发布一份类似的报告，分析保持权重保密的利弊。该命令已要求正在开发先进AI模型的公司向美国商务部报告“采取的物理和网络安全措施以保护这些模型权重”。美国正在考虑出口管制，限制向中国出售AI，路透社上个月报道。