AI开发者需要保护他们的机密配方

摘要: 苏珊·赖斯(Susan Rice)帮助白宫经纪人与OpenAI和其他科技公司达成了AI安全协议,她说她担心中国会窃取美国AI秘密。

图片

AI开发者需要保护他们的机密配方

去年,白宫与AI开发者达成了一项具有里程碑意义的安全协议,其中包括Google和OpenAI等公司承诺在创建类似CHAT GPT背后的软件时考虑可能出现的问题。现在,拜登总统的前国内政策顾问表示,AI开发者需要在另一个方面加强:保护他们的机密配方免受中国的侵害。

“因为他们落后了,他们会想要利用我们拥有的东西,”Susan Rice关于中国表示。她去年离开了白宫,并在周三的一场由斯坦福大学人类中心AI研究所举办的关于AI和地缘政治的活动中发表讲话。她说:“无论是通过购买和修改我们最好的开源模型,还是窃取我们最好的机密。我们确实需要看整个谱系,我们如何保持领先,我担心在安全方面,我们正在落后。”

Rice提出的担忧并非假设。今年三月,美国司法部对一名前Google软件工程师提出了指控,称其涉嫌窃取与该公司TPU AI芯片相关的商业机密,并计划在中国使用。

一些AI开发者和研究人员并不普遍认为他们的代码和其他组件需要保护。一些人认为今天的模型还不够复杂,不需要锁定,而像Meta这样开发开源AI模型的公司则发布了许多政府官员(如Rice)建议紧密保护的内容。Rice承认,加强安全措施可能会导致美国公司在改进其AI系统的人才库方面落后。

对于保护AI模型的兴趣和担忧似乎在增加。就在上周,美国智库RAND发布了一份报告,指出AI项目中秘密可能泄露的38种方式,包括贿赂、闯入和利用技术后门。

RAND的建议包括鼓励员工报告同事的可疑行为,并只允许少数员工访问最敏感的材料。其重点是保护所谓的模型权重,即人工神经网络内部的值,在训练过程中调整以赋予其有用功能,例如CHAT GPT回答问题的能力。

根据拜登总统去年十月签署的一项全面的AI行政命令,美国国家电信和信息管理局预计今年将发布一份类似的报告,分析保持权重保密的利弊。该命令已要求正在开发先进AI模型的公司向美国商务部报告“采取的物理和网络安全措施以保护这些模型权重”。美国正在考虑出口管制,限制向中国出售AI,路透社上个月报道。

© 版权声明
THE END
喜欢就支持一下吧
点赞8 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容