数据管理公司Rubrik设立AI治理委员会应对风险

摘要: 本周为IPO申请的数据管理公司Rubrik根据其IPO申请有一个AI治理委员会。细节值得注意，因为它很快可能是新的常态。

数据管理公司Rubrik设立AI治理委员会应对风险

在Rubrik的IPO文件中透露了一个重要信息：该公司已经设立了一个治理委员会来监督人工智能在业务中的实施。

这个新的AI治理委员会包括Rubrik的工程、产品、法律和信息安全团队的经理。他们将共同评估使用生成式AI工具可能带来的法律、安全和业务风险，并思考“可以采取哪些步骤来减轻这些风险”，文件中写道。

不断增加的监管审查

一些公司正在采用AI最佳实践来主动行动，但其他公司将受到《欧盟AI法案》等法规的推动。

这项具有里程碑意义的法规被称为“世界上第一个全面的AI法律”，预计将在今年晚些时候在整个欧盟生效，禁止一些被视为带来“不可接受风险”的AI用例，并定义其他“高风险”应用。该法案还制定了旨在减少可能扩大伤害的风险的治理规则。这种风险评级方法很可能会被寻求合理前进以采用AI的公司广泛采纳。

法律审查

合规不仅仅是为了取悦监管机构。《欧盟AI法案》具有约束力，“不遵守AI法案的处罚是相当严重的”，英美律师事务所Norton Rose Fulbright指出。

其范围还超出了欧洲。该律所警告说：“在欧盟领土之外运营的公司，如果他们进行涉及欧盟用户或数据的AI相关活动，可能会受到AI法案的规定。”如果这部法律像GDPR一样，那么这项立法将产生国际影响，特别是在增加的欧盟-美国在AI领域的合作中。

视觉问题

公司不仅会从风险预防的角度看待AI。他们和他们的客户不想错过机会。这就是生成式AI工具正在被实施的原因之一，尽管它们有明显的缺陷，比如“幻觉”（即有编造信息的倾向）。

公司将不得不在这方面取得微妙的平衡。一方面，吹嘘他们使用AI可能会提高他们的估值，无论实际使用情况如何或者对他们的底线产生何种影响。另一方面，他们将不得不让人们放心，不会出现潜在风险。

“我们正处于AI发展的关键时刻，AI的未来高度取决于公众是否信任使用AI系统和使用它们的公司，”隐私和安全软件提供商OneTrust的隐私顾问Adomas Siudika在有关该主题的博客文章中写道。

设立AI治理委员会很可能是试图在信任方面提供帮助的一种方式。