美国政府发布新规定，加强对政府机构使用人工智能的审慎和透明度

摘要: 副总统卡马拉·哈里斯（Kamala Harris）表示，政府AI部署的新规则，包括检查算法是否有偏见，将“将公共利益放在首位”。

美国政府发布新规定，加强对政府机构使用人工智能的审慎和透明度

美国政府周四发布了新规定，要求联邦机构在使用人工智能时更加审慎和透明，称这是为了在人工智能迅速发展的同时保护公众利益。新政策还鼓励政府机构在技术可用于公共利益时推动人工智能创新。

美国希望通过其新的政府人工智能制度成为国际领导者。副总统卡玛拉·哈里斯在公布前的新闻发布会上表示，政府计划使这些政策成为“全球行动的典范”。她表示，美国“将继续呼吁所有国家效仿我们的做法，把公共利益放在政府使用人工智能时的首要位置。”

白宫管理与预算办公室的新政策将指导联邦政府如何使用人工智能。该政策要求政府在使用人工智能方面更加透明，同时也呼吁在联邦机构内进一步发展这项技术。政府试图在减少人工智能深度应用带来的风险（其程度尚不明确）和利用人工智能工具解决气候变化和疾病等存在威胁之间取得平衡。

这一声明是拜登政府一系列支持和限制人工智能的举措之一。今年10月，拜登总统签署了一项关于人工智能的全面行政命令，促进政府扩大人工智能技术的同时，要求制造大型人工智能模型的人向政府提供有关其活动的信息，以维护国家安全利益。

今年11月，美国与英国、中国和欧盟成员国一起签署了一项声明，承认人工智能迅速发展的危险，但也呼吁国际合作。同一周，哈里斯透露了一个关于军事使用人工智能的非约束性宣言，有31个国家签署。该宣言设立了基本的限制措施，并呼吁停用参与“意外行为”的系统。

周四宣布的美国政府使用人工智能的新政策要求各机构采取几项措施，以防止人工智能部署带来的意外后果。首先，各机构必须验证他们使用的人工智能工具不会对美国人造成风险。例如，退伍军人事务部要在医院使用人工智能时，必须验证该技术不会提供种族偏见的诊断。研究发现，用于诊断或决定哪些患者接受治疗的人工智能系统和其他算法可能强化历史上的歧视模式。

如果一个机构无法保证这些安全措施，它必须停止使用人工智能系统或证明其继续使用的理由。美国各机构必须在12月1日之前遵守这些新要求。

该政策还要求政府人工智能系统更加透明，要求各机构发布政府拥有的人工智能模型、数据和代码，只要这些信息的发布不会对公众或政府构成威胁。各机构必须每年公开报告他们如何使用人工智能、系统可能带来的风险以及如何减轻这些风险。

新规定还要求联邦机构加强其人工智能专业知识，要求每个机构任命一位首席人工智能官来监督该机构内部使用的所有人工智能。这一角色旨在促进人工智能创新，同时也关注其危险性。

官员表示，这些变化还将消除联邦机构在使用人工智能方面的一些障碍，这一举措可能促进更加负责任的人工智能实验。这项技术有助于机构审查自然灾害后的损害情况、预测极端天气、绘制疾病传播情况以及控制空中交通。

世界各国正在推动人工智能立法。欧盟在12月投票通过了其《人工智能法案》，这项法案管理人工智能技术的创建和使用，并于本月早些时候正式通过。中国也正在制定全面的人工智能监管措施。