美国白宫发布总统令：鼓励AI以安全、可靠的方式发展

原文来源：AIGC开放社区

图片来源：由无界 AI生成

美国华盛顿时间10月30日，美国白宫官网发布了，关于发展安全、可靠和值得信赖的AI（人工智能）的拜登总统行政令。

白宫表示，该行政令为AI安全和保障制定了新标准，保护了用户的数据隐私，促进公平和公民权利，维护消费者和工人的利益，促进技术创新和竞争等。

同时该行政令也建立在之前，与15家公司签订的“生成式AI安全承诺”上，全面推动安全、健康、可靠的生成式AI发展。

这个行政令的发布，对于微软、OpenAI、谷歌、Meta、亚马逊、Anthropic等科技巨头发展ChatGPT等生成式AI产品来说，起到了至关重要的推动和保护作用。

原文地址：https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/?ref=futuretools.io

以下是部分行政令内容

AI安全新标准

随着AI能力的增长,其对美国人安全的影响也在增长。通过这项行政令,拜登总统指示了有史以来，为保护美国人免受AI系统潜在风险而采取的最广泛的行动:

要求开发最强大AI系统的开发者与美国政府分享他们的安全测试结果和其他关键信息。根据国防生产法,令将要求开发任何对国家安全、国家经济安全或公共卫生和安全构成严重风险的基础模型的公司在训练模型时通知联邦政府,并分享所有红队安全测试的结果。这些措施将确保在公司公开发布之前,AI系统是安全、可靠和值得信赖的。

开发标准、工具和测试,以帮助确保AI系统安全、可靠和值得信赖。国家标准与技术研究院将为广泛的红队测试制定严格的标准,以确保在公开发布之前的安全性。国土安全部将对关键基础设施部门应用这些标准,并建立AI安全和安保委员会。

能源部和国土安全部还将解决AI系统对关键基础设施的威胁,以及化学、生物、放射性、核和网络安全风险。总体而言,这些都是任何政府为推进AI安全领域所采取的最重要的行动。

通过制定严格的新生物合成筛选标准,保护免受利用AI工程设计危险生物材料的风险。资助生命科学项目的机构将把这些标准作为联邦资金的条件,从而创造强大的激励,以确保适当的筛选和管理AI可能加剧的风险。

通过建立内容认证和水印的标准和最佳做法,来保护美国人免受AI启用的欺诈和欺骗。

商务部将制定内容认证和水印的指南,以明确标记AI生成的内容。联邦机构将使用这些工具,使美国人很容易知道他们从政府收到的通信是真实的,并为私营部门和世界各地的政府树立榜样。

建立高级网络安全计划,开发AI工具来发现和修复关键软件中的漏洞,以此建立拜登-哈里斯政府正在进行的AI网络安全挑战。总体而言,这些努力将利用AI的潜在游戏改变性网络能力,使软件和网络更加安全。

指示国家安全委员会和白宫幕僚长办公室制定一份有关AI和安全的国家安全备忘录。该文件将确保美国军方和情报部门在任务中安全、道德和有效地使用AI,并将指导行动来反制对手的军事AI使用。

保护美国人隐私

如果没有保障措施,AI可能会进一步威胁美国人的隐私。AI不仅使提取、识别和利用个人数据变得更加容易,而且也加剧了这样做的动机,因为公司使用数据来训练AI系统。

为了更好地保护美国人的隐私,包括来自AI的风险,总统呼吁国会通过两党隐私数据立法,以保护所有美国人,特别是儿童,并指示采取以下行动:

通过优先支持加快开发和使用隐私保护技术来保护美国人的隐私,包括在保护训练数据隐私的同时让AI系统进行训练的尖端技术。

通过资助一个研究协调网络来加强隐私保护研究和技术,例如保护个人隐私的加密工具,该网络将推进快速突破和发展。国家科学基金会还将与该网络合作,促进联邦机构采用领先的隐私保护技术。

通过评估机构如何收集和使用商业上可获得的信息(包括从数据经纪人处获得的信息),并加强联邦机构的隐私指南以考虑AI风险。这项工作将特别关注包含个人身份识别数据的商业上可获得的信息。

制定指南,供联邦机构评估隐私保护技术(包括AI系统中使用的技术)的有效性。这些指南将推进机构保护美国人数据的努力。

确保政务部门负责任地使用 AI

AI可以帮助政府为美国人民提供更好的结果。可以扩大机构的能力来监管、治理和发放福利,并可以削减成本和增强政府系统的安全性。

然而,使用AI可能也存在风险,比如歧视和不安全的决策。为了确保政府部门负责任地部署AI并现代化联邦AI基础设施,采取以下行动:

发布机构使用AI的指南,包括明确的标准来保护权利和安全,改进AI采购并加强AI部署。

通过更快速有效的合同,帮助机构更快、更便宜、更有效地获得指定的AI产品和服务。