欧盟就全球首个 AI 监管法案达成“里程碑式协议”，有哪些信息需要了解？

谈判终于搞定了！

图片来源：由 无界 AI 生成

经过数月的游说和政治角力，以及近 40 个小时的艰苦谈判，欧盟立法者终于在上周末就全球首个 AI 监管法案《人工智能法案》（AI Act）达成了初步协议。

该立法草案涉及包括 ChatGPT、Bard 在内的生成式人工智能系统。尽管它仍需得到欧盟成员国和议会的正式批准，但在美国国会没有任何显著动作的情况下，这项协议意味着欧盟朝着具有里程碑意义的人工智能政策迈出了关键一步。

据悉，该法案将全面监管人工智能，减轻 AI 对基本权利构成最大风险的领域的伤害，例如医疗保健、教育、边境监控和公共服务，并禁止使用人工智能构成“不可接受的风险”。

同时，该法案要求“高风险”人工智能系统必须遵守严格的规则，这些规则需要风险缓解系统、高质量的数据集、更好的文档以及人工监督。但是绝大多数 AI 应用，如推荐系统和垃圾邮件过滤器等，则将获得免费通行证。

对于人工智能这个仍处于“狂野西部”且极具影响力的行业来说，《人工智能法案》可能将成为世界上第一部全面的人工智能法律，为其引入重要的规则和执行机制。

那么，对于这项法案，我们需要了解哪些重点信息？

在透明度和道德方面引入约束性规则

科技公司喜欢谈论他们对人工智能道德的承诺，但当涉及到具体措施时，谈话就变得枯涩乏味了。

事实胜于雄辩。实际上，科技公司可以随时决定改变其人工智能道德政策。众所皆知，OpenAI 最初是一个“开放”的人工智能研究实验室，但后来为了保护自己的竞争优势，像所有其他人工智能初创公司一样，关闭了对其研究的公众访问。

但是《人工智能法案》将改变这一现状。

据彭博社获得的一份欧盟文件，所有通用人工智能系统的开发人员（具有广泛用途的强大模型）都必须满足基本的透明度要求，除非这些系统是免费开源的，其中包括制定可接受的使用政策、随时更新有关模型训练的信息、报告用于训练其模型的数据的详细摘要等。

在遵守版权法方面，该法规要求科技公司对深度伪造和人工智能生成的内容进行标记，并以一种可以检测到 AI 生成的媒体的方式设计系统。此举比 AI 公司向美国白宫做出自愿承诺的举措更进一步，因为后者仅仅是开发水印等人工智能溯源工具。

另一方面，该法案还要求所有提供保险和银行等基本服务的组织，对使用人工智能系统将如何影响人们的基本权利进行影响评估。

AI 公司仍有很大回旋空间

在一个后 ChatGPT 时代，欧盟立法者认为他们必须在监管中考虑到通用人工智能模型。对此，围绕“应该对哪种模型进行监管，以及监管是否会扼杀创新”等问题，行业内出现了激烈的争论。

法国和德国曾表示，担心对通用人工智能模型实施过多监管，可能会扼杀法国 Mistral AI 或德国 Aleph Alpha 等 AI 初创企业。

正如上面提到的，《人工智能法案》要求基础模型和建立在其之上的通用人工智能系统遵守欧盟版权法，并分享更多关于模型训练数据的信息。但是，对于被认为会构成“系统性风险”的模型将受到额外规则的约束。简而言之，科技公司必须分享其人工智能模型的安全性和能源效率。

据文件显示，欧盟将根据训练模型的计算能力来确定是否存在风险，为模型设定的阈值为每秒超过 10 万亿次运算。有专家指出，目前唯一能达到这一门槛的模型是 OpenAI 的 GPT-4。

除此以外，欧盟执行机构还可以根据数据集的规模来确定其他机构，例如是否在欧盟拥有至少 1 万名注册商业用户、注册用户的最终数量等可能的指标。

而在欧盟委员会制定出更协调且长期有效的控制措施期间，一些“能力更强”的模型应该签署行为准则。至于没有签署行为准则的公司，则必须向欧盟委员会证明它们的模型会遵守《人工智能法案》。这些模型必须满足如下要求：

主动报告自身能源消耗情况 在内部或外部进行红队测试/对抗性测试 评估和减轻可能的系统性风险，并报告任何事件 确保使用适当的网络安全控制措施 报告用于微调模型的信息以及系统结构 如果制定了更节能的标准，需要符合新的标准

值得一提的是，对开源模型的豁免并不适用于那些被认为会带来系统性风险的模型。