OpenAI“大模型宪法”出炉，公开征集建议！网友：大模型不性感了！

文章来源：51CTO技术栈

编辑 | 云昭

图片来源：由无界AI生成

本周的OpenAI， 似乎并未辜负其名称中的“开放”字样。

近日，OpenAI虽然没有开源任何新模型，但该公司非常之“清流”，一改铜臭的商业味道。

OpenAI加入开放性组织
推出内容真实性工具

5月7日，该公司发布公告加入C2PA（致力于开发确定内容来源和真实性的技术规范，微软和Adobe也是成员之一，非营利性组织）的贸易组织的指导委员会，并表示这样做的目的是为了帮助人们验证用于创建或编辑多种数字内容的工具，并创建“专门帮助人们识别由我们自己的工具创建的内容的新技术”。

直白的解释，即，OpenAI希望与该领域的其他公司（包括竞争对手）合作，开发用于标记AI生成的图像、视频和其他内容的工具和技术，从而使观看者能够追溯到其来源并避免混淆他们用于现实世界的镜头和照片。

值得注意的是，C2PA这个组织发布过许多开源技术标准，所以OpenAI的接下来的好技术非常有望开源出来给开发者使用。

此外，就在同一天，OpenAI宣布将推出一款工具，可以检测出由其“文本到图像生成器Dall-E 3创建的图像。OpenAl表示，在内部测试中，该工具在约98%的时间内能够正确识别出由Dall-E 3创建的图像，并且可以处理一些常见的修改，如压缩、裁剪和饱和度变化等。

OpenAl还表示，计划添加防篡改水印，对照片或音频等数字内容进行标记，且这些标记很难被删除。

OpenAI 要为行业立规矩

这还不够，OpenAI开始在行业内立内容标准了！

其官网博客在7日宣布OpenAI 正在开发媒体管理器，该工具将使创作者和内容所有者能够告诉用户他们拥有什么，并指定他们希望如何将自己的作品纳入或排除在机器学习研究和训练之外。接下来，他们计划推出更多选择和功能。

这将需要尖端的机器学习研究来构建有史以来第一个同类工具，以帮助我们识别多个来源的受版权保护的文本、图像、音频和视频，并反映创作者的偏好。 

“在开发媒体管理器时，我们正在与创作者、内容所有者和监管机构合作。我们的目标是在 2025 年之前推出该工具，并希望它能为整个人工智能行业树立标准。”

紧接着，5月8日，OpenAI公开分享了模型规范Model Spec，次日掌舵者Sam Altman评论道：

Model Spec规定了该公司模型如何运行，之后会继续倾听、讨论并调整。“我认为明确某件事究竟是BUG、还是决策造成的，这将是非常有用的。”

据悉，这个“模型规范”，是一个框架文件，旨在塑造 OpenAI 应用程序编程接口 (API) 和 ChatGPT 中使用的人工智能模型的行为，并在此基础上使用网络表单征求公众反馈，开放直到5月22日。

Altman表示，希望在社会最终同意的一些严格界限内，让用户对AI拥有很大的控制权。

一系列的动作都聚焦在一件事情上：给AI的使用行为立规矩，旨在解决AI技术加剧或带来的虚假信息、深度伪造、内容版权等问题。

为AI大模型立“宪法”

OpenAI 表示，这份工作文件的发布是其更广泛使命的一部分，即确保人工智能技术以对所有用户有益且安全的方式运行。

当然，说起来容易做起来难，而且这样做很快就会陷入长期悬而未决的关于技术、智能系统、计算、工具和更广泛的社会的哲学辩论的领域。

正如 OpenAI 在其宣布 Model Spec 的博客文章中所写：