一文读懂 ChatGPT 插件功能：语言模型获取新信息的“眼睛和耳朵”

来源：OpenAI

编译：巴比特

图片来源：由无界 AI工具生成

OpenAI：我们已经在 ChatGPT 中实现了对插件的初步支持。插件是专门为语言模型设计的工具，以安全为核心原则，并帮助 ChatGPT 访问最新的信息，运行计算，或使用第三方服务。

根据我们的迭代部署理念，我们正在逐步推出 ChatGPT 中的插件，以便我们能够研究它们在现实世界中的使用、影响以及安全和协调方面的挑战 -- 为了实现我们的使命，我们必须做好这些工作。

自从我们推出 ChatGPT 以来，用户一直在要求使用插件（许多开发者也在尝试类似的想法），因为它们可以释放大量可能的用例。我们正从一小部分用户开始，并计划在我们了解到更多信息后，逐步推出更大规模的访问（针对插件开发者、ChatGPT 用户，以及在 alpha 期之后，希望将插件整合到他们产品中的 API 用户）。我们很高兴能建立一个塑造未来人类与人工智能互动模式的社区。

从我们的候选名单中被邀请的插件开发人员可以使用我们的文档来构建 ChatGPT 插件，然后在显示给语言模型的提示中列出启用的插件，以及指导模型如何使用每个插件的文档。首批插件由 Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和 Zapier 创建。

我们自己也有两个插件，一个是网页浏览器，一个是代码解释器。我们还开源了一个知识库检索插件的代码，任何有信息的开发者都可以自行托管，以增强 ChatGPT 的功能。

今天，我们将开始向白名单上的用户和开发者提供该插件的 alpha 权限。虽然我们最初会优先考虑少数开发者和 ChatGPT Plus 用户，但我们计划随着时间的推移推出更大规模的访问。

概述

今天的语言模型，虽然对各种任务都很有用，但仍然是有限的。它们可以学习的唯一信息是它们的训练数据。这些信息可能是过时的，而且在各种应用中都是一刀切的。此外，语言模型唯一可以开箱即用的就是发出文本。这个文本可以包含有用的指令，但要真正遵循这些指令，你需要另一个过程。

虽然不是一个完美的比喻，但插件可以成为语言模型的“眼睛和耳朵”，让它们获得太新、太个人、太具体而无法包含在训练数据中的信息。为了响应用户的明确要求，插件也可以使语言模型代表其执行安全的、受限制的行动，从而提高系统的整体实用性。

我们期待开放标准的出现，以统一应用程序公开面向 AI 界面的方式。我们正在对这样一个标准进行早期尝试，正在寻找有兴趣与我们一起建设的开发者的反馈。

今天，我们开始逐步为 ChatGPT 用户启用我们早期合作者的现有插件，从 ChatGPT Plus 用户开始。另外，我们也开始允许开发人员为 ChatGPT 创建自己的插件。

在未来几个月，随着我们从部署中学习并继续改进我们的安全系统，我们将对这个协议进行迭代，我们计划让使用 OpenAI 模型的开发者将插件整合到他们自己的应用程序中，而不是 ChatGPT。

安全和更广泛的影响

将语言模型连接到外部工具，既带来了新的机遇，也带来了新的风险。

插件提供了解决与大型语言模型相关的各种挑战的潜力，包括“幻觉”，跟上最近的事件，以及（经许可）访问专有信息源。通过整合对外部数据的明确访问 -- 例如网上的最新信息、基于代码的计算或自定义插件检索的信息 -- 语言模型可以通过基于证据的参考来加强其反应。

这些参考资料不仅可以提高模型的效用，而且还可以使用户评估模型输出的可信度，并反复检查其准确性，从而有可能减轻与过度依赖有关的风险，正如我们最近在 GPT-4 系统卡中所讨论的。最后，插件的价值可能远远超出解决现有的限制，帮助用户完成各种新的用例，从浏览产品目录到预订航班或订购食物。

同时，风险是插件可能通过采取有害的或非预期的行动来增加安全挑战，增加那些会欺诈、误导或虐待他人的不良行为者的能力。通过增加可能的应用范围，插件可能会提高模型在新领域采取错误或不一致的行动所带来的负面影响的风险。从第一天起，这些因素就指导着我们的插件平台的发展，我们已经实施了一些保障措施。

我们已在内部并与外部合作者进行了红队测试练习（red-teaming exercises），发现了一些可能的相关情况。例如，我们的红队成员发现了插件的方法 -- 如果在没有保护措施的情况下发布，可以执行复杂的提示注入，发送欺诈性和垃圾邮件，绕过安全限制，或滥用发送到插件的信息。我们正在使用这些发现来告知设计安全缓解措施，以限制有风险的插件行为，并提高作为用户体验一部分的插件如何以及何时运作的透明度。我们还利用这些发现来决定逐步部署对插件的访问。