ChatGPT 扯谎的背后：了解 AI 聊天机器人的“幻觉”和“虚构”

撰文：Benj Edwards

来源：Ars Technica

编译：巴比特

图片来源：由无界 AI工具生成

在过去的几个月里，像 ChatGPT 这样的人工智能聊天机器人已经吸引了全世界的注意力，因为它们能够以类似人类的方式就几乎任何话题进行交谈。但它们也有一个严重的缺点：它们可以轻易地提出令人信服的虚假信息，使它们成为不可靠的事实信息来源和潜在的诽谤来源。

为什么 AI 聊天机器人会胡编乱造，我们是否能够完全信任它们的输出？我们询问了几位专家，并深入研究了这些人工智能模型的工作原理，以找到答案。

“幻觉”：人工智能中的一个重要术语

人工智能聊天机器人，如 OpenAI 的 ChatGPT，依赖于一种称为“大型语言模型”(LLM）的人工智能来生成它们的响应。LLM 是一种计算机程序，经过数百万文本源的训练，可以阅读并生成“自然语言”文本语言，就像人类自然地写作或交谈一样。不幸的是，它们也会犯错。

在学术文献中，人工智能研究人员经常将这些错误称为“幻觉”（hallucinations）。但是，随着这个话题成为主流，这个标签的争议也越来越大，因为有些人认为它把人工智能模型拟人化了（暗示它们有类似人类的特征），或者在不应该暗示这一点的情况下赋予它们代理（暗示它们可以做出自己的选择）。商业 LLM 的创造者也可能利用幻觉作为借口，将错误的输出归咎于 AI 模型，而不是为输出本身负责。

不过，生成式 AI 太新了，我们需要从现有的想法中借用隐喻来向更广泛的公众解释这些高度技术性的概念。在这种情况下，我们觉得术语“虚构”（confabulation）虽然同样不完美，但比“幻觉”更好。在人类心理学中，当某人的记忆有一个缺口，而大脑在无意欺骗他人的情况下令人信服地填补其余部分时，就会出现“虚构”。ChatGPT 的工作方式与人脑不同，但“虚构”一词可以说是一个更好的比喻，因为有一个创造性的填补空白的原则在起作用，我们将在下文进行探讨。

“虚构”的问题

当人工智能机器人产生可能误导、误传或诽谤的虚假信息时，这是一个大问题。最近，《华盛顿邮报》报道了一位法律教授，他发现 ChatGPT 将他列入了一份对某人进行过性骚扰的法律学者名单。但这件事从未发生过 -- 是 ChatGPT 编造的。同一天，Ars 报道了一位澳大利亚市长，据称他发现 ChatGPT 声称他被判定犯有贿赂罪并被判处监禁，这也完全是捏造的。

ChatGPT 推出后不久，人们就开始宣称搜索引擎的终结。然而，与此同时，ChatGPT 的许多虚构的例子开始在社交媒体上流传。人工智能机器人发明了不存在的书籍和研究，教授没有写过的出版物，虚假的学术论文，虚假的法律引用，不存在的 Linux 系统功能，不真实的零售吉祥物，以及没有意义的技术细节。

然而，尽管 ChatGPT 倾向于随意撒些小谎，但与直觉相反的是，它对虚构的抵抗才是我们今天谈论它的原因。一些专家指出，ChatGPT 在技术上比 vanilla GPT-3（其前身模型）有所改进，因为它可以拒绝回答一些问题或让你知道它的答案可能不准确。

大型语言模型专家、Scale AI 的提示工程师 Riley Goodside 说：“ChatGPT 成功的一个主要因素是，它成功地抑制了虚构，使许多常见问题都不引人注意。”“与它的前辈相比，ChatGPT 明显不太容易编造东西。”

如果用作头脑风暴工具，ChatGPT 的逻辑跳跃和虚构可能会导致创造性突破。但当用作事实参考时，ChatGPT 可能会造成真正的伤害，OpenAI 也知道这一点。

在该模型推出后不久，OpenAI 首席执行官 Sam Altman 在推特上说：“ChatGPT 有很大的局限性，但在某些方面足够好，足以造成一种伟大的误导性印象。现在依靠它来做任何重要的事情都是错误的。这是进步的预览；我们在稳健性和真实性方面还有很多工作要做。”在后来的一条推文中，他写道：“它确实知道很多东西，但危险的是，它在相当大的一部分时间里是自信而错误的。”

这是怎么回事呢？

ChatGPT 如何运作

为了理解像 ChatGPT 或 Bing Chat 这样的 GPT 模型是如何虚构信息的，我们必须知道 GPT 模型是如何运作的。虽然 OpenAI 还没有发布 ChatGPT、Bing Chat 甚至 GPT-4 的技术细节，但我们确实可以看到 2020 年介绍其前身 GPT-3 的研究论文。