专家对 ChatGPT 等平台中的 AI 幻觉表示担忧

据站长之家 10 月 17 日报道，专家们对热门平台如 ChatGPT 等 AI 程序的幻觉现象提出了担忧。AI 幻觉是指信息看似正确，但实际上是不准确的现象。

ChatGPT 等平台出现提供不准确信息的情况。例如，杜克大学图书馆指出存在虚假引用的问题，福布斯发表了一篇新闻报道，指出 ChatGPT 通过虚假摘要愚弄了科学家，而《财富》杂志引用了一项研究，显示 ChatGPT 在回答数学问题时的准确率从 98% 下降到仅为 2%。

针对是否 ChatGPT 是在编造信息、错误解释数据或依赖于错误信息的问题，ChatGPT 的回应是，它的回应是基于其在截至 2021 年 9 月最后更新前所训练数据和输入的模式生成的。然而，如果输入数据或查询存在缺陷，AI 模型可能会产生不正确或不准确的信息，但这与传统意义上的幻觉并不相同。

原文链接