OpenAI联合创始人Andrej Karpathy：以自动驾驶为例，谈谈AGI

原文来源：学术头条

图片来源：由无界 AI生成

【编者按】ChatGPT、GPT-4 的出现，让人们真真正正感受到「大模型改变世界」的强大能力。然而，关于大模型的讨论大多是抽象的、不具体的，或许过于乐观，或许过于忧虑。

正如 OpenAI 联合创始人、前特斯拉人工智能和视觉总监 Andrej Karpathy 在题为“Self-driving as a case study for AGI”的最新博客中写到的：“不幸的是，很多讨论都相当抽象，导致人们在这个话题上绕圈子，无法达成共识。”

Karpathy 以自动驾驶为例，谈到了个人对 AGI 未来形态的看法，认为“自动驾驶能力方面的发展是研究 AGI 的一个很好的早期案例研究”。

核心观点如下：

Copilot 和 GPT-4 就是“二级”编程自动化； AGI 会受到“需求超过供应”的限制，原因在于，开发者的自我限制、监管限制，以及简单直接的资源短缺（如需要建设更多的 GPU 数据中心）； 在更广泛的工作领域中，许多工作将发生变化，一些工作会消失，但也会出现许多新的工作机会，这更多的是工作的重构而不是直接删除； AGI 更像是自动驾驶这样的技术，它的进展是逐步的，社会既是观察者也是参与者，其扩展受到多种因素的限制，包括监管和受过教育的劳动力资源、信息、材料和能源； 世界不会因此崩溃，而是会适应、改变和重构。以自动驾驶为例，交通的自动化将使其更加安全，城市将变得更加清洁、通畅，停车场和路边停放的汽车将逐渐消失，为人们腾出更多空间。

学术头条在不改变原文大意的情况下，做了简单的编译。内容如下：

近期，随着大型语言模型（LLMs）的发展，围绕着通用人工智能（AGI）、其发展时间表以及可能的形态等话题，社会上出现了许多讨论。这些讨论有的充满希望和乐观，但也不乏对未来的忧虑和悲观。不幸的是，很多讨论都相当抽象，导致人们在这个话题上绕圈子，无法达成共识。因此，我一直在寻找具体的类比和历史先例，从而以更实际的方式探讨这个话题。特别是当被问及我个人对 AGI 未来形态的看法时，我倾向于以自动驾驶为例进行说明。在这篇文章中，我将解释这一点。

首先，让我们看看 AGI 的一个常见定义：

AGI：一种可以在大多数有经济价值的工作中超越人类能力的自主系统。

请注意，这个定义中有两个具体要求。首先，它是一个完全自主的系统，即它能够在极少或没有人类监督的情况下独立运作；其次，它能够在大多数有经济价值的工作中自主操作。为了具体说明，我个人喜欢参考美国劳工统计局的职业指数。同时具备这两种特性的系统，就是 AGI。

在这篇文章中，我想提出的观点是，我们最近在自动驾驶能力方面的发展是一个很好的早期案例研究，可以说明自动化程度不断提高所带来的社会动力，进而说明 AGI 总体上会是什么样子。

我之所以这样认为，是因为自动驾驶领域有一些特点，大致可以概括为“这是一件大事”：自动驾驶对社会来说非常直观和可见（想象一下街道上没有司机的汽车！），从规模上看，它是经济的一大组成部分，目前雇佣了大量的人力工作（想想 Uber/Lyft 的司机），而且驾驶是一个难以自动化的问题，但我们做到了（领先于经济的许多其他领域），社会已经注意到并正在对此做出反应。当然，还有其他行业也经历了巨大的自动化变革，但我个人对它们不太熟悉，或者它们在上述某些特点上有所不足。

部分自动化

在人工智能领域，自动驾驶被认为是一个“足够复杂”的问题，它不是凭空出现的；它是一个将驾驶任务自动化的渐进过程，中间有许多“工具人工智能”的结果。

在汽车自动驾驶方面，许多汽车现在都配备了“二级”驾驶辅助系统——一种与人类协作，共同完成从 A 点到 B 点行驶任务的人工智能。这种系统并非完全自动化，但可以处理很多低级别的驾驶细节。有时，它甚至能自动完成整个操作（比如，为你停车）。人类主要作为这一活动的监督者，但原则上随时可以接管驾驶任务，或下达高层次指令（比如，请求换道）。在某些情况下（比如，跟随车道和快速决策），人工智能的表现超过了人类，但在罕见的场景中仍然可能不如人类。这与我们开始在其他行业部署的许多工具型人工智能类似，尤其是随着大型语言模型的能力不断提升。例如，作为一名程序员，当我使用 GitHub Copilot 自动完成一段代码，或用 GPT-4 编写更大的 function 时，我将低级细节交给了自动化系统，但同时，我也可以在需要时进行“干预”。也就是说，Copilot 和 GPT-4 就是“二级”编程自动化。在整个行业中有许多此类二级自动化，它们并非都基于 LLMs——从 TurboTax 到亚马逊仓库里的机器人，再到翻译、写作、艺术、法律、市场等领域的许多其他“工具型人工智能”。

全自动化