AI的理解困境：如何走出数据世界，触达生命的理解？

原文来源：追问nextquestion

图片来源：由无界 AI生成

当前，生成式AI正席卷整个社会，大语言模型（LLMs）在文本（ChatGPT）和图像（DALL-E）生成方面取得了令人惊叹的成就，仅仅依赖零星几个提示词，它们就能生成超出预期的内容（比如追问每一期的封面图）。

以大语言模型为代表的生成式AI取得的进步促使我们思考：ChatGPT真的能够理解它们在“谈论”的东西吗？抑或只是塞尔“中文屋”*的一个实例？它能“捕捉”外在现实吗？或仅仅是自然语言数据催生的拟合现象（mimic）？更深层地，生成式AI是通向人工理解（artificial understanding）的正确道路吗？除复制数据外，它是否还能理解词语、感知和行为的“意义”？或者它是否仅仅是一种自我限制的方法的终结？

*中文屋（Chinese Room）：由美国哲学教授约翰·塞尔提出的一个思想实验，借以反驳强人工智能的观点。根据强人工智能的观点，只要计算机拥有适当的程序，理论上就可以说计算机拥有它的认知状态并且可以像人一样进行理解活动。但中文屋指出，计算机即使可以回答用人类语言提出的问题，但它也无法建立人类语言的语义关系，无法理解人类语言。它只会根据规则，机械摆弄符号。

John R. Searle. MINDS, BRAINS, AND PROGRAMS. [2014-07-23].

在《生成意义：主动推理与被动AI的范围与限制》一文中，Giovanni Pezzulo、Thomas Parr、Paul Cisek、Andy Clark和Karl Friston试图通过比较生命有机体的主动推理模型（active inference）与AI的被动生成模型，指明“理解”的真正基础，并思考生成式AI是否能够获得理解能力。 

▷图1.Generating meaning: active inference and the scope and limits of passive AI，https://doi.org/10.1016/j.tics.2023.10.002。图源：cell

生成式AI的局限

生物系统与主动推理

许多哲学家（如Andy Clark、Merleau Ponty）、心理学家（如James Gibson、Lawrence Barsalou）和神经科学家已经达成共识：大脑的基本功能并非积累知识，而是控制与世界的信息和能量交换。更重要的是，特定的相互作用以特定的方式稳定地改变事物的状态（例如，进食能够减少饥饿，逃离捕食者能够减少危险等）。所以，重要的不是知识的真实性，而是与世界交互形成的稳定性。

所以，在这种互动中，世界的某些特定特征对我们尤为重要，因为它们决定了我们的行动方式。吉布森将这类特征称作可供性*，即环境提供的行动可能性。生物系统通常以感觉运动（sensorimotor）来响应这些可供性。例如，平坦的地面可以用来支撑，用来坐，也可以用来放东西。

*注：可供性（affordance），afford一词的名词形式，Gibson在《视觉的生态学进路》（The Ecological Approach to Visual）一书中首次对这一概念做出系统性的阐述。可供性是环境提供给生物的行动可能性，它可能是好的，也可能是坏的。可供性既非客观性质，也不是主观性质，而是生物与环境互动的产物。

此外，生物系统的另一特征是在与世界进行互动之前，它们能够基于已掌握的关于动态世界的知识，做出行动预测。这种预测是主动推理（active inference）的基石。简单来说，主动推理认为，生命有机体的感觉行为根本上是预测性的，而非随机被动触发，它建立在能够提供可供性的世界模型之上。

两种生成模型

生成式AI与主动推理有一个共同的承诺：它们都强调基于生成模型的预测。不过，虽然都是以生成模型为基础（图2），但它们的运作机制并不相同。

▷图2：生成式AI和主动推理的生成模型。图源：原始论文。

在主动推理中，生成模型不仅仅用于预测，而且是能动性（agency）的担保。它们会对外在或内在世界的目标导向、决策和计划进行推理。在非活动状态（offline），例如在反省或睡眠中，主动推理的生成模型也会模拟过去的反事实场景（即“如果过去不是怎样便会如何”的推理）和可能的未来，以此优化生成模型，从而产生行为策略。