对齐的人为性：如何让 AI“符合人类价值”？巨头们的探索是为产品，还是人类？

撰文：Jessica Dai，加州大学伯克利分校计算机科学专业的博士生

来源：Reboot

图片来源：由无界 AI工具生成

我们究竟该如何让 AI“符合人类价值”？

对“人工智能生存风险”（简称“x-risk”）的夸大报道已成为主流。谁能预料到拟声词“Fᴏᴏᴍ”-- 既让人联想到儿童卡通，又直接来源于儿童卡通 -- 会不加批判地出现在《纽约客》上？与以往任何时候相比，关于人工智能及其风险的公共讨论，以及关于能够或应该如何应对这些风险的讨论，都显得异常混乱，将推测的未来风险与现实的现今危害混为一谈，而在技术方面，则将大型“近似智能”模型与算法和统计决策系统混为一谈。

那么，人工智能进步的利害关系是什么？尽管人们对灾难性的伤害和灭绝级的事件争论不休，但目前所谓的“对齐”研究轨迹似乎并不适合 -- 甚至可以说是错位 -- 人工智能可能会造成广泛、具体和严重痛苦的说法。在我看来，与其说我们在解决人类灭绝的巨大挑战，不如说我们在解决一个老生常谈（也是出了名的重要问题）的问题，那就是制造出人们愿意掏钱购买的产品。具有讽刺意味的是，正是这种价值化为现实和想象中的末日场景创造了条件。

工具，玩具，还是只是产品？

我想说的是，OpenAI 的 ChatGPT、Anthropic 的 Claude 以及所有其他最新模型都能做到它们所做的事情，这非常非常酷。虽然我不会声称这些模型有任何智能取代人类工作者，也不会说我会依赖它们来完成重要任务，但如果我否认这些模型是有用的，是强大的，那就太不真诚了。

“AI 安全”社区的人们担心的正是这些能力。他们的想法是，人工智能系统将不可避免地超越人类的推理能力，超越“人工通用智能”（AGI），成为“超级智能”；它们的行动将超越我们的理解能力；它们的存在，在追求目标的过程中，将削弱我们的价值。这些安全社区声称，这种转变可能是迅速而突然的（"ꜰᴏᴏᴍ"）。相信这一点的 AI 从业者和学者有一小部分，但他们的呼声很高。“有效利他主义”（EA）意识形态运动中的一个更广泛的联盟将人工智能协调工作视为防止人工智能相关灾难的关键干预措施。

事实上，AI 对齐领域的“技术研究与工程”是 80,000 Hours（一个专注于职业指导的有影响力的 EA 组织）推荐的唯一最具影响力的途径。在最近的一次《纽约时报》采访中，《超级智能》（Superintelligence）一书的作者、有效利他主义的核心知识架构师 Nick Bostrom 在最近接受《纽约时报》采访时，将“对齐”定义为“确保我们构建的这些能力日益增强的人工智能系统与构建这些系统的人们所追求的目标相一致”。

那么，“我们”是谁？“我们”想要实现什么目标？目前，“我们”是私营公司，其中最著名的是 AGI 领域的先行者之一 OpenAI，以及由 OpenAI 的一批同侪创办的 Anthropic。OpenAI 将构建超级智能作为其主要目标之一。但是，既然风险如此之大，为什么还要这么做呢？用他们自己的话说：

首先，我们相信它将带来一个比我们今天所能想象的要好得多的世界（我们已经在教育、创造性工作和个人生产力等领域看到了这方面的早期例子）。..... 经济增长和生活质量的提高将是惊人的。

其次，我们相信，要阻止超级智能的产生，其风险和难度都是难以想象的。因为超级智能的好处如此巨大，建造超级智能的成本逐年降低，建造超级智能的参与者数量迅速增加，而且超级智能本来就是我们所走的技术道路的一部分……我们必须把它做好。

换句话说，首先，因为它能让我们赚一大笔钱；其次，因为它能让别人赚一大笔钱，所以最好是我们。(OpenAI 当然有责任证实以下说法：人工智能可以带来一个“难以想象”的更美好世界；它“已经”造福了教育、创造性工作和个人生产力；这样一种工具的存在可以实质性地提高生活质量，而不仅仅是那些从它的存在中获利的人）。

当然，这种观点带有一种愤世嫉俗，我不相信 OpenAI 的大多数人都是为了个人经济致富而加入的。恰恰相反，我认为他们的兴趣是真诚的，包括对实现大型模型的技术工作、分析其社会影响的跨学科对话，以及参与建设未来的希望。但是，一个组织的目标终究有别于组成它的个人的目标。无论公开声明如何，创收始终至少是一个补充目标，OpenAI 的管理、产品和技术决策都将以此为基础，即使尚未完全确定。一家建立“LLM”的初创公司对首席执行官山姆 - 阿尔特曼（Sam Altman）的采访表明，商业化是阿尔特曼和公司的首要目标。OpenAI 的“客户故事”页面与其他初创公司的页面并无不同：华而不实的截屏和引语、对知名公司的点名、必要的“科技公益”亮点。