一封信导致Sam Altman被开除？神秘「Q*」项目曝光，进化令人震惊

原文来源：机器之心

图片来源：由无界 AI生成

OpenAI 的「真还传」剧情昨天迎来了大结局。但今天，事件主角 Sam Altman 又上了热搜。

路透社报道称，在 Sam Altman 被董事会开除四天之前，几名研究人员向董事会发送了一封信，警告他们 OpenAI 已经有了一项重大的人工智能发现，而这项发现可能会威胁到人类。知情人士称，这封以前未报道的信件和人工智能算法是董事会罢免 Altman 的一个关键线索，也是董事会对 Altman 的诸多不满之一。

路透社提到，OpenAI 在发给员工的内部信息中承认了一个名为 Q * 的项目，并在 Altman 被开除之前致信董事会。OpenAI 的一位发言人表示，上述内部信息是由长期担任高管的 Mira Murati（OpenAI 前 CTO，在混乱之初曾被任命为临时 CEO）发布的，目的是提醒员工注意某些媒体报道，但不评论其准确性。

 Q * 的发音为 Q-Star，一些内部人士认为，这可能是 OpenAI 在追寻超级智能 / 通用人工智能（AGI）道路上取得的一项突破。也就是说，他们可能已经创造出了比人类更智能的 AI 系统或与其有关的突破。

据悉，Q-Star 能够解决以前从未见过的数学问题，而数学是生成式人工智能发展的前沿。目前，生成式人工智能擅长通过统计预测下一个单词来进行写作和语言翻译，而且对同一个问题的回答也可能千差万别。但是，如果掌握了数学能力（只有一个正确答案），就意味着人工智能将拥有更强的推理能力，与人类智能相媲美。人工智能研究人员认为，这可以应用于新颖的科学研究等方面。著名数学家陶哲轩就经常晒出自己在 ChatGPT 的辅助下进行数学研究的例子。

最近几周，该模型的演示在 OpenAI 内部流传，其发展速度让一些关注人工智能安全的研究人员感到震惊。

消息人士称，研究人员在给董事会的信中指出了人工智能的能力和潜在危险，但没有说明信中提到的具体安全问题。

长期以来，计算机科学家们一直在讨论超级智能机器带来的危险，比如它们是否会认为毁灭人类符合它们的利益。

在这种担忧不断蔓延之际，Altman 却在加速推进 GPT 系列模型的开发及其商业化，以早日实现通用人工智能。

除了在本月的 OpenAI 开发者大会中宣布了一系列新工具外，Altman 在上周的亚太经合组织工商领导人峰会上还开玩笑说，他相信 AGI 就在眼前。他还表示，在 OpenAI 的工作经历中，他有幸目睹了知识边界四次被推进，其中最近一次发生在几周前。

在发表这番言论的第二天，Altman 就被董事会解雇了。

据 The Information 报道，神秘模型 Q-Star 是由 OpenAI 的两位顶级研究人员 ——Jakub Pachocki 和 Szymon Sidor—— 基于 OpenAI 首席科学家 Ilya Sutskever 的研究成果构建的。在 Altman 被开除后，二人也成了首批辞职的高级员工之一。

The Information 还写道，在取得突破后的几个月里，Sutskever 似乎对这项技术持保留态度。今年 7 月，他组建了一个「超级对齐」团队，致力于让强大的 AI 系统遵循人类的意愿，而不是伤害人类。该团队在其网页上说：「虽然超级智能现在似乎还很遥远，但我们相信它可能会在十年内到来。」

Ilya 取得的突破以及他对 AI 安全的担忧，有助于解释他为什么参与罢免 Altman 的行动，以及 Sidor 和 Pachocki 为什么在 Altman 被解雇后迅速辞职。不过，在 Altman 重回 OpenAI 后，两人也回到了公司。

除了 Pachocki 和 Sidor，OpenAI 前董事长兼联合创始人 Greg Brockman 也一直致力于将该技术集成到新产品中。上周，他和 Altman 一起离开，如今又一起回归。

据知情人士透露，Ilya 的突破还帮 OpenAI 克服了获得足够高质量数据来训练新模型的限制，这是开发下一代模型的主要障碍。该研究涉及使用计算机生成的数据，而不是现实世界的数据（如从互联网中提取的文本或图像）来训练新模型。