专访 OpenAI 首席科学家：我们会拥有 AGI，人类会选择与机器融合

图片来源：由无界AI生成

伊利亚·苏茨克韦尔（Ilya Sutskever）低着头，陷入沉思。 他双臂张开，手指张开在桌面上，就像音乐会钢琴家即将弹奏他的第一个音符。 我们静静地坐着。

我来到旧金山 Mission 区一条不起眼的街道上，在一栋不起眼的办公楼里与 OpenAI 联合创始人兼首席科学家 Sutskever 会面，倾听他大力推动的这项颠覆世界的技术的下一步发展。 。 我还想知道他的下一步计划是什么，特别是为什么他的工作重点已经不再是构建公司的下一代旗舰生成模型。

Sutskever 告诉我，他的新优先事项不是构建下一代 GPT 或图像制作模型 DALL-E，而是找出如何阻止人工智能的失控。

Sutskever 还告诉了我很多其他事情。 他认为 ChatGPT 可能是有意识的。 他认为世界需要认识到 OpenAI 和其他公司正在竞相创造的技术的真正力量。 他认为有一天一些人类会选择与机器融合。

Sutskever 说的很多话都很疯狂。 但并不像一两年前听起来那么疯狂。 正如他本人告诉我的那样，ChatGPT 已经改写了很多人对即将发生的事情的期望，从“永远不会发生”变成“会比你想象的更快发生”。

在预测通用人工智能 AGI（他指的是像人类一样聪明的机器）的发展之前，他说：“重要的是要讨论一切的发展方向，就好像它就像押注下一代 iPhone 一样：“在某个时候，我们真的会拥有AGI。 也许是由 OpenAI 构建，也许是其他公司。”

自从去年 11 月突然出人意料地发布了 ChatGPT 以来，围绕 OpenAI 的讨论一直令人震惊，即使是在一个以炒作闻名的行业中也是如此。 没有人会厌倦讨论这家价值 800 亿美元的初创公司。 世界领导人寻求（并获得）与 OpenAI 私下或公开对话。 OpenAI 的产品名称会在随意的谈话中突然出现。

OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 在夏季时间里进行了为期一周的外展之旅，热情地与政客们打交道，并向世界各地挤满人的礼堂发表演讲。 但 Sutskever 并不是一个公众人物，他也不接受太多采访。

他说话时从容、有条理。 当他思考自己想说的内容以及如何表达时，他会停顿很长时间，像解谜一样翻来覆去地思考问题。 他似乎对谈论自己不感兴趣。他说， “我过着非常简单的生活。上班，然后回家。 我没有做太多其他事情。 人们可以去参加很多社交活动，可以参加很多大会。 我不喜欢参与。”

但当我们谈论 AI，以及他所看到的划时代的风险和回报时，前景就开阔了：“这将是具有里程碑意义的、惊天动地的。”

更好、更好、更好

即便没有 OpenAI，Sutskever 仍旧将载入 AI 史册。 他是以色列裔加拿大人，出生于苏联，但从五岁起在耶路撒冷长大（他仍然会说俄语、希伯来语和英语）。 随后，他移居加拿大，在多伦多大学跟随 AI 先驱杰弗里·辛顿 (Geoffrey Hinton) 学习，杰弗里·辛顿 (Geoffrey Hinton) 在今年早些时候公开表达了对 Sutskever 帮助发明的 AI 技术的担忧。

Hinton 后来因在神经网络方面的工作而与 Yann LeCun 和 Yoshua Bengio 分享了图灵奖。 但当 Sutskever 在 2000 年代初加入他时，大多数 AI 研究人员认为神经网络是一个死胡同。 辛顿是个例外。 他已经在训练微型模型，这些模型可以一次生成一个字符的短文本字符串，Sutskever 说：“这就是生成式 AI 的开始。 这真的很酷——只是不太好。”

Sutskever 对大脑的构造很着迷：大脑如何学习，以及如何在机器中重新创建或至少模仿该过程。 和 Hinton 一样，他看到了神经网络的潜力以及 Hinton 用来训练神经网络的试错技术，即深度学习。Sutskever 说， “深度学习一直在变得越来越好，越来越好。”

2012 年，Sutskever、Hinton 和 Hinton 的另一位研究生 Alex Krizhevsky 构建了一个名为 AlexNet 的神经网络，他们训练该网络来识别照片中的物体，其效果远远好于当时的任何其他软件。 这是深度学习的大爆炸时刻。

经过多年的失败，他们证明了神经网络在模式识别方面的效果惊人。 你只需要比大多数研究人员以前见过的更多的数据（在本例中，是普林斯顿大学研究员李飞飞自 2006 年以来一直在构建的 ImageNet 数据集的一百万张图像）和令人眼花缭乱的计算机能力。

计算方面的巨大变化来自于英伟达制造的新型 GPU 芯片。 GPU 被设计为能够以闪电般的速度将快速移动的视频游戏视觉效果投射到屏幕上。 但 GPU 擅长的计算（将大量数字网格相乘）恰好看起来很像训练神经网络所需的计算。