“AI将接管世界，但不会征服人类”，图灵奖得主杨立昆最新访谈来了

原文来源：学术头条

图片来源：由无界 AI‌生成

【编者按】作为图灵奖得主和 Meta 首席 AI 科学家，杨立昆（Yann LeCun）是 AI 技术最有力的捍卫者之一。

当他的前合作者 Geoffrey Hinton和 Yoshua Bengio 宣称 AI 灭绝论时，LeCun 并没有参与。相反，他签署了一封公开信，呼吁拥抱开源 AI，并称 AI不应由少数几家企业控制。

那么，AI 到底是会给人类带来毁灭性灾难，还是会加速推动人类社会的发展？这也是自 ChatGPT 问世一年多以来，业内早已存在的两种对抗声音。

近日，LeCun 接受了美国数字媒体 WIRED 的访谈，就上述问题做出了回答。核心观点如下：

AI 将在一定程度上实现创造力的民主化，它们可以写出非常流畅的文字，这些文字具有非常棒的风格，但它们也很无聊，因为它们想出的东西可能完全是假的。 从长远来看，未来人类与数字世界的所有互动，以及在某种程度上，人类彼此之间的互动，都将以 AI 系统为媒介。 AI 必须是开源的，因为当平台成为通信结构的重要组成部分时，我们需要一个共同的基础设施。 Yann LeCun 认为，自己不属于“加速主义”或“灭论绝”中的任何一个思想流派，他并不喜欢这些标签。 Yann LeCun 并不认可 AGI，因为根本不存在通用智能。智能不是一种可以测量的线性事物，不同类型的智能实体拥有不同的技能。 在 AI 系统中设定目标是确保其可控性和安全性的唯一途径，并将其称之为目标驱动型AI，这是一种全新的架构，目前我们尚未见到任何范例。 Yann LeCun 认为，研究界已经不太关心 OpenAI 了，因为他们没有发表论文，也没有透露他们在做什么。我的一些前同事和学生在 OpenAI 工作，我们为他们感到难过，因为 OpenAI 出现了不稳定因素。

学术头条在不改变原文大意的情况下，做了精心的编译，内容如下：

不要对 Yann LeCun 讲一些末日论。作为现代 AI 的先驱和 Meta 首席 AI 科学家，LeCun 是这项技术最有力的捍卫者之一。他对同行们所描绘的错误信息甚至导致人类灭绝的乌托邦式场景嗤之以鼻。他经常在 X 上发推斥责那些制造恐惧的人们。当他的前合作者 Geoffrey Hinton 和 Yoshua Bengio 将他们的名字放在一份声明的首位，称 AI 是一种“社会级别的风险”时，LeCun 没有参与。相反，他签署了一封致美国总统 Joe Biden 的公开信，呼吁拥抱开源 AI，并称 AI 不应由少数几家企业控制。

LeCun 的观点很重要。他与 Hinton 和 Bengio 一起，帮助创建了对 AI 水平提升至关重要的深度学习方法，三人也因此获得了计算机领域的最高荣誉——图灵奖。2013 年，Meta（当时的 Facebook）聘请他担任了 FAIR 的创始主任。另外，他还是纽约大学教授。最近，他帮助说服首席执行官 Mark Zuckerberg 与世界分享 Meta 的一些 AI 技术。今年夏天，Meta 推出了一款名为 “Llama 2” 的开源大型语言模型（LLMs），与 OpenAI、微软和谷歌竞争。一些批评者警告称，这种开源策略可能会让不法分子通过修改代码绕过对 LLMs 输出中有害内容的防护措施。做为 AI 领域最杰出的人物之一，LeCun 认为人类可以解决这个问题。

今年秋天，我和 LeCun 在纽约 Meta Midtown 办公室的一间会议室里进行了交谈。我们谈到了开源、为什么他认为 AI 的危险性被夸大了，以及计算机是否能像 Charlie Parker 的萨克斯独奏那样打动人心。（LeCun 在巴黎郊外长大，经常出入纽约的爵士俱乐部）。12 月，当 LeCun 出席 NeurIPS 会议时，我们又进行了一次对话。考虑到篇幅和清晰度，我们对访谈内容进行了编辑。

Steven Levy：在最近的一次演讲中，你说“机器学习糟透了”。为什么像你这样的 AI 先驱会这么说？

Yann LeCun：机器学习很棒。但那种认为我们只需要扩大现有技术的规模，就能实现具有人类水平的 AI 的想法呢？要让机器像人类和动物一样高效学习，我们还缺少一些重要的东西，但我们还不知道那是什么。

我不想抨击这些系统，也不想说它们一无是处，我在整个职业生涯中，就一直专注于这些。但是，我们必须抑制某些人的兴奋，他们认为我们只需要扩大规模，就能很快获得人类智能。绝对不是这样的。

你认为你有责任揭露这些事情。