一周代币解锁预告:OP、
超级AI不会主宰人类,但人工智能必须开源!LeCun最新采访引全网300万人围观
原文来源:新智元
“LeCun最新访谈视频中,再次坦露了自己对开源AI的看法。超级AI终有一天会诞生,但不会主宰人类。”
图片来源:由无界 AI生成
LeCun一段近5分的视频,引起了全网300+万人的关注。
视频中,他再次重提对开源人工智能的几点看法:
- 未来将出现超越人类智能的人工智能
- 这些人工智能将受到我们的控制
- 它们不会成为我们的主宰,也不会对我们构成威胁
- 它们将成为我们与数字世界互动的中介
- 因此,这些人工智能需要是开放的平台,这样每个人都能参与进来,帮助它们学习和优化。
对此,马斯克表示,我们的数字上帝将以csv文件的形式出现。LeCun回应道,如果它是开源的,无论你选择什么格式,都会有导入过滤器。
COSS创始人Joseph Jack调侃道,我们能不能直接让LeCun担任AI总统,然后就此结束今天的讨论。
以下是视频中,LeCun个人提出的观点。
智能与统治毫无干系,开源是必然
在未来的某个时刻,也许是几十年后,我们将拥有智能与人类相媲美的AI系统。
因为人类在不同领域有各自的专长,这些AI系统不仅同样如此,而且在人类擅长的领域中,甚至可能都要比人类聪明。
现在你可能会想,「天呐!这样的系统会不会掌控世界?」
No!智能与统治之间并没有必然的联系。
就拿人类来说,人类中有一部分人有控制欲,但并非人人都有,并且,想要统治的并不是我们当中最聪明的人。
其实,国际政治舞台上的各种事件都在证明这一点。这背后的原因可能来自自然进化,不够聪明的人需要依赖他人,因此也会应影响他人,但聪明的人可以独立生存。
第二个观点是,我们习惯于比自己更聪明的人一起工作。对于我来说,我曾经领导过的一个研究实验室,只雇佣比我聪明的人,与聪明的人一起工作的感觉很棒。
我们与未来AI助手的关系,它会在日常生活中帮助我们。
想象一下,未来10-20年,AI助手会在日常生活中帮助我们,而且可能会比我们更聪明。但它们的存在,是为了让我们更聪明。
我们命令它们,便会听命于我们。并不是因为它们聪明,就想要统治。
而这种统治欲其实源于,我们是社会性物种的本性。因此,我们需要有能力去影响他人。这也就是统治和服从的来源。
我们是一个有等级秩序的社会性物种,这也是进化论赋予我们的特征,像黑猩猩、狒狒狼等社会性动物一样。
但即便是猩猩这样的物种,智力接近人类,却没有被赋予控制他人的特征。
因此,控制和智能完全没有关系。
我们可以设计一个极其智能但不具备统治欲的系统,且非常聪明,也就是说,你给它们一个目标,就能帮你实现。
设定目标由我们人类来做,而这些系统会制定子目标。至于如何做到这一点的技术问题还没有解决,我们只是在想象未来的事情。
包括我之前谈到的「目标驱动的AI」,这只是未来。
想象一下,如果未来我们与数字世界、信息世界所有交互都是通过AI智能体来完成。
这些AI智能体将成为所有人类知识的宝库,与一个能进行对话和推理的「超级百科」类似,但知识比维基百科更丰富。
这将成为一个像现在的互联网一样的公共平台,它必须是开放的,而不是专有的,因为掌握在少数公司的超级AI将是非常危险的。
如果少数人控制着超级AI,便可以左右每个人的观点、文化等等。