迪士尼的“元宇宙梦”醒
暂停GPT-5研发呼吁引激战!吴恩达、LeCun带头反对,Bengio站队支持
来源:新智元
导读:千人签名的AI不扩散条约发布一天后,各路大佬纷纷有了后续回应,言谈间耐人寻味。「AI吹哨人」:不封杀超强AI研发,我们都得死!
昨天,千位大佬写的暂停超强AI训练六个月的联名信,如同一枚炸弹一般,在国内外的互联网上炸响。
经过了一天的唇枪舌剑,几位关键人物以及其他各路大牛,都纷纷出来公开回应。
有的非常官方,有的十分个性,也有人并没有直面问题。但有一点可以肯定,不论这些大佬自己的观点,还是背后所代表的利益集团,都值得细品。
有趣的是,在图灵三巨头中,一位带头签名,一位强烈反对,还有一位不发一言。
Bengio签名、Hinton沉默、LeCun反对
吴恩达(反对派)
此次事件中,前谷歌大脑成员、在线教育平台Coursera创始人吴恩达是旗帜鲜明的反对派。
他明确亮出了自己的态度:把「让AI取得超越GPT-4的进展」暂停6个月,这个想法很糟糕。
他表示,自己已经在教育、医疗保健、食品等领域看到了许多新的AI应用,许多人将因此受益。而改进GPT-4也会有好处。
我们该做的,应该是在AI创造的巨大价值与现实风险之间,取得一个平衡。
对于联名信中提到的「如果不能迅速暂停对超强AI的训练,就应该让政府介入」,吴恩达也表示这种想法很糟糕。
他表示,让政府暂停他们不了解的新兴技术是反竞争的,这树立了一个糟糕的先例,是一个很可怕的政策创新。
他承认,负责任的AI很重要,AI也的确有风险。
但媒体渲染的「AI公司正在疯狂发布危险的代码」,显然是太夸张了。绝大多数AI团队,都非常重视负责任的AI和安全。不过他也承认,「遗憾的是,不是全部」。
最后他再次强调:
6个月的暂停期,不是一个切实可行的建议。为了提高人工智能的安全性,围绕透明度和审计的法规将更加实用,并产生更大的影响。在我们推进技术的同时,让我们也更多地投资于安全,而不是扼杀进步。
而他的推特下面,已经网友表示强烈反对:大佬之所以云淡风轻,大概是因为失业的痛苦不会落到他们头上。
LeCun(反对派)
联名信一发出,就有网友奔走相告:图灵奖巨头Bengio和LeCun都在信上签了名!
而时时冲浪在网络第一线的LeCun,立马辟谣:没,我没签,我不同意这封信的前提。
有网友表示,我也不同意这封信,但我很好奇:你不同意这封信的原因,是觉得LLM不够先进,根本威胁不到人类吗,还是其他原因?
但LeCun对于这些问题,都没有回答。
在谜一般地沉默了20小时后,LeCun忽然转发了一位网友的推文:
「OpenAI足足等了6个月,才发布了GPT4!他们甚至为此还写了一份白皮书....」
对此,LeCun大赞道:说得对,所谓「暂停研发」,不过就是「秘密研发」罢了,这与一些签名者所希望的恰恰完全相反。
看来,什么都瞒不过LeCun的慧眼啊。
之前提问的网友也表示同意:这就是我什么反对这个请愿书的原因——没有哪个「坏人」会真正停止。
「所以这就像一项没有人遵守的武器条约?历史上这样的例子不多吗?」
过一会,他又转发了一位大佬的推特。
这位大佬说,「我也没签。这封信充斥着一堆可怕的修辞和无效/不存在的政策处方。」 LeCun说,「我同意」。
Bengio和Marcus(赞成派)
公开信署名的第一位大佬,便是赫赫有名的图灵奖得主Yoshua Bengio。
当然了,纽约大学教授马库斯也投了赞成票。他似乎是最早曝光这次公开信的人。