OpenAI新模型曝重大飞跃：AGI雏形或威胁人类，也成Altman被解雇导火索

原文来源：新智元

图片来源：由无界 AI生成

【导读】Sam Altman在APEC上曾暗示，OpenAI已经开发出比现在GPT-4更强大、远远超出人们期待的东西。一天后，他被解雇了。一封据称发给董事会的警告信也显示，OpenAI的某个模型，内部已产生重大飞跃。

Sam Alman被解雇，又曝出最新内幕！ 

据路透社报道，就在他被解雇的前四天，OpenAI内部的研究员曾向董事会发了一封警告信，称发现了一个可能威胁人类的强大人工智能。 

知情人士表示，这封此前从未报道过的信，也是董事会最终罢免Altman的导火索之一。 

据称，曾任OpenAI临时CEO的Mira Murati，在周三提到了这个名为Q*（读作Q-Star）的项目，并且在「政变」发生之前给董事会写过一封信。 

董事会觉得，Altman瞒着董事会在推进可能威胁人类的项目。 

与此同时，有内部研究员认为，OpenaAI在Q*上取得的进展，将会成为AGI的一个重要突破！ 

不过，就在刚刚，TradingStrategy.ai联创表示，「AI重大突破」这个说法已被OpenAI内部人士打假。 

APEC会议上的「危险」发言

印证Q*项目的另一事件，是Sam Altman在被解雇的一天，在APEC一次会议上的发言。 

在那次会议上，他暗示了OpenAI已经开发出了比GPT-4更强大、更难以想象的东西，远超人们的期待。 

模型的能力将会有一个无人预料到的飞跃。与人们的预期不同，这个飞跃是惊人的！ 

而这次发言，很可能也是他被解雇的导火索之一，会让Ilya等董事会成员认为，他隐瞒了许多信息。 

现在正在发生的技术变革，将彻底改变我们生活方式、经济和社会结构以及其他可能性限制……这在OpenAI的历史上有四次 ，而最近一次，就是在过去几周内。 
在拨开无知的面纱和探索未知的边界时，我有幸在场， 这是我职业生涯中的荣幸。 

Q*就是AGI？

其中一位知情人士说，在与路透社联系后，拒绝置评的OpenAI在给员工的内部消息中，承认了一个名为Q*的项目，并在周末的活动前给董事会写了一封信。 

OpenAI的一位发言人表示，这条消息由CTO Mira Murati发送，提醒员工注意某些媒体报道，但并没有对其准确性发表评论。 

其中一位知情人士告诉路透社，OpenAI的一些人认为Q*（发音为Q-Star）可能是OpenAI在AGI上取得的一个突破。 

在OpenAI看来，AIG可以定义为「在最具经济价值的任务中，超越人类的自主系统」。 

因为巨大的算力支持，新模型可以解决某些数学问题。虽然只是可以在小学水平上做数学题，但通过这样的测试，让研究者对Q*的未来非常乐观。 

根据内部人士透露，在给董事会的信中，研究人员标记了AI的实力和潜在危险，但没有具体说明信中提到的确切安全问题。 

另外，研究人员还标记了一个「人工智能科学家」团队的工作，有多个消息来源证实了该团队的存在。 

30多年前，Fodor和Pylyshyn提出的经典论点——神经网络由于其统计性质而从根本上缺乏人类的系统组合技能——给神经网络研究蒙上了长长的阴影