复制成功

分享至

主页 > 比特币 >

陆奇:OpenAI 未来 2-3 年要做的是使模型更稀疏,降低对带宽要求

2023.04.23

据腾讯新闻《潜望》报道,4 月 22 日,奇绩创坛创始人兼 CEO 陆奇在上海举行小规模演讲,涵盖他对大模型时代的宏观思考。他表示,OpenAI 未来 2-3 年要做的——模型更稀疏一点,现在它对带宽要求实在太高,要把 attention Windows 拉长一点,或者是 recursion causality 推理的功能,包括 brainstorming 等一些工作要做。还需要做一些 grounding(基础训练)的东西,包括亚符号、子概念,更多的模态,更多的 token 空间,更多的模型稳定性,更多的潜在空间(例如 Latent Space 对齐),更多的计算,以及更多的基础架构工具。

现在 OpenAI 核心做的是,把推进速度变慢,每推进新版本,都有足够时间让用户给他们足够反馈,找到潜在风险点,有足够时间弥补。

原文链接

免责声明:数字资产交易涉及重大风险,本资料不应作为投资决策依据,亦不应被解释为从事投资交易的建议。请确保充分了解所涉及的风险并谨慎投资。OKEx学院仅提供信息参考,不构成任何投资建议,用户一切投资行为与本站无关。

加⼊OKEx全球社群

和全球数字资产投资者交流讨论

扫码加入OKEx社群

相关推荐

industry-frontier