比特币ETF获批的背后:机
小扎砸数百亿美元猛攻开源AGI!狂掷60万块H100,爆50倍GPT-4算力
原文来源:新智元
图片来源:由无界 AI生成
今天,小扎正式宣战「开源AGI」!下一代大模型Llama 3正在训练,年底将拥有35万块p00,届时算力总和达60万块p00。为了追赶OpenAI,成立十年的FAIR团队纳入GenAI,全力奔赴AGI。
自Llama2、Code Llama发布后,许久未现身的小扎今天正式官宣:
全力搞「开源AGI」!
短短1分45秒视频中,小扎对Meta的战略升级进行了分享,从AGI构建,到团队合作,再到基础设施的等一系列举措。
接下来,划重点!!!
从现在起,人工智能实验室FAIR团队将纳入「GenAI」,紧密合作重点构建AGI,并全面开源。
目前,Meta内部正在训练下一代模型Llama 3。截止年底,将会有近35万块p00搭建的基础设施。
网友无法想象,Llama 3那得有多大!
Omdia研究数据显示,Meta在2023年p00的出货量为15万块,与微软持平,且是其他公司出货量的3倍。
小扎称,「如果算上英伟达A100和其他AI芯片,到2024年底,Meta将拥有近60万个GPU等效算力」。
此外,小扎的「元宇宙」信仰还没有放弃。他提到,AI最终会与智能设备结合,比如Ray-ban智能眼镜。
30倍GPT-4算力,接近GPT-5水平
在小扎自曝Meta算力之后,Pytorch创始人Soumith Chintala表示,终于可以公开谈论GPU数据了。到今年年底,Meta将拥有60块p00等效GPU。
他还在此卖关子,让大家自由猜测,Meta已经部署和正在使用的GPU。
CAIS的负责人惊叹道, 35万块p00,这比GPT-4的计算能力高出约30倍,几乎达到了GPT-5的水平。
还有人给Meta算了一笔账,「每台p00的成本约为3万美元,这意味着小扎的公司仅购买算力就需要支付约105亿美元,更不用说电费了」。
而这仅仅是为了训练Llama 3?
另外,有网友预计150-200亿美元的算力训练为推荐系统服务的Llama 3。
图灵奖巨头Yann LeCun更是有感而发,今天连发了多条推文。
FAIR的使命是开发人类水平的AI助手:是一个能够理解世界、感知、记忆、推理、计划和行动系统。
在不远的将来,我们与数字世界的所有互动,都将由AI助手通过智能眼镜和其他设备来实现。我们需要这些系统具备人类水平的智能,这样它们才能理解世界、人和工具,从而在日常生活中帮助我们。
为了加快进度,FAIR现已成为人工智能产品部门GenAI的姊妹机构。与此同时,Meta正在建设大规模的计算基础设施,以支持人工智能的研究、开发和生产。
当然,我们也致力于开放研究和开源人工智能平台(是的,Llama 3就要来了!)。FAIR是世界上将AI研究推进到新水平的最佳研究机构,而Meta则是将AI应推向数十亿人群的最佳公司。
没有开源AI,就没有AI创业生态系统。
Meta一直尝试去做正确的事情。
Meta一直在AI领域进行开放研究。
Meta一直在推广开源AI平台。