微软被曝未来3年花1000亿美金囤芯片；杨元庆：AI不是取代人类的智能

文章来源：钛媒体AGI

作者｜任颖文、林志佳

编辑｜林志佳

今日，通用人工智能（AGI）领域又公布了一系列重磅消息。

钛媒体App 4月19日消息，Meta公布期待已久的多模态开源大模型Llama 3系列。同时，Meta还推出了其首款基于Llama 3开源模型的 AI 聊天机器人产品——AI助手，直接对标ChatGPT-4。

与此同时，科技行业裁员消息频出。谷歌宣布从3月10日开始的新一轮裁员，预计持续到8月，包括商业服务等职能部门；英国AI初创公司Stability AI也于近日宣布裁员10%。

另外，有消息指，微软公司计划到2024年底储备180万块AI芯片，这意味着微软今年计划储备的图形处理单元（GPU）的数量增加了两倍。到2027财年，微软预计将在GPU和数据中心上投资约1000亿美元。

4月18日，联想集团董事长兼CEO杨元庆在第十届联想创新科技大会（2024 Lenovo Tech World）上表示，人工智能（AI）的下半场，一定是从技术突破进入到落地应用的阶段。而落地的途径，就是涵盖智能设备、智能基础设施、智能解决方案和服务的三大支柱。

开源大模型Llama3推出，百度智能云支持其全系列训练推理

北京时间4月19日凌晨，Meta公布期待已久的多模态开源大模型Llama 3系列，目前包括80亿和700亿两个参数的调优版本。与此同时，Meta还推出了其首款基于Llama 3开源模型的 AI 聊天机器人产品——AI助手，直接对标ChatGPT-4。

Llama 3具体的技术细节包括：选用了相对标准的仅解码器Transformer架构，并在两个定制的24K GPU集群上基于超过15T的词库上进行了预训练——训练数据集是 Llama 2 的七倍，包含的代码数量也是 Llama 2 的四倍。与此同时，Llama 3支持8K上下文长度，是Llama 2的两倍。

在处理多种类型的复杂任务方面，Llama 3 70B相比8B版本有显著的提高，同时多个基准得分也超过了Google Gemini Pro 1.5以及Claude 3 Sonnet。

Meta表示，预训练和指导微调模型是目前 8B 和 70B 参数尺度上最好的模型。

Llama 3 很快将在所有主要平台上提供，包括 AWS、Databricks、Google Cloud、Hugging Face、Kaggle、IBM WatsonX、Microsoft Azure、NVIDIA NIM 和 Snowflake 上提供，并得到 AMD、AWS、戴尔、英特尔、NVIDIA 和高通提供的硬件平台的支持。另外，你也可以在Meta官方助手Meta AI上体验。

Meta还表示，Llama 3 8B 和 70B 型号标志着其Llama 3发布产品的开始。接下来，Llama 最大模型有超过400B（4000亿）参数，虽然这些模型仍在训练中。

值得注意的是，4月19日中午，继18日Llama3的8B、70B大模型发布后，百度智能云千帆大模型平台19日宣布在国内首家推出针对Llama3全系列版本的训练推理方案，便于开发者进行再训练，搭建专属大模型，现已开放邀约测试。

目前，百度智能云千帆大模型平台中各种尺寸模型定制工具ModelBuilder已预置了最全面最丰富的大模型，支持国内外第三方主流模型，总数量达到79个，是国内拥有大模型数量最多的开发平台。

早前百度创始人、董事长、CEO李彦宏则表示，因为基础模型文心 4.0 可以根据需要，兼顾效果、响应速度、推理成本等各种考虑，剪裁出适合各种场景的更小尺寸模型，并且支持精调和 post pretrain。这样通过降维剪裁出来的模型，比直接用开源模型调出来的模型，同等尺寸下，效果明显更好；同等效果下，成本明显更低，“所以开源模型会越来越落后”。

微软今年将囤180万块GPU，还有千亿美元投资计划

据Business Insider获得的一份文件，微软公司内部计划到2024年底储备180万块AI芯片，这意味着微软今年计划储备的图形处理单元（GPU）的数量增加了两倍。

另据两位知情人士透露，从当前财年到2027财年，微软预计将在GPU和数据中心上投资约1000亿美元。

1000亿美元投资额让人联想到早些时候的一则报道。今年3月30日，微软和OpenAI宣布计划投资1000亿美元建造“星际之门”（Stargate）AI超级计算机。OpenAI的下一版重大AI升级预计将在明年初落地。微软高管希望最早在2028年发布“星际之门”（Stargate）AI超级计算机。此外，微软和OpenAI计划为AI开发数据中心项目。