AI大模型热潮下算力需求爆发，上海怎么玩？

来源：澎湃新闻

作者：贺梨萍

原标题:《特稿｜AI大模型热潮下算力需求爆发：临港欲建百亿产业，商汤当“链主”》

2022年1月24日，商汤科技在上海自贸区临港新片区布局的人工智能计算中心AIDC正式启动运营。当时这家人工智能公司未必能精准预测，2022年即成为了所谓的AIGC（AI Generated Content）元年。

“今天，我们的临港AIDC已经有接近3万块的GPU（图形处理器），我们目前的算力已经达到5000 PetaFLOPS（1 PetaFLOPS等于每秒1千万亿次浮点运算），在这之上我们相信未来可以有更好的开发者效率，并且都能够支持更多千亿规模的大模型算力训练。”在6月2日的“AI引领时代，算力驱动未来”——临港新片区智算大会上，商汤科技董事长兼CEO 徐立如是表示。

据澎湃新闻（www.thepaper.cn）记者从商汤方面了解，“目前还有大量的需求在路上排着队”。而在商汤科技联合创始人、大装置事业群总裁杨帆看来，人工智能对于更大数据、更大规模、更大算力的追求并不是“始于今天”，“整个人工智能技术迭代、进步的历史，我们可以把它看成是一个对于‘暴力美学’的追求，以及算法、算力、数据三要素由量变产生质变的一个技术迭代的过程。”

聚焦前沿产业的临港新片区对这种新的热潮迅速做出了响应。6月2日当天，临港新片区党工委副书记吴晓华在上述大会上发布了《临港新片区加快构建算力产业生态行动方案》。该《方案》的蓝图之下，至2025年，临港将成为具有全国影响力的算力产业集聚区，含相关硬件、软件、应用、服务等的算力产业总体规模将突破100亿元。

临港新片区党工委副书记吴晓华发布《临港新片区加快构建算力产业生态行动方案》。

“我们看到AI大爆发的时代已经来临了，AI进入到我们生产和生活的各个领域，那么随着 AI应用的大爆发，它其实也驱动了算力需求的大爆发。”对于上述《方案》的出台，临港新片区管委会高科处处长陆瑜对澎湃新闻（www.thepaper.cn）在内的媒体表示，临港前期已具备了很好的优势，“就是我们的算力资源非常丰富。”

更为重要的是，在人工智能公司选择是否落地临港时，算力资源已经成为尤为重要的决策因素。

算力是新时代的能源，而成功又不仅仅在于“暴力美学”

何谓算力？徐立认为，算力其实是整个模型能力的表达，“算力等于算法或者说大模型的参数，去乘上它所处理的数据量。大模型时代参数越大，乘上的数据量越大，所需要的算力就越大。”算力已然成为新时代的能源，“某种程度上，算力决定了市场的竞争力。”

杨帆也谈到，从去年到今年整个人工智能领域非常火的一个概念叫内容生成，同时大家都熟悉了一个名词即大模型。简单来看，这是一种“暴力美学”，例如，GPT-3模型使用了超过1750亿个参数，需要高性能的处理器来支持训练，使用V100训练耗卡量为10000张卡训练14.8天，整体算力需求约625 PetaFLOPS。

杨帆认为，这种“暴力美学”也可以理解为量变产生质变，“其实人工智能从它诞生的第一天起到今天，一直都在追求通过规模化带来更强的智能化。”他提到，实际上就人工智能领域来说，在过去的5-6年时间里，业内最顶级的人工智能模型对算力的消耗量，“每4-6个月就要翻一番，也就是说过去的这几年时间里翻了近30万倍。”

当然，“暴力”和“智能”并不是完全成正比，“拥有更大的资源、更大的规模，它仅仅是一个必要而非充分的条件。”杨帆强调，真正在“暴力美学”背后支撑产生重大的技术创新和成果的，恰恰又是在于对每一个环节的持续性的优化和改进。

以数据为例，“GPT-4所用的数据其实只是OpenAI收集到的所有数据的1%，因为他发现当把更多的数据去灌给机器人的时候，有可能反而不那么聪明，应该把更加有效、更加高价值的数据提供给这个算法，然后才能去创造出一个更加聪明的大脑。”

其认为，至少在今天，数据的有效性远比数据的总量更加重要。而如何定义有效的数据，“这其实就需要数据科学家大量的努力，OpenAI其实让他们最优秀的科学家去做数据了，并非大家觉得的去搞算法了。”

这种每个环节的优化同样包括算力，在英伟达缺货的情况下，为什么没人在用国产芯片做商业化的大规模训练？为什么最新这波浪潮到来后，第一时间钱都被英伟达挣走了？这些问句背后的解释是，“并不是我们把算力量堆到一个数值就能够产生最终的价值，1000张卡100台服务器放在一起跑同一个任务，这中间还需要大量的配套软件、通信网络，它是一系列软硬件联合调优的过程，这样的工作积累我们过去没有做，我们今天就需要去补课。”

顺势而为，临港加快形成多元算力供给体系