ChatGPT 限流，生成式大模型触碰算力天花板？

ChatGPT恢复了Plus付费购买，GPT-4又能“花钱”使用了。但有不少用户发现，最近这个增长最快的对话机器人的响应速度变慢了不少，之前，它还出现过大规模封号和时常掉线的情况。

4月5日，ChatGPT Plus付费功能的停摆已经引发外界对AI算力供给不足的担忧。当前，市面上已经不仅ChatGPT一个文本生成大模型的应用了，同类产品有谷歌的Bard、百度的文心一言，市面上还有图片、音视频、3D效果甚至App的生成式AI大模型。

多模态大模型井喷式出现，支撑它们的算力还够吗？

目前，供给主流AI大模型的高性价比芯片是英伟达的A100，从去年开始，英伟达就在向代工厂台积电下急单，催产多种芯片，其中就包括A100，足见当前AI算力的紧俏。而OpenAI关于GPT-4.5、GPT-5的推出已经列出了时间表。

爱丁堡大学超级计算中心马克·帕森斯的预言正在成真，“算力会成为AI大模型发展的阻碍”，除了高性能芯片量产的局限性之外，还有芯片带宽的问题亟待解决。

ChatGPT暂停付费服务引发算力担忧

“因为需求量太大，我们暂停了升级服务”，这是4月5日ChatGPT停止Plus付费购买功能时给出的理由，当时距离它开通Plus功能仅仅2个月。

一天后，ChatGPT又恢复了Plus的订阅，人们又能以每月20美元的价格享受会员服务了，包括使用最新模型GPT-4、在高峰时段正常访问、拥有更快的响应速度等等。当有会员用户感觉，ChatGPT的响应速度变慢了，宕机时总是显示“Oops”的遗憾声的页面越来越频繁地出现，“服务器跟不上了？”

4月5日，ChatGPT暂停Plus付费服务

哪怕在停售Plus之前，ChatGPT突然无法使用的情况也大规模地发生过。3月20日，它曾全球性宕机12小时，付费用户也未能幸免，官方公布的原因是“数据库迁移”；到了3月30日，有大量亚洲用户发现被封了号，“用访问范围门槛减少访问量”的怀疑声出现。

降低访问量的确是ChatGPT研发方Open AI在做的事。近期，该公司多次下调付费用户的访问次数，起初，用户可以每四小时和GPT-4对话100次；不久后，下降到每四小时50次；再之后，变成每三小时25次。但即便如此，社交网络上仍然有不少人在反馈，ChatGPT掉线的频率在增加。

随着用户量的增加，ChatGPT已经暴露出访问响应速度跟不上的问题，而OpenAI似乎并不打算停止模型的升级。

日前，该公司公布了GPT未来版本的规划，预计在今年9、10月推出GPT-4.5，在今年第四季度推出GPT-5。在种种爆料中，GPT-5的性能相较于GPT-4有着指数级别的进化，拥有在视频、音频中读取信息等神奇能力。

以“点和圆”比喻GPT-4与GPT-5的差异

人们在佩服OpenAI研发能力的同时，也在担忧供给GPT模型的“能源”——算力能否跟上的问题。毕竟，需要算力研发AI大模型的，不只OpenAI，还有开发各种多模态大模型的其他公司。而一个文本生成都被ChatGPT限制访问成那样，将来音视频生成，岂不是更费？

OpenAI自己也测算过，2012年以来，全球AI训练的计算量呈指数级增长，每3.43个月就会翻一倍。那么，到底GPT会用掉多少算力？

英伟达A100成AI“石油”

算力，即计算机处理数据的能力，与数据、算法并成为人工智能的三大基石。而GPT这样的大语言模型的建立需要大量的计算能力，GPU芯片是主要的算力产出工具。

据公开数据，GPT-3具有1750亿个参数，45TB的训练数据，有上万枚英伟达的A100芯片支撑。如果缺乏足够的高性能芯片，训练的效率将大大降低。英伟达和微软研究院的一篇论文这样假设，“假设我们在单个GPU中拟合模型，所需的大量计算操作可能导致不实际的超长训练时间”，而GPT-3在单个V100 英伟达 GPU上估计“需要288年的时间”。 2017年发布的V100显然已经不够高效，更具性价比的选择是A100芯片，售价超1万美元，性能确实V100的3.5倍。

OpenAI并没有公布GPT-4 的参数规模，外界传闻的“100万亿参数”已经被该公司CEO山姆·阿尔特曼（Sam Altman）否认，但从研究人员根据前代模型数据的推测和媒体从内部人士获得的信息看，GPT-4的参数量至少在万亿级别。这也意味着，GPT-4的参数量是GPT-3的10倍以上，相应地，GPT-4的算力需求也在指数级上升。