复制成功

分享至

主页 > 比特币 >

争夺 AI 入场券:中国大公司竞逐 GPU

2023.06.14

来源丨晚点LatePost

文丨张家豪

全世界都在抢算力,中国大公司更急迫。

2022 年下半年,生成式 AI 爆火的同时,硅谷著名风险资本 a16z 走访了数十家 AI 创业公司和大科技公司。他们发现,创业公司转手就把 80%-90% 的早期融资款送给了云计算平台,以训练自己的模型。他们估算,即便这些公司的产品成熟了,每年也得把 10%-20% 的营收送给云计算公司。相当于一笔 “AI 税”。

这带来了在云上提供模型能力和训练服务,把算力租给其它客户和创业公司的大市场。仅在国内,现在就至少有数十家创业公司和中小公司在自制复杂大语言模型,他们都得从云计算平台租 GPU。据 a16z 测算,一个公司一年的 AI 运算开支只有超过 5000 万美元,才有足够的规模效应支撑自己批量采购 GPU。

据《晚点 LatePost》了解,今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单。字节今年向英伟达订购了超过 10 亿美元的 GPU,另一家大公司的订单也至少超过 10 亿元人民币。

仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用 GPU 总和。去年 9 月,美国政府发布对 A100、p00(英伟达最新两代数据中心商用 GPU) 的出口限制时,英伟达曾回应称这可能影响去年四季度它在中国市场的 4 亿美元(约合 28 亿元人民币)潜在销售。以此推算,2022 年全年英伟达数据中心 GPU 在中国的销售额约为 100 亿元人民币。

相比海外巨头,中国大科技公司采购 GPU 更为急迫。过去两年的降本增效中,一些云计算平台减少了 GPU 采购,储备不足。此外,谁也不敢保证,今天能买的高性能 GPU,明天会不会就受到新的限制。

争夺 AI 入场券:中国大公司竞逐 GPU


从砍单到加购,同时内部腾挪


今年初之前,中国大型科技公司对 GPU 的需求还不温不火。

GPU 在中国大型互联网科技公司中主要有两个用途:一是对内支持业务和做一些前沿 AI 研究,二是把 GPU 放到云计算平台上对外售卖。

一名字节人士告诉《晚点 LatePost》,2020 年 6 月 OpenAI 发布 GPT-3 后,字节就曾训练了一个数十亿参数的生成式语言大模型,当时主要使用的 GPU 是 A100 前代产品 V100。由于参数规模有限,这个模型生成能力一般,字节当时看不到它的商业化可能性,“ROI(投资回报率) 算不过来”,这次尝试不了了之。

阿里也曾在 2018-2019 年积极采购 GPU。一位阿里云人士称,当时阿里的采购量至少达到上万块规模,购买的型号主要是 V100 和英伟达更早前发布的 T4。不过这批 GPU 中只有约十分之一给到了达摩院用作 AI 技术研发。2021 年发布万亿参数大模型 M6 后,达摩院曾披露训练 M6 使用了 480 块 V100。

阿里当时购买的 GPU,更多给到了阿里云用于对外租赁。但包括阿里云在内,一批中国云计算公司都高估了中国市场的 AI 需求。一位科技投资人称,大模型热潮之前,国内主要云厂商上的 GPU 算力不是紧缺,而是愁卖,云厂商甚至得降价卖资源。去年阿里云先后降价 6 次,GPU 租用价下降超两成。

在降本增效,追求 “有质量的增长” 与利润的背景下,据了解,阿里在 2020 年之后收缩了 GPU 采购规模,腾讯也在去年底砍单一批英伟达 GPU。

然而没过多久后的 2022 年初,ChatGPT 改变了所有人的看法,共识很快达成:大模型是不容错过的大机会。

各公司创始人亲自关注大模型进展:字节跳动创始人张一鸣开始看人工智能论文;阿里巴巴董事局主席张勇接手阿里云,在阿里云峰会发布阿里大模型进展时称,“所有行业、应用、软件、服务,都值得基于大模型能力重做一遍”。

一名字节人士称,过去在字节内部申请采购 GPU 时,要说明投入产出比、业务优先级和重要性。而现在大模型业务是公司战略级别新业务,暂时算不清 ROI 也必须投入。

研发自己的通用大模型只是第一步,各公司的更大目标是推出提供大模型能力的云服务,这是真正可以匹配投入的大市场。

微软的云服务 Azure 在中国云计算市场本没有太强存在感,入华十年来主要服务跨国公司的中国业务。但现在客户得排队等待,因为它是 OpenAI 商业化的唯一云代理商。

阿里在 4 月的云峰会上,再次强调 MaaS(模型即服务)是未来云计算趋势,在开放自研的通用基础模型 “通义千问” 测试之外,还发布了一系列帮助客户在云上训练、使用大模型的工具。不久后腾讯和字节火山引擎也先后发布自己的新版训练集群服务。腾讯称用新一代集群训练万亿参数的混元大模型,时间可被压缩到 4 天;字节称它们的新集群支持万卡级大模型训练,国内数十家做大模型的企业,多数已在使用火山引擎。

免责声明:数字资产交易涉及重大风险,本资料不应作为投资决策依据,亦不应被解释为从事投资交易的建议。请确保充分了解所涉及的风险并谨慎投资。OKEx学院仅提供信息参考,不构成任何投资建议,用户一切投资行为与本站无关。

加⼊OKEx全球社群

和全球数字资产投资者交流讨论

扫码加入OKEx社群

相关推荐

industry-frontier