只凭CPU/GPU性能换机的时代，过去了

原文来源：硅星人

图片来源：由无界 AI生成

上周，一款全新“小“设备点燃了全球科技界的热情。它就是由OpenAI CEO Sam Altman投资的、人类历史上第一款真正的AI硬件——AI Pin。

AI Pin使用时直接别在胸前 自：Humane官方

这款别在胸前、被众多媒体冠以“AI时代iPhone”的硬件，在设计突出一个“激进”，直接砍掉了过往中枢移动设备肯定有的显示屏，还要独立于智能手机运行。

官方演示中AI Pin可以直接计算手中的杏仁有多少克蛋白质 自：Humane官方

在应用层面，由GPT4驱动的AI助手既是系统，也是唯一的App。用户的语音命令就是最主要的操控方式。剩下的激光投射和手势识别，仅仅是作为整个交互系统的补充存在，以非常简单的界面和操控为用户提供包括信息、天气、时间、日期、导航等内容。

知名开发者Steven Tey表示AI Pin让他想起了当年iPhone的发布

这种对于整个移动互联网时代交互逻辑的颠覆，让AI Pin获得了很多极客用户的喜爱。

而大多数普通用户的想法，其实是“希望将这种交互和能力，内嵌到智能手机之中”，让智能手机再次获得升级。

显而易见，随着大模型的各种能力逐步落地，消费者即将进入一个考虑自己的移动设备能否流畅运行AI能力，而不是只考虑CPU、GPU绝对性能的时代。而这，必将带来新的挑战和机会。

移动端普及AI大模型，有哪些挑战？

首要的，是来自于AI大模型提出的全新计算能力需求。

与手机和笔记本之前面对各种系统、软件负载不同，大模型相比过往的AI应用，在神经规模大小、计算量、存储空间、读写速度的需求上，有了数十倍的增长。

GPT-3和GPT-4的参数规模对比 自：medium

以OpenAI最新的GPT-4模型为例，据行业内传闻就有高达1.8万亿个参数，而其2018年发布的GPT-1，仅有1.1亿个参数。规模相差10000倍。

即便是移动端大模型应用阶段对模型进行瘦身，但实际应用的推理模型参数量也将高达70亿-100亿个参数。再靠过往的移动端升级CPU和GPU硬件规格的方法，肯定无法满足数倍乃至数十倍增长的AI计算需求。

解决新增需求的方法只有两个，要么联网，用网络把计算过程“转移”到云端。要么想办法提升计算力，在本地直接计算出结果。

开篇介绍的AI Pin，产品中就打包整合了美国运营商的联网服务，其每月24美元的月租，除了掏钱买OpenAI的服务能力之外，也有移动网络的花费。

这套看似“简洁”的处理方法，同样存在着不少的疑问。

首先是最危险的隐私问题，将个人的数据、个人绝大多数的生活点滴，甚至是一些极其私人的信息全部任由AI Pin这样的硬件上传，会导致数据安全隐患。

退一步说，把所有AI计算需求放在云端，由本地上传数据再下载数据的方式，网络的质量将极大影响最终使用的体验。尤其是在移动网络覆盖本就不如中国好的海外，卡顿乃至无响应大概率都会出现。

成本上的挑战也同样值得关注，一次性购买的本地计算能力，虽然比连续订购的云上算力先期投入大，但全生命周期往往要划算得多。就以AI Pin为例，699美元的起售价，每个月还要付24美元的租金，实属不便宜。

整合以上三点，不难得到一个结论：AI大模型在移动端实现本地化，才是最优解。

相应地，移动设备行业需要进行一次从底层硬件到顶层生态的全面升级。

抢跑AI时代的高通

回望整个移动端市场，有能力推动这场全面升级的玩家，已经参与其中付出努力的更是少数，高通恰恰是其中一个。

在年初的MWC2023上，高通就展示了生成式AI模型——Stable Diffusion在第二代骁龙8赋能的智能手机上的运行。Stable Diffusion模型的规模为10亿参数，第二代骁龙8可以在15秒内执行20步推理，把文字提示生成一张图像。

第三代骁龙8移动平台亮点一览

而在高通最近发布的全新旗舰移动平台第三代骁龙8上，高通AI引擎的核心Hexagon NPU再次升级，整体性能再度提升了98%，能效也提升了40%。