MHMarkets:AI应用呈现多样化,异构计算发挥重要作用
高通指出,生成式AI用例需求存在多种类型,具有复杂性、并发性和多样性,对应对芯片的性能及资源调用提出不同要求。在此背景下,异构计算架构能够支持处理多样性的特点就具有较大吸引力,从而充分发挥每个处理器的优势:CPU擅长顺序控制和即时性;GPU适合并行数据流处理;NPU擅长标量、向量和张量数学运算。
从更加远期的角度看,未来个人助手或在AI手机上成为标配,因此语音识别、大语言模型、语音模型等多种模型可能会并行运行,因此高通提出需要在NPU、GPU、CPU和传感器之间分布处理模型,进行整体的方案设计。
SoC多核架构持续升级,AI功能受到重视。SoC设计的另一个延伸方向是如何从芯片架构上进行优化。主流手机SoC(主要是CPU)设计主要使用Arm核,ARM架构在手机市场市占率超过99%。从SoC的设计架构发展历程看,CPU等处理器经历了从单核高频率、多核、大小核、“大核+中核+小核”“超大核”的变化,频率和核心数也相应不断增加,意在提升SoC性能。但另一方面,由于移动端性能和功耗平衡的限制,SoC的核数不能无限制增加。
Arm架构升级助力芯片性能提升,持续增强AI能力。根据Arm官网,2021年发布的Arm V9架构是当前旗舰手机采用的最新一代架构,其中2023年发布的Armv9.2指令集包括新的QARMA3 PAC算法、浮点能力增加和PMU增强等,意在强化手机芯片的AI计算能力。根据Arm在MWC2024大会上的介绍,随着 Arm CPU 提供的AI能力每两年实现翻番,通过搭载Arm 2023 全面计算解决方案 (TCS23) 的智能手机,Arm在该手机的Arm Cortex CPU上借由LLaMa2-7B参数演示AI推理。演示性能接近每秒生成10个Token,这大约是普通成年人读取速度的两倍。
此外,在GPU方面,不同于此前手机厂商均采用ARM公版GPU方案,各厂商开始自研GPU以形成差异化竞争优势。
变化三:AI推理需求增加,内存容量及带宽需求提升
除了计算,AI手机同样会对存储提出更高要求。根据联发科无线事业部AI技术高级经理庄世荣,130亿参数量大模型运行需要有13GB的内存容量(INT8),同时智能手机运行安卓操作系统需要4GB的内存,同步相对流畅的运行其他手机APP需要6GB的内存,AI模型端侧推理部署的手机存储量应该达到23GB才能够实现较好的用户软件使用体验。OPPO刘作虎也提到,70亿参数大模型正常的模型大小是28GB,为了真正在端侧部署,OPPO对模型进行压缩和轻量化,最后压缩到最小的3.9GB左右,无论是存储还是内存占用都是这个量级。vivo副总裁黄韬表示大模型对手机运行内存性能的要求,起码是8G起步。IDC指出,16GB RAM将成为新一代AI手机的基础配置。
MHMarkets:关注散热、电池及整机设计等变化
在其他硬件变化方面,为了适配大模型及其计算需求,同AIPC,我们判断AI手机在散热、电池及整机设计等环节亦或将带来升级变化。
电池:硅碳负极提升电池能量密度。传统PC或手机电池采用石墨作为负极,石墨负极理论克容量为372mAh/g,但硅基负极理论克容量可高达4200mAh/g,因此便出现了通过给负极掺硅碳复合材料的方式来提升电池能量密度的技术尝试。目前在小米、荣耀的新一代旗舰手机上,均出现了高密度硅碳负极电池的身影。其中小米“金沙江电池”容量达到5300mAh,最高硅含量6%,电池体积降低8%,续航提升高达17%。而在AI时代,随着算力提升带来的功耗提升,对电池续航能力的要求也更高。
散热:随着AI计算带来的功耗增大,如何提升散热亦成为重点。当前手机散热技术路径主要有石墨片、均热板、热管。从新材料和技术上,当前石墨烯等新材料的采用成为了可能。由于芯片算力提升,对应对散热的要求也会提升,但同时还要满足手机在重量、厚度等方面的整体设计要求,因此目前各家厂商的散热方案并不完全一致,但通过提升散热能力降低发热的整体思路一致。
操作系统&应用侧:操作系统优化升级,移动端应用日新月异,商业模式有望跑通
操作系统:差异化OS系统成为竞争焦点,AI Agent加快手机端落地
操作系统提供了软件运行的环境,成为AI端侧落地的重要一环。在日常运行交互过程中,手机端侧大模型不断学习用户的价值观、需求、行为偏好、顾虑等数据形成用户画像并持续更新,从而使得用户在操作系统交互中能得到更加智能的个性化体验。我们认为,经历了功能创新匮乏、硬件堆叠定义手机的长周期,大模型能力的加持使得手机来到软件体验定义产品的新时点。
长期来看,端侧AI的运行需要大模型与手机OS操作系统、手机硬件及手机本地模型协同。OPPO提出来智慧OS的概念,与智能手机相比,在AI手机时代,应用的生态从原本的独立APP演变为多个场景,同时智慧OS也要能够实现多模态融合的交互。
MHMarkets:AI agent与手机的结合也成为另一个重要方向。目前OpenAI正开发两款革命性的Agent软件,其中一款能够有效接管客户的设备来自动执行复杂的任务,从移动端AI的发展趋势看,我们认为未来AI Agent与手机的结合或具有较大可能。手机端AI Agent的发展方向是Agent自主调用手机端应用,让用户享受到专属手机智能助理的服务,从而打破APP的隔阂,通过自主的规划决策实现跨应用的操作。