众所周知,自从去年开始,各消费电子厂商普遍都加快了部署“端侧AI”的节奏。从产品形态来说,最早是智能手机上的各种“大模型”,之后很快就扩展到PC、汽车,甚至是更多的家用电器领域。而从功能层面来看,短短一年之内,消费者能够实际用到的AI功能,就从最初仅有单一功能的模型,进化到了如今能够实现跨APP“拟人化”操作的多模态“智能体”。
事实上,消费电子领域的AI技术诞生其实已经有很多年,但为何实际体验在过去的这段时间里就表现得如此“突飞猛进”呢?
就在2025年2月MWC(世界移动通信大会)开幕前夕,高通发布了一份《AI变革正在推动终端侧推理创新》白皮书,较为详细地阐释了消费电子领域如今AI体验革命背后的技术原理。
为何AI体验在消费电子领域如今突然就“好起来了”?根据高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉(Durga Malladi)给出的解读,关键因素主要有三点。
更高性能的小模型,让端侧AI推理成为可能
其一,是随着AI模型蒸馏技术的发展,许多小规模模型的性能表现,已经超过了一年前那些仅能在云端运行的更大模型。马德嘉用最近流行的DeepSeek为例,在使用DeepSeek对Llama 700亿参数版本模型进行“蒸馏”后,所得到的模型在推理、编程、数学、数据分析等方面,表现已经超越了原本的大尺寸版本。尽管在语义理解和指令遵循方面,小模型还有进一步提升的空间,但它已经足够证明了模型蒸馏技术的可用性。
而且就在这短短一年多的时间里,全球已经诞生了丰富多样的、可用于边缘设备的模型,其中既包括Llama、Mistral、Phi、Gemma这样的开源模型,还有百川、Gemini Nano、通义千问、Phi Silica等闭源模型。除此之外,针对特定地区、或是特定的使用场景,开发者现在也能找到合适的模型。
那么这意味着什么呢?首先,相比以往只能在云端运行的大尺寸模型,高性能的“小模型”可以实现真正无需上传用户个人数据的端侧处理。而这显然更迎合了如今消费者对于隐私保护的需求。其次也正是因为无需依赖云端处理,以Deepseek蒸馏模型为代表的这类高性能小模型,在实际应用场景下可以不受网络环境的影响,提供更快的即时响应速度。
早在2013年,高通就率先提出和发布了最早的移动端NPU
当然,从行业技术发展历程的角度来说,大家都知道高通方面早在2013年就推出了首款独立NPU。而且从2015年的骁龙820开始,他们就早早地在旗下智能手机SoC上加入了第一代高通AI引擎。或许正是因为有了这些自10年前就已经开始的未雨绸缪,当高性能的AI“小模型”最终变得高度可用时,手机行业仅用数周时间,就成功地让DeepSeek在基于骁龙移动平台的机型上“跑”了起来,既证明小模型对于消费电子设备的实用价值,也再一次印证了高通多年前坚持至今的技术路线的正确性。
当然,这样一来其实也带来了新的问题,那就是开发者要如何才能在数量众多的小模型里,选出最适合具体设备形态和功能需求的那一个呢?
更灵活的高通AI Hub,让模型选择不再有“困难症”
这就不得不提到高通在去年MWC期间推出的高通AI Hub了,它能够帮助开发者更直观地选择相应的平台和模型,并且更高效地编写AI应用。除此之外,它还能实现“一次编写、多端部署”的效果,增强AI应用在不同高通产品上的兼容性和运行效率。
正因为高通AI Hub的这些便利性,发布仅仅一年时间后,就已经拥有了超过1500家企业用户。此外,高通方面也在积极地与行业中的更多伙伴达成合作,进一步增强AI Hub的竞争力。比如,他们如今已经与Meta、Allam、OpenAI、Tech Mahindra、IBM、Mistral、G42等模型厂商建立合作,将它们的大模型集成到高通AI Hub的可选项之中。而在服务和软件领域,来自AWS、dataloop、IBM Watsonx、Nota AI等生态伙伴的支持,也进一步为AI Hub的开发者提供了方便。
除此之外,高通AI Hub自身的功能和灵活度也在不断改善。现在它已经正式支持由开发者自行导入模型,或是直接在AI Hub上用数据来搭建模型,并在云端设备农场(device farm)中对模型进行训练。如此一来,开发者便不用再受到现有模型的制约,可以更灵活地根据自身需求,产出运行效率更高的AI应用。
大胆拥抱自研架构,高通的AI生态还有更多故事可讲
当然,在说到高通旗下产品对于AI功能的广泛支持时,除了AI Hub所带来的简易适配流程之外,高通自身的统一硬件架构特征,更是他们如今最大的底气。
众所周知,就在2023年年底,高通方面正式发布了自研CPU架构Oryon。这也就意味着自此之后,高通便成为了业界少有同时拥有自研CPU、自研GPU、自研NPU、自研ISP等全生态自研处理单元架构的厂商之一。
当时间来到2025年年初,伴随着Oryon架构从骁龙PC平台扩展到骁龙移动平台、骁龙智能座舱产品,它们不仅带来了新品客观上巨大的性能和能效改进,同时也令高通在自身的“跨产品线AI功能部署”方面变得比以往更加从容。
值得一提的是,就在此次发布“AI白皮书”的同时,高通方面还带来了他们针对工业、物联网和蜂窝网络基础设备的全新品牌高通跃龙(Qualcomm Dragonwing)。在阐释跃龙与骁龙产品线的关系时,高通方面也明确表示,未来两者都将全部基于高通Oryon CPU、Adreon GPU、Hexagon NPU、FastConnect无线连接系统等一系列目前的自研方案进行构建。
换句话说,这一方面可能就意味着未来的高通整体产品线在运行AI大模型方面,很可能会与竞争对手拉开更大的差距。另一方面这也相当于已经明示,未来在整个高通生态内部,AI模型的相互移植或将比现在更进一步简化,而跨设备的异构AI协同计算,甚至也可能会成为高通未来不同产品线之间,在用户体验上的全新“杀手锏”。
AI将成为新的UI,高通正在成为关键领导者
纵观目前的整个消费电子领域,虽然几乎所有芯片厂商都在强调“AI加速”的重要性,但具体到产品设计和功能实现上,绝大多数厂商要么没能做到全面“AI化”,依然保留了大量不具备AI向设计的重要产品线,以至于拖累了建设AI生态的积极性。要么就是被动依赖于第三方的IP授权,无论在硬件上还是AI软件生态上,都只能被动跟随行业热点,做不到真正的“开拓创新”。
相比之下,高通近年来在AI生态建设方面显然就要有诚意得多。一方面,凭借着软件层面的AI Hub,他们大幅降低了旗下产品适配各类大模型的技术难度,推进了各类第三方App在集成AI功能实际落地上的速度。另一方面,已经补上最后一块拼图的自研硬件矩阵,也成为了高通敢于更积极推动高性能AI端侧处理,并在未来全产品线上实现AI体验打通的底气。
事实上,就在最近举行的MWC展会上,就已经可以看到更多基于高通旗下不同平台的AI产品演示。从运行在智能手机上的跨应用AI智能体,到“骁龙本”上的生成式文本和图像创作,再到智能汽车座舱里的个性化人车交互……很显然,伴随着软硬件两方面的助推,高通方面正有力地实现消费电子领域的“AI触手可及”。
那么,未来的AI将会进化到何种地步呢?在阐述AI白皮书的内容时,马德嘉提出了一个关键的概念,即“AI是新的UI”。也就是说在多模态AI模型的加持下,未来的智能设备可能将会完全改变与用户之间的交互方式。用户不再需要与具体的App进行前台操作,而是只需要告知AI自己的需求,之后所有的任务分配和操作全部交由AI自动进行。
如果这样的构想成真,那么它甚至可能会影响到整个智能设备的主流外观和结构形态。而面对这样的未来,很显然高通方面已经“有所准备”,甚至可以说正在引领这一变革。
推荐阅读:中小底传感器性能迎来爆发,手机影像或“变天”
手机厂商对于超大底CMOS的需求,可能已经没有过去那么迫切。普及“车载无人机”,比亚迪或许不止为了“好玩”
高投入研发车载无人机,比亚迪的打算或许很长远。本文来自:什么值得买