沃资讯
科技 财经 汽车 游戏 数码 资讯 商业

AI新纪元!高通白皮书揭秘终端侧推理创新浪潮

2025-02-20来源:ITBEAR编辑:瑞雪

在AI领域的一次重大突破中,DeepSeek R1蒸馏模型的推出标志着行业迈向了全新的发展阶段。这一新一代终端侧推理模型,其性能卓越,让以往仅在云端才能实现的AI功能得以在终端设备上展现,预示着终端侧AI处理新时代的到来,既安全又可靠。

高通技术公司近期发布的白皮书《AI变革推动终端侧推理创新》,深入剖析了DeepSeek R1发布背后的AI行业大趋势。随着训练成本的降低、推理部署的加速以及对边缘环境创新的关注,AI领域正经历深刻变革。科技界不再仅仅专注于构建更大的模型,而是转向如何在边缘侧实际应用中高效部署这些模型。大型基础模型的蒸馏技术催生了众多更智能、更小巧、更高效的模型,为各行业尤其是终端侧AI的快速集成提供了可能。

DeepSeek R1作为尖端AI推理模型的代表,其一经发布便在科技界掀起波澜。其性能不仅与同类先进模型相当,甚至在某些方面超越,彻底颠覆了AI发展的传统观念。这一关键时刻是行业创新趋势的一部分,展现了在打造高质量小语言模型和多模态推理模型方面的进展,以及这些创新如何为AI的商用应用和终端侧推理落地铺平道路。

当前,四大趋势正显著提升终端侧运行的AI模型的质量、性能和效率。首先,先进的AI小模型已具备出色性能,新技术如模型蒸馏和创新AI网络架构能够在不影响质量的前提下简化开发流程,使新模型的表现超越一年前仅在云端运行的大型模型。其次,模型参数规模迅速缩小,得益于先进的量化和剪枝技术,开发者能够在不牺牲准确性的前提下减小模型规模。再者,边缘侧应用日益丰富,高质量AI模型的激增使得文本摘要、编程助手、实时翻译等功能在智能手机等终端设备上普及,为AI在边缘侧的规模化部署提供了商用应用支持。最后,AI正成为新的用户界面,个性化多模态AI智能体将简化交互,高效跨越不同应用完成任务。

高通技术公司在AI训练向大规模推理转型以及AI计算处理从云端向边缘侧扩展方面拥有战略优势。公司在定制CPU、NPU、GPU和低功耗子系统开发方面取得了显著成就。通过与模型开发商合作,并提供面向不同边缘终端领域的模型部署工具、框架和SDK,高通技术公司助力开发者在边缘侧加速采用AI智能体和应用。

近期,AI模型训练方式的颠覆性变革和重新评估进一步验证了AI格局向大规模推理转变的趋势,这将开启全新的边缘侧推理计算创新和升级周期。尽管模型训练仍将在云端进行,但推理将受益于高通技术广泛终端的采用,从而催生更多边缘侧AI赋能处理器的需求。

高通公司总裁兼CEO安蒙在2025财年第一季度财报电话会议中分享了对当前AI行业发展趋势的看法。他表示,高通在连接、计算和边缘AI技术方面的领先组合,持续保持高度差异化,并在多个行业中愈发重要。高通对边缘侧AI机遇持乐观态度,尤其是在迎来新一轮AI创新和规模化扩展周期之际。DeepSeek R1及其他类似模型的推出,展示了AI模型正以更快的速度发展,变得更小、更强大、更高效,并可直接在终端侧运行。事实上,DeepSeek R1蒸馏模型在发布仅几天内便能在搭载骁龙平台的智能手机和PC上运行。

安蒙还提到,随着进入AI推理时代,模型训练仍将在云端进行,但推理将越来越多地在终端侧运行,使AI更加便捷、可定制且高效。这将促进更多专用模型和应用的开发和采用,从而推动各类终端对高通平台的需求。凭借行业最强大和高效的边缘侧AI处理器,高通在推动这一转型方面具有独特优势,并将从即将到来的变革中受益。

“祖冲之三号”同款芯片赋能!我国超导量子计算机“天衍-287”搭建完成并开放服务
据了解,该量子计算系统具备“量子计算优越性”能Q力,处理特定问题的速度比目前最快的超级计算机快4.5亿倍,未来将接入“天衍”量子计算云平台并首次面向全球开放应用服务,这也将是我国首个具备“量子计算优越性”的量…

2025-11-14

小天互连IM系统:打破政企信息孤岛 驱动一体化协作新变革
某省级政务大厅在信创升级中,通过小天互连IM系统实现了与政务服务平台、电子证照系统的无缝对接,群众办事进度可直接通过即时通讯推送,办理效率提升50%,印证了其国产化集成的稳定性。 从国产化生态适配到开放 A…

2025-11-14

虚拟化与超融合:从架构到应用,一文读懂如何选择适合的IT方案
超融合平台通常基于成熟的虚拟化技术,例如它可能内置虚拟机管理功能,但更强调整体资源的统一管理。性能上,虚拟化可能因资源竞争而出现波动,而超融合的分布式存储设计可以提供更一致的I/O性能,特别是在高并发场景下,…

2025-11-14

安科瑞ASCB3-80m智能微断:全参量监测+远程操控,筑牢低压配电安全防线
智能微型断路器配合智能网关使用,对用电线路的关键电气参数,如电压、电流、功率、温度、漏电、能耗等进行实时监测,具有远程操控、异常预警、事故跳闸告警、电能计量统计、故障定位等功能。ASCB3-80m 系列智能…

2025-11-14

杭州上城第三批50个“人工智能+”场景发布 涵盖多领域促发展
11月13日,杭州市上城区第三批“人工智能+”机会场景发布会暨场景供需对接会活动举行,推出50个高价值场景,涵盖社会治理、金融服务、民生服务、城市管理、智能建造、文化旅游、时尚消费等多个热门领域。如,由上城…

2025-11-14

WebRTC技术赋能物联网卡:解锁工业医疗驾驶毫秒级低时延通信新路径
WebRTC(网页实时通信)技术与物联网卡的深度融合,正通过 “协议优化 + 硬件适配 + 网络升级”,破解毫秒级响应难题。本文基于行业实践,解析 WebRTC 技术原理、物联网卡协同路径及场景落地效果,为…

2025-11-13

昕锐CL系列激光测距模块:定制化驱动低空经济场景变革新引擎
结语:定制化,是技术普惠的终极路径当测距模块从“标准化商品”进化为“场景化服务”,昕锐CL系列不仅解决了无人机与吊舱的“精准降本”难题,更重新定义了技术与需求的关系:技术突破的价值,不在于参数的堆砌,而在于…

2025-11-13

企业展厅多媒体设备保养指南:从日护到年检的分层维护策略
企业展厅多媒体设备保养频率需按“基础养护+定期检查+深度维护”分层设定,核心频率为每日、每周、每月、每季度,部分设备需年度专业维保。检查设备开机状态,测试核心功能(显示、音响、互动响应)是否正常。 请专业人…

2025-11-13

SK海力士VFO工艺打造HBS技术,为移动设备AI性能提升带来新突破
据闪德资讯获悉,SK海力士正在研发结合移动DRAM和NAND的高带宽存储(HBS)技术,可提高智能手机和平板电脑等移动设备的AI性能。 相比HBM使用的硅通孔(TSV)技术,VFO无需穿孔,成本更低、良率更高…

2025-11-12

2025金砖大赛大数据分析赛项落幕 多元力量共促数智化人才培养新篇章
新道科技助理总裁唐梦彬在致辞中表示,大赛把企业数智化转型过程中的业务模式、典型场景与大数据分析技术相结合,体现行业和企业对人员技能的最新标准,让师生深入了解当前数智化企业的运营和管理模式,提升大数据分析的理…

2025-11-12