沃资讯
科技 财经 汽车 游戏 数码 资讯 商业

面向超万卡智算集群:创新存储技术如何破解大模型训练存储难题

2025-09-05来源:ITBEAR编辑:瑞雪

随着人工智能大模型参数规模从千亿迈向万亿级,智算集群对存储系统的需求正经历颠覆性变革。以GPT-4为例,其1.8万亿参数的模型训练需在2万张A100 GPU上持续运行90天,期间产生的数据吞吐量高达PB级,仅单个checkpoint文件就达4TB。这种超大规模计算场景下,传统存储方案在协议兼容性、吞吐性能、数据管理效率等维度暴露出严重短板,成为制约AI训练效率的关键瓶颈。

在数据全生命周期管理中,不同训练阶段对存储协议的需求呈现显著差异。数据归集阶段需处理跨地域、跨网络的PB级非结构化数据,涵盖文本、图像、视频等多元格式,对象存储因其跨域传输优势成为首选;预处理阶段则要求对数据进行清洗、脱敏和格式转换,S3协议与NFS协议需并行工作;模型训练阶段对存储系统提出更高要求,既要支持训练数据的高速读写,又要实现checkpoint的秒级保存与恢复,文件存储成为核心载体;模型发布阶段则需通过对象存储实现广域网部署。传统方案采用对象、文件、块存储独立集群的模式,导致数据在不同系统间反复迁移,PB级数据拷贝耗时长达数天,GPU因等待数据传输产生的空闲时间超过15%,直接拉低整体训练效率。

存储系统面临的性能挑战呈现指数级增长。当1750亿参数的GPT-3模型进行checkpoint保存时,数万张GPU会同时发起4TB级数据写入,引发"写风暴"。这种突发性I/O洪峰对存储集群的聚合带宽提出严苛要求,而传统方案受限于故障域约束,集群节点数难以突破,导致存储稳定性与性能需求形成尖锐矛盾。更严峻的是,数据冷热状态随训练进程动态变化,热数据需驻留在高成本SSD介质,冷数据则应迁移至HDD存储。但传统方案缺乏自动分级能力,导致高性能存储长期被低频数据占用,资源利用率不足40%,同时需额外投入算力进行人工数据搬迁。

针对上述痛点,中国移动创新提出多协议融合存储架构,通过四大核心技术实现存储系统质变。在介质层构建双池架构:热数据池采用全闪介质,温冷数据池采用混闪配置,缓存层部署SSD+HDD混合存储;网络层部署双100Gb RoCE高速互联,构建AI集群与存储集群间的低时延数据通道;协议层基于统一元数据管理,实现POSIX、NFS、S3协议的无缝互通,训练数据无需跨池拷贝;管理层开发智能分级引擎,根据数据访问频次自动在全闪池与混闪池间迁移数据。该架构在哈尔滨1.8万卡智算中心的实践表明,48PB集群可提供6.4TB/s读带宽和3.5TB/s写带宽,单个checkpoint保存时间压缩至秒级,较传统方案提升3倍性能。

商业化部署成效显著,哈尔滨节点建设的150PB融合存储系统包含60PB全闪存储和90PB混闪存储,支撑九天千亿参数大模型训练效率提升20%。多协议融合技术消除数据冗余存储,使混闪存储容量需求降低40%;高聚合带宽设计避免GPU等待数据传输,算力利用率提高5%;智能分级机制实现数据自动流动,减少20%的全闪空间占用。该创新方案荣获2024年"华彩杯"算力大赛全国总决赛一等奖,相关技术标准已在中国通信标准化协会立项,推动行业存储架构向统一元数据、多协议互通、智能管理方向演进。

中国工程院院士指出,存力、算力、运力的均衡发展是发挥计算效能的关键。在智算集群规模突破万卡级的新阶段,存储系统正从被动支撑转向主动赋能,通过架构创新实现数据流动效率与计算资源利用率的双重提升。这种变革不仅优化了AI训练的经济性,更为超大规模模型研发提供了可靠的存储基础设施保障。

光联携手利元亨,共话新能源制造AI时代网络新路径与新机遇
聚焦企业在全球范围内的多分支互联与云IDC接入问题,方案基于光联自建全球光纤骨干网络及华为SD-WAN设备,支持MPLS、Internet与4G/5G等多种链路融合,并可弹性部署多种拓扑模型,实现总部、分支…

2025-11-15

TLKS-PMG-TP装置:全天候精准监测,守护输电线路“体温”安全
TLKS-PMG-TP输电线路线夹及导线温度在线监测装置应运而生,以其高精度测温与全时段监测能力,为输电线路装上了一双“精准温控眼”。 TLKS-PMG-TP装置不仅提供实时监测,更实现了输电线路运维的智能…

2025-11-15

Gartner发布2026十大技术趋势:AI主导变革,从“大而全”迈向“精而实”
近日,商业与技术洞察公司Gartner发布了2026年十大战略技术趋势:AI超级计算平台、多智能体系统、特定领域语言模型、AI安全平台、AI原生开发平台、机密计算、物理AI、前置式主动网络安全、数字溯源,以及…

2025-11-14

广电卡适配指南:哪些手机能用?这些旗舰机型可能不兼容!
华为P50系列是个特例,即便是4G版,也能通过软件方案支持广电5G。中国广电表示,近六年主流手机型号均已升级适配广电网络,98%以上的新入网5G手机支持700MHz频段。 判断你的手机是否适配广电卡,不仅…

2025-11-13

Kernelcom“智能键盘”来袭:12.5英寸超宽屏,AMD/Intel双版本可选
快科技11月12日消息,近日一款名为Kernelcom的设备正在Kickstarter上众筹,虽然其本质上是一款功能完备的笔记本电脑,但制造商还是将其宣传为“智能键盘”。 这款设备最大的特点是其12.5英寸超…

2025-11-13

山海星耀攻克超低轨难题,以硬核技术逐梦空天新蓝海
天虎科技了解到,虽然当前市场上有一些针对超低轨的吸气式推进器,但从气体收集率、推进效率、测试工作环境等维度上,山海星耀的电推进器均具备一定优势。 蔡东升表示,目前该产品是商业航天公司首次实现了“高真空运行环…

2025-11-12

Viwoods发布AiPaper Reader电纸书:6.13英寸墨水屏搭载AI阅读互动功能
IT之家 11 月 11 日消息,据科技媒体 NoteBook Check 今天报道,Viwoods 现已推出 AiPaper Reader电纸书,运行 Android 16 操作系统,机身配备专用 AI …

2025-11-12

海外游语言障碍终结者:时空壶新T1离线翻译,精准适配复杂场景
时空壶新T1翻译机凭借端侧AI翻译技术与全面的离线功能配置,成为假期中解决无网沟通难题的关键设备,其技术设计精准匹配了海外旅行中的复杂网络环境。这种“离线核心+在线补充”的双模式设计,精准命中了国庆海外游中“…

2025-11-11

苹果换新机数据迁移难?5种实用方法,简单操作轻松搞定数据转移!
方法一、“快速开始”直接传输这是苹果官方自带的工具,专门针对新手机未激活时迁移旧机数据设计,能直接把旧 iPhone的几乎所有数据完整搬到新手机,包括照片、联系人、短信、视频、APP等,不用手动筛选,适合换…

2025-11-11

星闪E2.0亮相!华为FreeBuds Pro 5开启无线音频新篇,重塑TWS标准
于是,我们得到了星闪1.0,而在此基础上,华为今年又推出了星闪E2.0,将此前星闪1.0在音频传输上存在的一些问题彻底解决,并且做了全链路的升级。聊完星闪E2.0,接下来我们再聊聊FreeBuds Pro …

2025-11-11