沃资讯
科技 财经 汽车 游戏 数码 资讯 商业

DeepSeek开源高性能文件系统3FS,数据访问性能再创新高

2025-02-28来源:ITBEAR编辑:瑞雪

DeepSeek在开源周的精彩收尾之际,正式推出了其创新的3FS(Fire-Flyer File System)。这一文件系统专为现代SSD和RDMA网络设计,旨在最大化利用这些先进技术的带宽优势。3FS的问世,为深度学习等数据密集型应用带来了前所未有的数据访问性能提升。

想要深入了解3FS的开发者们,可以访问其开源地址:https://github.com/deepseek-ai/3FS。同时,DeepSeek还开源了基于3FS的数据处理框架Smallpond,详情可见:https://github.com/deepseek-ai/smallpond。

3FS的性能表现令人瞩目。在一个180节点的集群测试中,其聚合读取吞吐量高达6.6 TiB/s,充分展现了其集群高吞吐的能力。而在25节点集群的GraySort基准测试中,3FS更是达到了每分钟3.66 TiB的吞吐量,这一成绩无疑证明了其基准测试的优异表现。每个客户端节点的KVCache查找峰值吞吐量也超过了40 GiB/s,进一步凸显了3FS的单节点高性能。

在架构设计上,3FS采用了去中心化的结构,同时保证了强一致性语义,这使得它在处理分布式数据时更加高效和可靠。这种先进的架构为AI训练和推理工作负载提供了强大的支持,简化了分布式应用程序的开发过程。

3FS的应用场景广泛,主要针对AI训练和推理过程中的各种挑战。它利用现代SSD和RDMA网络构建共享存储层,有效支持了数据准备、数据加载、检查点设置和推理缓存等环节。无论是训练数据预处理、数据集加载,还是检查点保存/重新加载,甚至是嵌入向量搜索和推理过程中的KVCache查找,3FS都能提供出色的性能。

DeepSeek的V3/R1版本已经广泛应用了3FS。这一文件系统在关键环节中发挥了重要作用,为DeepSeek的AI工作负载提供了强有力的支持。同时,基于3FS构建的数据处理框架Smallpond也备受瞩目。Smallpond是一款轻量级的数据处理框架,它结合了DuckDB和3FS的优势,具备高性能数据处理能力,可扩展至PB级数据集。更重要的是,Smallpond操作简便,无需长期运行的服务,为用户提供了极大的便利。

Valve推出Steam Frame新VR头显 正式宣告上一代Index头显停产
用户可通过无线适配器,将 PC 或 Steam Machine 上的平面屏(flatscreen)及 VR 游戏串流至 SteamFrame;与此同时,Steam Frame 本身也是一款独立设备,搭载高通…

2025-11-14

2025网购流量卡选购指南:不同场景实测教你选到网速稳的好卡
所以,简单概括一下:一张正规的网购流量卡,其网速表现与同运营商的线下套餐并无本质差异。 在流量卡领域,我认为“便宜”不一定直接等于“网速差”。•警惕“物联卡”冒充手机流量卡

2025-11-13

中国电信AI赋能6G发展:创新技术引领通信变革,拓展产业融合新路径
中电信数智科技有限公司“一种基于6G的天地一体化传输优化及拓扑测绘的方法”获国家发明专利授权,这项专利涵盖卫星与地面网络协同通信、频谱资源共享、高效信号传输等多个核心技术领域,为6G的落地应用铺设了一条“高…

2025-11-12

照片压缩至5M内超全指南!七大实用方法助你轻松搞定分享难题
具体的执行步骤是:将它们直接开启,随后去挑选照片,该应用会自动给出推荐的压缩级别,你能去预览最终结果,还能够对某些设置予以调整,比如把分辨率调低或者转换格式,借此令文件大小小于5MB,这对即时分享至社交媒体来…

2025-11-12

企业宽带选不对,带宽再大也白费!这些关键因素决定实际网速
• 网速(用户感知):即实际访问体验,取决于 3 个核心因素 —— 带宽只是基础,更重要的是网络质量、路由优化和并发处理能力。 真正专业的服务商,会从企业实际业务场景出发提供解决方案,而非一味推销高带宽产品…

2025-11-12

荣旭传媒技术破局:以专业方案化解直播痛点,成就高性价比之选
传统方案在视频、音频和网络方面存在诸多不足,而荣旭传媒通过先进的技术和专业的设备,有效解决了这些问题。传统方案的视频分辨率较低,画面不够清晰,而荣旭传媒的4K 超高清视频拍摄制作让画面质量有了质的提升;传统…

2025-11-12

Marantz与B&W组合:以多元功能承载家庭温情,让音乐共鸣融入日常
我在活动上最常遇到来宾,不管是男的,还是女的,他(她)问我:我手机上这些音乐能不能通过蓝牙,或Apple Airplay传到音响播放。 用高级音响回归音乐本身你会发现原来美好的东西就在身边最近我在电脑里找到了…

2025-11-12