沃资讯
科技 财经 汽车 游戏 数码 资讯 商业

双A770显卡组队,低成本高效能部署DeepSeek R1 32B模型实测

2025-03-10来源:ITBEAR编辑:瑞雪

近期,DeepSeek R1在全国范围内迅速走红,从智能手机应用到新能源汽车,众多产品纷纷接入这一技术。对于内容编辑而言,DeepSeek R1无疑是一个强大的助手,从大纲制定到内容审阅,都能大幅提升工作效率。然而,官方满血版的DeepSeek R1虽然功能强大,但频繁掉线的问题让人头疼,平均每小时仅能稳定使用一次。第三方满血版虽然掉线较少,但用户对于上传隐私或保密数据至云端仍心存顾虑。

鉴于上述情况,不少用户开始考虑自行搭建DeepSeek R1。然而,满血版DeepSeek R1模型体积庞大,达到了404GB,远远超出了普通消费级显卡的显存容量。即便是32B的蒸馏模型,也需要20GB的显存空间。这对显卡性能提出了极高的要求,例如,拥有32GB显存的英伟达RTX 5090 D公版显卡,官方售价高达16999元,而实际购买成本往往还要高出万元。

面对高昂的硬件成本,用户开始探索经济实惠且高效的解决方案。多显卡协同工作成为了一个不错的选择,但AMD新显卡已不再支持交火,英伟达SLI技术也不支持显存叠加。幸运的是,Intel的Arc显卡不仅支持交火,而且显存可以叠加,价格也相对亲民。两张Arc A770 16GB显卡的价格大约在3600元左右,即可获得32GB的显存。本次测试选择了两张蓝戟Intel Arc A770 Photon 16G OC显卡进行交火,以部署DeepSeek R1的32B蒸馏模型。

蓝戟Intel Arc A770显卡分为8GB和16GB两个版本,本次选择的16GB版本配备了GDDR6显存,显存带宽高达512GB/s,拥有32个Xe核心,最高频率可达2400Mhz。由于采用双卡方案,主板和电源的配置也需特别注意。主板需至少具备两个PCIe显卡插槽,且每个插槽需支持PCIe 4.0 x8传输速率。电源方面,单张蓝戟Intel Arc A770 Photon 16G OC的TBP为285W,两张显卡总功耗接近600W。因此,选择了海韵1300W电源进行测试,该电源不仅能满足功率需求,还能提供两张显卡所需的4个PCIe 8Pin接口。模型部署方面,选择使用IPEX-LLM工具在Linux系统上运行,相比Windows系统,Linux系统的运行效率更高。

搭建完成后,通过另一台电脑在局域网内访问后端进行测试。在测试过程中,尽量避免对测试电脑进行截图或录屏操作,以减少对GPU资源的占用。

在性能与效果方面,本次测试使用了32B模型,要求模型编写一个包含特定功能的HTML贪吃蛇游戏。模型迅速生成了代码,两张Arc A770显卡的风扇全力运转,后端显示平均生成吞吐量稳定在26 tokens/s以上。相比之下,单张RTX 5090 D运行32B模型的性能约为46 tokens/s,而本次测试以不到两成的价格获得了五成以上的性能,表现令人惊喜。

生成的HTML贪吃蛇游戏可以直接预览运行,但在实际操作中发现,使用上下方向键会滚动网页,影响了游戏体验。因此,要求模型对代码进行修改,用A、S、D、W键代替方向键。DeepSeek R1准确理解了需求,并成功完成了修改。随后,又要求生成更为复杂的俄罗斯方块HTML代码,虽然参数量仅为32B,但DeepSeek R1生成的游戏几乎无Bug,表现同样出色。

在逻辑能力测试方面,选择了两个问题对双A770搭建的DeepSeek R1进行测试。对于“神父去世是离职还是升职?”这一令人一愣的问题,32B的DeepSeek R1能从现实与信仰两种角度出发给出分析与解释,展现出强大的逻辑能力。而对于“变形金刚应该交车险还是人险?”这一二选一的提问,DeepSeek R1并没有死板地做出选择,而是理解了变形金刚不同形态的特征,给出了两种保险都买的绝佳答案。

企业禁用无线网卡攻略:三种方法详解,第二种助企业高效管控风险
对于中大型企业或对数据安全要求高的单位,域智盾终端安全管理系统提供了更智能、更彻底、更可追溯的无线网卡管控方案。在Windows专业版或企业环境中,IT人员可以用系统自带的组策略(Group Policy…

2025-11-15

蓝牙耳机被他人连接别慌!三招轻松夺回“控制权”
当发现耳机被别人连接时,最直接的解决方法是重置连接。操作很简单:先打开你的手机蓝牙设置,找到已配对的耳机名称,选择“忽略此设备”或“取消配对”。最后,在手机蓝牙列表中找到你的耳机并重新点击连接即可。这个操作…

2025-11-15

6寸LCD显示屏:小身材大能量,技术优势与多元应用前景深度剖析
采用IPS等先进技术的6寸LCD屏,能够实现更广色域覆盖,色彩显示真实自然,更适用于图像监控、医疗设备显示、智能终端等对色彩还原要求较高的场合。 随着技术的不断发展,6寸LCD显示屏将在未来呈现更高清、更智…

2025-11-14

中国6G技术首阶段试验圆满收官,通信领域创新再启新程
在全球竞相布局6G的背景下,中国率先完成第一阶段技术试验,展现了其在通信领域的强大实力。此次试验涵盖了6G关键核心技术,测试了多种潜在技术和系统性能。业界普遍认为,6G网络将实现地面与卫星通信的融合,构建空…

2025-11-14

水浸传感器RS-SJ:4G蓝牙双助力,高效守护防积水安全
当检测到水浸情况时,相关信息会通过4G网络快速传输至指定的管理平台或用户终端,无需人工现场查看,让用户在第一时间知晓积水隐患,为及时采取排水、设备转移等应对措施争取时间,避免积水造成更大损失。 水浸传感器凭借…

2025-11-14

工业通信新选择:环网交换机如何以冗余设计保障现场数据稳定传输
每个交换机上有两个用于组环的端口(网口),交换机之间通过手拉手形式构成了环形的网络拓扑。我们设计的千兆工业交换机整体设计采用“凹陷”网口设计,外观上和普通交换机大有差别,将网线水晶头能够有力的支撑保护住。 …

2025-11-14

中关村房山园科技对接会:昆虫机器人等“硬核”成果亮相,助力新质生产力
11月12日,中关村“火花”活动之北京理工大学专场对接会暨中关村房山园新质生产力发布厅科技成果转化对接活动在中关村新兴产业前沿技术研究院举行,极限搜救昆虫机器人、通信感知超宽带收发芯片等一批来自北京理工大学、…

2025-11-14

避开苹果锋芒,聚焦外卖小哥:打造专属他们的超实用蓝牙耳机
试着聚焦一个特定人群,比如外卖小哥。电量要非常足,最好能用一整天。麦克风要特别好,因为外卖小哥大部分时间都在路上,环境嘈杂,麦克风不好的话,对方根本听不清。如果能将耳机固定在头盔上,那就更好了,不怕掉。如果…

2025-11-13

2025微信数据保护全攻略:误删聊天记录别急,多场景恢复方案来了
提前备份是数据安全的核心,2025年微信已支持电脑、云服务、外部存储等多种备份方式,恢复时只需简单操作即可找回记录。苹果和安卓厂商的云服务早已支持微信数据备份,关键是确认误删前有有效备份记录。 2. 选择…

2025-11-13

浪潮KaiwuDB V3.0发布:多模融合AI赋能,引领物联网数智化新篇章
KaiwuDB V3.0关系引擎新增大型对象支持,无论是传感器产生的二进制数据还是文本信息,都能实现高效管理;同时,支持高效跨模连接算子与时序算子并行处理,相较于2.2版本跨模查询性能提升5-10倍,打破了…

2025-11-13