中文科技资讯
业界资讯 互联网 手机资讯 电脑硬件 数码产品 家电产品 APP应用 手机游戏 美通快讯

双A770显卡组队,低成本高效能部署DeepSeek R1 32B模型实测

2025-03-10来源:ITBEAR编辑:瑞雪

近期,DeepSeek R1在全国范围内迅速走红,从智能手机应用到新能源汽车,众多产品纷纷接入这一技术。对于内容编辑而言,DeepSeek R1无疑是一个强大的助手,从大纲制定到内容审阅,都能大幅提升工作效率。然而,官方满血版的DeepSeek R1虽然功能强大,但频繁掉线的问题让人头疼,平均每小时仅能稳定使用一次。第三方满血版虽然掉线较少,但用户对于上传隐私或保密数据至云端仍心存顾虑。

鉴于上述情况,不少用户开始考虑自行搭建DeepSeek R1。然而,满血版DeepSeek R1模型体积庞大,达到了404GB,远远超出了普通消费级显卡的显存容量。即便是32B的蒸馏模型,也需要20GB的显存空间。这对显卡性能提出了极高的要求,例如,拥有32GB显存的英伟达RTX 5090 D公版显卡,官方售价高达16999元,而实际购买成本往往还要高出万元。

面对高昂的硬件成本,用户开始探索经济实惠且高效的解决方案。多显卡协同工作成为了一个不错的选择,但AMD新显卡已不再支持交火,英伟达SLI技术也不支持显存叠加。幸运的是,Intel的Arc显卡不仅支持交火,而且显存可以叠加,价格也相对亲民。两张Arc A770 16GB显卡的价格大约在3600元左右,即可获得32GB的显存。本次测试选择了两张蓝戟Intel Arc A770 Photon 16G OC显卡进行交火,以部署DeepSeek R1的32B蒸馏模型。

蓝戟Intel Arc A770显卡分为8GB和16GB两个版本,本次选择的16GB版本配备了GDDR6显存,显存带宽高达512GB/s,拥有32个Xe核心,最高频率可达2400Mhz。由于采用双卡方案,主板和电源的配置也需特别注意。主板需至少具备两个PCIe显卡插槽,且每个插槽需支持PCIe 4.0 x8传输速率。电源方面,单张蓝戟Intel Arc A770 Photon 16G OC的TBP为285W,两张显卡总功耗接近600W。因此,选择了海韵1300W电源进行测试,该电源不仅能满足功率需求,还能提供两张显卡所需的4个PCIe 8Pin接口。模型部署方面,选择使用IPEX-LLM工具在Linux系统上运行,相比Windows系统,Linux系统的运行效率更高。

搭建完成后,通过另一台电脑在局域网内访问后端进行测试。在测试过程中,尽量避免对测试电脑进行截图或录屏操作,以减少对GPU资源的占用。

在性能与效果方面,本次测试使用了32B模型,要求模型编写一个包含特定功能的HTML贪吃蛇游戏。模型迅速生成了代码,两张Arc A770显卡的风扇全力运转,后端显示平均生成吞吐量稳定在26 tokens/s以上。相比之下,单张RTX 5090 D运行32B模型的性能约为46 tokens/s,而本次测试以不到两成的价格获得了五成以上的性能,表现令人惊喜。

生成的HTML贪吃蛇游戏可以直接预览运行,但在实际操作中发现,使用上下方向键会滚动网页,影响了游戏体验。因此,要求模型对代码进行修改,用A、S、D、W键代替方向键。DeepSeek R1准确理解了需求,并成功完成了修改。随后,又要求生成更为复杂的俄罗斯方块HTML代码,虽然参数量仅为32B,但DeepSeek R1生成的游戏几乎无Bug,表现同样出色。

在逻辑能力测试方面,选择了两个问题对双A770搭建的DeepSeek R1进行测试。对于“神父去世是离职还是升职?”这一令人一愣的问题,32B的DeepSeek R1能从现实与信仰两种角度出发给出分析与解释,展现出强大的逻辑能力。而对于“变形金刚应该交车险还是人险?”这一二选一的提问,DeepSeek R1并没有死板地做出选择,而是理解了变形金刚不同形态的特征,给出了两种保险都买的绝佳答案。

光联携手利元亨,共话新能源制造AI时代网络新路径与新机遇
聚焦企业在全球范围内的多分支互联与云IDC接入问题,方案基于光联自建全球光纤骨干网络及华为SD-WAN设备,支持MPLS、Internet与4G/5G等多种链路融合,并可弹性部署多种拓扑模型,实现总部、分支…

2025-11-15

桥梁位移监测仪:精准感知位移 灵活部署续航 守护桥梁安全出行
这种方式能够利用清洁能源为设备持续供电,既体现了节能环保的理念,也巧妙地解决了在市政供电不便场景下的设备续航问题,保障了监测工作的不间断进行。为了便于现场操作与维护,桥梁位移监测仪还配备了便捷的配置方式。 …

2025-11-14

星闪智联引领未来:无线短距通信开启智能社会新篇章
为统一目标、保证质量,在国际星闪联盟组织与号召下,联盟领导、行业协会及合作伙伴的11位代表上台发起了《消费电子新短距产业共建倡议》,明确提出要“共建星闪技术新标准、共创智能连接新应用、共赢消费电子新未来”。 …

2025-11-13

苹果推进卫星功能研发:离线地图、第三方接入等拓展iPhone新可能
苹果还为第三方应用程序提供使用卫星连接的应用程序接口(API),这一举措意味着苹果允许开发者自愿将卫星连接功能集成到他们的应用中,为iPhone用户打造出更多创新应用。这一举措或许是苹果在卫星通信领域进一步…

2025-11-12

量子卫星引领通信变革:搭建全球高速安全互联的量子通信新桥梁
卫星可将纠缠光子发送到地面,实现长距离量子通信。 地面量子网络通过卫星互联全球量子密钥分发网络形成实现真正安全、分布式通信3. 军事与国防应用 随着技术成熟和全球布局加速,未来的互联网将不再依赖传统线路,而…

2025-11-12

Marantz与B&W组合:以多元功能承载家庭温情,让音乐共鸣融入日常
我在活动上最常遇到来宾,不管是男的,还是女的,他(她)问我:我手机上这些音乐能不能通过蓝牙,或Apple Airplay传到音响播放。 用高级音响回归音乐本身你会发现原来美好的东西就在身边最近我在电脑里找到了…

2025-11-12

中国互联网发展成果斐然:5G用户超11亿,AI与6G专利领跑全球
8日,由中国网络空间研究院牵头编撰的《中国互联网发展报告2025》和《世界互联网发展报告2025》蓝皮书在2025年世界互联网大会乌镇峰会上正式发布。 报告显示,截至2025年6月,我国固定宽带接入用户总数已…

2025-11-10

乌镇峰会:机器人炫技、AI赋能,共绘网络空间命运共同体新蓝图
潮新闻记者还与宇树科技G1机器人来了一场格斗赛,“小家伙”个头不大,拳脚功夫却耍得游刃有余。 在今年的乌镇峰会上,各类机器人不仅是一场炫技,更是已经逐渐走进大家的日常生活。在他看来,是全球共同努力,推动了人形…

2025-11-10

骁龙8Gen5定档11月发布:用旗舰架构“降维”中端,性能与性价比如何平衡?
不管是户外刷视频还是家里传大文件,都能减少卡顿和等待时间,这对依赖移动网络的用户来说是个不小的加分项。 总的来说,骁龙 8 Gen5 是一颗 “取舍明确的真香芯片”,它放弃了极限性能,却换来了更均衡的体验和更…

2025-11-10