deepseek R1满血版本地能部署吗？

卡尔 · 发表于 2025-2-12 01:30:49

chr · 发表于 2025-2-12 01:33:05

配置够强就能

卡尔 · 发表于 2025-2-12 01:35:58

chr 发表于 2025-2-12 01:33
配置够强就能

需要电脑啥配置啊？最低标准有没有说明

Fightlee · 发表于 2025-2-12 01:33:00

六张h100,80G版本就可以
纯cpu的话也可以

四叶草 · 发表于 2025-2-12 01:37:24

卡尔发表于 2025-2-12 01:35
需要电脑啥配置啊？最低标准有没有说明

最便宜的方法，凑满512G内存

卡尔 · 发表于 2025-2-12 02:19:51

四叶草发表于 2025-2-12 02:19
最便宜的方法，凑满512G内存

512G内存就是开了虚拟内存也吃不消啊直接爆了

四叶草 · 发表于 2025-2-12 01:35:00

卡尔发表于 2025-2-12 02:23
512G内存就是开了虚拟内存也吃不消啊直接爆了

https://digitalspaceport.com/how-to-run-deepseek-r1-671b-fully-locally-on-2000-epyc-rig/

iiii.im · 发表于 2025-2-12 02:23:10

本帖最后由 iiii.im 于 2025-2-12 03:11 编辑

两张H100应该行。一张30个W供不应求(可能更高)，天朝禁止购买

一张电费24h大概300块人民币，2张600。加上其他也就是说待机一天就是七八百成本

jqbaobao · 发表于 2025-2-12 02:19:00

可以，需要500G以上的内存（非独显推理）或显存（gpu推理）

bisuer · 发表于 2025-2-12 03:05:16

cpu推理不如去用api,GPU推理准备好100个w买设备本地部署对机器要求可不是一点高

		自动登录	找回密码
密码			立即注册