看了大厂 GPU 计算的服务器太贵了。 就寻思自己买个矿卡托管到机房,后来发现麻烦至极。不知道 V 友有没有类似操作的
![]() | 1 opengps 2023-07-19 09:14:02 +08:00 到了 GPU 这个级别了,放在家里不是更省吗? |
![]() | 2 Solix 2023-07-19 09:15:10 +08:00 via iPhone 自己玩,买个主机配一台也行,商业化只能用云服务 |
3 misaki321 2023-07-19 09:29:45 +08:00 跟公司申请买了一台 4 卡 V100 ,将就用 |
4 passall 2023-07-19 09:39:57 +08:00 托管到机房要多少钱? |
![]() | 5 NSAtools 2023-07-19 09:42:01 +08:00 可以找小厂,比如 AutoDL |
6 gam2046 2023-07-19 09:48:13 +08:00 ![]() 你是一点没算电费、散热、维护成本呀, 用自己采购的物料成本去对比人家的物料+运营成本。 自己放家里,你要买专业卡的话,散热成本低不了,要不就是买游戏卡,应用范围和云厂商的专业卡比不了。 要是托管机房的话,万一哪天机器死了,你就要走各种审批手续,然后人肉到机房处理,这也是成本。 --- 小规模应用,采买云厂家的服务已经是相对最便宜的了。 当应用规模需要 10 个以上专业卡的时候,且业务相对成型,自建才有性价比。 |
7 asdgsdg98 2023-07-19 10:37:01 +08:00 不如放自己家,成本也就占地 |
![]() | 8 fiht 2023-07-19 10:39:31 +08:00 家里本来有一个 EPYC 的主机,今年 AI 比较火热加了一张 3090 显卡。 其实没问题的,家里极少停电,网路也很稳定,散热之类的也不用太考虑。 托管就大可不必了,托管一个是费用高,另外就是上架、下架、远程维护、换个硬盘等的,都是问题。 |
9 x18960 OP 看到一个 国内机房托管带 2080TI 显卡的物理服务器 要 1K 一个月,感觉有点小贵。年付 1W 也不知道项目能不能挺这么久 |
![]() | 10 me1onsoda 2023-07-19 11:03:05 +08:00 大概率会空载,不是云厂商那边按量使用 |
![]() | 13 chengxiao 2023-07-19 11:35:14 +08:00 反正感觉国内的云又贵又不好用 直接跟老板申请了台 4090/13900k 换算成云 GPU 服务器基本上不到一年就回本了 然后我这两天天天拿来串流打 Cyberpunk 2077 ~ |
14 vopsoft 2023-07-19 11:39:30 +08:00 |
15 FlashEcho 2023-07-19 12:57:50 +08:00 ![]() |
![]() | 16 hui9000 2023-07-19 16:22:52 +08:00 托管不算固定自残啊。还是买物理机自己搞,就算损耗卖 2 手也能处理出去。你托管钱花了就是花了; |
![]() | 17 herozzm 2023-07-19 16:29:08 +08:00 我托管了一台,安装了普通个人用的显卡,扯掉了风扇,1U 体积,一年 6000 |
![]() | 18 manasheep 2023-07-19 17:02:27 +08:00 你看 B 站 林亦 LYi ,他应该一直都是自己跑着玩,最近用 M2 的 Mac 跑,因为可以有超大至多 192GB 的统一内存充当显存。 |
![]() | 19 cccclk 2023-07-19 17:26:52 +08:00 自己弄可能会有不少烦心事,客户自己弄的天天温度降不下来,强制关机了 |
![]() | 20 tangtang369 2023-07-19 17:30:46 +08:00 @x18960 肯定是 4090 和 A100 差不多的性能 除了不能加载超大模型 A100 的显存是 40G 4090 是 24GB |