
看到官网 FE 版有货,在考虑投资一张玩玩 但是好久没有关注机圈了不太懂现在什么配置带动这张卡 主要就是 AI 用,基本很少玩游戏
1 asd7160 175 天前 via iPhone 如果要离线部署开源的 deepseek ,达到满血的效果的话,估计整套下来要好几万吧。 就一张卡估计不太够用吧,要么反应速度慢,要么只能部署一个相对比较蠢的小点儿的模型 |
2 asd7160 175 天前 via iPhone 肯定是要一个工作站或是服务器才带的动的 |
5 asd7160 175 天前 via iPhone 当然这个基本就是用金钱换运算时间的事情。如果不介意渲染几十个小时的话那降低成本用便宜的机器也是可以的。 |
6 murmur 175 天前 为什么不考虑 4090 魔改 48g 呢,反正 5090 你也没法正常购买 |
7 混元的视频模型,可以做参考: The following table shows the requirements for running HunyuanVideo model (batch size = 1) to generate videos: Model Setting (height/width/frame) GPU Peak Memory HunyuanVideo 720px1280px129f 60GB HunyuanVideo 544px960px129f 45GB An NVIDIA GPU with CUDA support is required. The model is tested on a single 80G GPU. Minimum: The minimum GPU memory required is 60GB for 720px1280px129f and 45G for 544px960px129f. Recommended: We recommend using a GPU with 80GB of memory for better generation quality. Tested operating system: Linux |
8 Clannad0708 175 天前 现在自己搞成本很高 啊,你是要调整模型吗?我看大多数不都是调用大模型的 api 接口?为接口付费就行了。 |
9 Morriaty 175 天前 楼主有做过一些视频类项目,或则 colab 上的教学类 AI 训练吗?没有的话,建议先去云平台先玩一玩,看一看是不是真的想做“炼丹” |
10 jlak OP @asd7160 有台 3060 12gb 配的 i5 3470+16gb 爆显存爆内存很累 @murmur 能正常购买 @gaobh 跑量化模型 @Clannad0708 API 抽卡调试成本不更吗 @Morriaty 跑过图片 但视频类跑不动 |
11 asd7160 175 天前 via iPhone 你这机器无论显存内存都才十几 GB 必然不行。我看 b 站 up 主玩这个的都是配几十上百 GB 的 |
12 Clannad0708 175 天前 @jlak #10 deepseek 的 api 成本很低了。你要微调的话感觉 5090 不一定够啊。我用公司的 A800 部署了 deepseek 68B 版本的感觉和没有差别不大,很弱智生成的错误很多。 |