想投资一张 5090 玩玩 AI 请问主机需要什么配置? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
jlak
V2EX    问与答

想投资一张 5090 玩玩 AI 请问主机需要什么配置?

  •  
  •   jlak 175 天前 1797 次点击
    这是一个创建于 175 天前的主题,其中的信息可能已经有所发展或是发生改变。

    看到官网 FE 版有货,在考虑投资一张玩玩 但是好久没有关注机圈了不太懂现在什么配置带动这张卡 主要就是 AI 用,基本很少玩游戏

    第 1 条附言    175 天前
    忘记说清楚是 AI 视频/图片
    13 条回复    2025-06-11 16:44:40 +08:00
    asd7160
        1
    asd7160  
       175 天前 via iPhone
    如果要离线部署开源的 deepseek ,达到满血的效果的话,估计整套下来要好几万吧。
    就一张卡估计不太够用吧,要么反应速度慢,要么只能部署一个相对比较蠢的小点儿的模型
    asd7160
        2
    asd7160  
       175 天前 via iPhone
    肯定是要一个工作站或是服务器才带的动的
    jlak
        3
    jlak  
    OP
       175 天前 via iPhone
    @asd7160 忘记说是 AI 视频,语言大模型有很多免费的不考虑部署
    asd7160
        4
    asd7160  
       175 天前 via iPhone
    @jlak AI 视频那必然更贵了,绝对最少都要一个几万的小服务器
    asd7160
        5
    asd7160  
       175 天前 via iPhone
    当然这个基本就是用金钱换运算时间的事情。如果不介意渲染几十个小时的话那降低成本用便宜的机器也是可以的。
    murmur
        6
    murmur  
       175 天前
    为什么不考虑 4090 魔改 48g 呢,反正 5090 你也没法正常购买
    Solix
        7
    Solix  
       175 天前
    混元的视频模型,可以做参考:
    The following table shows the requirements for running HunyuanVideo model (batch size = 1) to generate videos:

    Model Setting
    (height/width/frame) GPU Peak Memory
    HunyuanVideo 720px1280px129f 60GB
    HunyuanVideo 544px960px129f 45GB
    An NVIDIA GPU with CUDA support is required.
    The model is tested on a single 80G GPU.
    Minimum: The minimum GPU memory required is 60GB for 720px1280px129f and 45G for 544px960px129f.
    Recommended: We recommend using a GPU with 80GB of memory for better generation quality.
    Tested operating system: Linux
    Clannad0708
        8
    Clannad0708  
       175 天前
    现在自己搞成本很高 啊,你是要调整模型吗?我看大多数不都是调用大模型的 api 接口?为接口付费就行了。
    Morriaty
        9
    Morriaty  
       175 天前
    楼主有做过一些视频类项目,或则 colab 上的教学类 AI 训练吗?没有的话,建议先去云平台先玩一玩,看一看是不是真的想做“炼丹”
    jlak
        10
    jlak  
    OP
       175 天前 via iPhone
    @asd7160 有台 3060 12gb 配的 i5 3470+16gb 爆显存爆内存很累

    @murmur 能正常购买


    @gaobh 跑量化模型


    @Clannad0708 API 抽卡调试成本不更吗


    @Morriaty 跑过图片 但视频类跑不动
    asd7160
        11
    asd7160  
       175 天前 via iPhone
    你这机器无论显存内存都才十几 GB 必然不行。我看 b 站 up 主玩这个的都是配几十上百 GB 的
    Clannad0708
        12
    Clannad0708  
       175 天前
    @jlak #10 deepseek 的 api 成本很低了。你要微调的话感觉 5090 不一定够啊。我用公司的 A800 部署了 deepseek 68B 版本的感觉和没有差别不大,很弱智生成的错误很多。
    jlak
        13
    jlak  
    OP
       175 天前
    @asd7160 #4 #11 你是不是在云聊,一般玩家都是量化版 16G 显存就完全足够成品也是不错的 有兴趣可以去模型圈子里溜达一圈先 8GB 显存就可以尝鲜。RTX5090 也有几万了,显存 32G
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     934 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 27ms UTC 20:09 PVG 04:09 LAX 12:09 JFK 15:09
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86