想用笔记本跑 AI 模型,有什么推荐的吗 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
mqb666
V2EX    硬件

想用笔记本跑 AI 模型,有什么推荐的吗

  •  
  •   mqb666 296 天前 via Android 2827 次点击
    这是一个创建于 296 天前的主题,其中的信息可能已经有所发展或是发生改变。

    rt ,目前预算 1w 左右,想买台笔记本跑 AI ,目前主要跑 SD

    YJi
        1
    YJi  
       296 天前
    买点算力,云上部署一套,随用随开,多划算。 (狗头
    MacsedProtoss
        2
    MacsedProtoss  
       295 天前 via iPhone
    这个价格 再加上笔记本显存不大 hmmm…
    感觉笔记本 AI 还是 Mac 的显存划算啊(狗头)

    正经来说 笔记本好像低 U 高显的也很少 反正你就花钱买里面性能释放最佳 且 GPU 最好的即可
    mumbler
        3
    mumbler  
       295 天前
    显存越大越好,1W 预算可以上个 4070 16G
    如果跑大语言模型可以用 flashai.com.cn 的一键整合包,能流畅跑 gemma2 9B
    Seanfuck
        4
    Seanfuck  
       295 天前
    @mumbler 笔记本的 GPU 都是残血的,尤其是显存,4090 也才 16G
    mumbler
        5
    mumbler  
       295 天前
    @Seanfuck #4 笔记本功耗做不到 200W 以上,但笔记本有笔记本的场景,不需要追求极致性能
    qingtian3343
        6
    qingtian3343  
       295 天前
    好多云上部署了,想用就用
    h130666
        7
    h130666  
       295 天前
    拯救者
    hbdh5
        8
    hbdh5  
       295 天前
    推荐就是老老实实的调 api ,别想本地跑啥模型,新发布的 deepseek v3 看了吧,这玩意主流的笔记本就是量化到 1bit 都加载不进内存。
    mumbler
        9
    mumbler  
       295 天前
    @hbdh5 本地有本地的用途,跟云端是不同赛道,有些私密资料只能在本地处理,比如医疗数据
    hbdh5
        10
    hbdh5  
       295 天前
    @mumbler 可题主问的是笔记本跑,那我就默认是个人用了。医疗数据应该是有业务用途的怎么也得买个 8 卡集群吧?
    cbythe434
        11
    cbythe434  
       295 天前
    预算不够,否则就 mac pro max ,内存拉满
    jifengg
        12
    jifengg  
       295 天前
    楼主是要跑 生图 模型,不是 LLM 。
    我现在是笔记本 4080 ,12G 。跑 SD 还可以。跑 SDXL ,1024 左右分辨率,文生图我记得应该是 10 几秒?
    1w 目前买不到 4080latop ,4070 的话显存又略小( 8g )
    KimGuo
        13
    KimGuo  
       295 天前
    考虑到笔记本 10GB 显存还挺难搞……其实不如考虑 macbook pro ,m4 款丐版国补完大概刚好 1w 多
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2567 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 113ms UTC 10:26 PVG 18:26 LAX 03:26 JF 06:26
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86