看到 llama.cpp 项目支持 AMD GPU ( https://github.com/ggerganov/llama.cpp/blob/master/docs/build.md#hip )
AMD 官网看到支持 https://rocm.docs.amd.com/projects/install-on-windows/en/latest/reference/system-requirements.html
东哥那边查一下价格,24G 显存不到 7~8k 。就是不知道跑起来效果怎么样。
![]() | 1 liu731 PRO 4090 宝刀未老 |
![]() | 2 terence4444 239 天前 马上 9070 就要宣布了,如果可以的话稍微再等一下看看。 |
![]() | 3 lusi1990 239 天前 via Android 凑合 |
![]() | 4 by 239 天前 via Android AMD 显卡在 Windows 系统只配当个亮机卡 |
5 paranoiagu OP 谢谢各位,别的网友继续继续 |
![]() | 6 txx 239 天前 我用 7900xtx 半年了 优点是显存大,能跑很多 20G+ 的模型了,比如各种 32b ,打游戏也没问题,确实比同价位的 4080S 香 缺点是无论 Linux 还是 Windows ,掉驱动情况严重,一旦掉驱动就要重启,Linux 下因为显卡驱动崩掉了,重启还会 hang 住,需要硬重启。 如果你只是拿来玩玩那没啥问题,如果追求 SLA ,那还是算了 |
7 paranoiagu OP @txx 谢谢,掉驱动有点怕啊,支持多卡后跑 70B 模型吗? |
![]() | 9 javazero 239 天前 同问,配好了 9800x3d ,5090 抢不到。想找个卡过渡一下 |
![]() | 10 coderlxm 239 天前 via Android 我用了一年多从来没掉过驱动,每天高强度打游戏。 |
11 paranoiagu OP 刚才草草在 7840HS 笔记本上试了一下 780M ,跑 deepseek-r1:7b ,13token/s ,速度可以。但是应该没法跑更大模型了。 |
12 paranoiagu OP 两张 7900xtx ,应该可以跑 deepseek-r1 70B 模型吧 |
![]() | 13 txx 239 天前 via iPhone @paranoiagu 70b 直接用 groq 啦 |
![]() | 14 2000wcw 239 天前 79XTX=合....... |
![]() | 15 secondwtq 239 天前 确实可以跑,效果也凑合。 你如果只是想跑 LLM 的话也可以买 3090 。 |
16 xz410236056 237 天前 @by 你多久没用 A 卡了??? 7900 XTX 跟 4080s 性能差不多。 |
![]() | 17 endsock 235 天前 via Android 从 4080s 换到 7900xtx ,非光追的情况,游戏方面的优势比 4080s 强,afmf 超棒,大模型 ds 32b q5 量化随便跑,生成速度很快,效果很不错。现在 wsl 也支持 pytorch rocm 了,模型训练也没有问题,6000 块买的,兼顾了跑 ai 和游戏,还要啥自行车,就算 9070 发布,16g 的显存可跑不了 32b ,那跟 4080s 这种的没啥区别,对大模型来说就是残废 |
![]() | 18 endsock 235 天前 via Android 上面说的掉驱动问题根本不存在,拿到卡第一件事重新安装系统,如果有 intel 核显的,不要安装 intel 核显驱动,并在断网状态下把 windows 自动安装驱动的功能关掉,然后联网 amd 驱动直接安装最新版本并更新到最新版本,非常稳定,所有掉驱动的都是因为系统残存 nv 驱动或者存在 intel 核显驱动造成的,amd 对不同显卡品牌的驱动兼容性做的不好 |
![]() |   19 endsock 235 天前 via Android 做好上面的步骤之后,上 b 站看降压超频的教程,按照教程调试好电压与频率,这下发热和耗电的问题也解决了,调试好之后会发现 xtx 真是一张好卡 |
![]() | 20 endsock 235 天前 via Android 最后要注意,电脑的电源最好是 atx3 的,如果不是电源要大于等于 1000w |
21 paranoiagu OP @endsock 谢谢反馈,6K 性价比不错,可惜目前涨价了 |
![]() | 22 xunmiqun 234 天前 @paranoiagu #11 680m 也可以 |
23 paranoiagu OP @xunmiqun 我试过 780M ,确实可以 |
![]() | 24 xiaogui 225 天前 为了 24G 显存,已经购买了 RX 7900 XTX 。 |