需要购买国产显卡本地部署大模型，哪家的比较好

有没有有经验的老哥

摩尔 s5000 的 8 卡整机

腾 910B2

@Jiajin 不仅难用，而且马上就要被淘汰

这么厉害的预算，是啥应用啊

最合适的是 PPU 1 代，16 卡。 最近涨价了预算不知道够不够。
PPPU 2 代，刚发布，8 卡，能买得到应该是最佳。
考虑腾系列的前提是，你们技术能力极强且有 10 几人的底层工程师可以调试改 bug ，或者财大气粗让华为的工程师驻场。

最近公司也有这需求，预算差不多，想部署 deepseek v4

@cocogovern 这预算算少的了

@DeYiAo 腾问题很多吗？

除了华为卡都支持 cuda,但是 cuda 版本可能很老,而且需要的一些其他基础设施要自己实现,不过有大模型写这些也不算什么难事.避坑一些特殊规格的比如一卡两芯的,选比较新的卡都差不多,海光的挺好用的

没经验不推荐国产显卡部署，坑太多了。如果非要部署建议找那种专门承接离线大模型部署业务的公司，直接上门安装包售后那种。

@skuuhui 信创没办法

国产显卡性能差，你即使部署了本地大模型效果也远不如网页版的能力，只能说不清楚需求。

不知道你要部署什么模型，但是现在模型出的这么快，从尽可能支持最新的模型的角度来说，选显存大的，卡内带宽高的（ 200W 也做不了多机互联），厂家支持到位的；符合前面三个条件下，选支持 FP8 ，最好能支持 MXFP4 的；这些都满足的情况下，选省电的，便宜的，能稳定供应的

@Clannad0708 政府项目就这样，领导跟风拍板，最后往往草草了事，样子上说的过去就行。

这种部署最终都是浪费掉的，说实话

哎
信创

@cpper 整条线上的人赚钱了，

微内核

有经验的老哥可以合作

看显存和带宽，合适就买

@Flagship9945 因为可以收回扣的

@Flagship9945 并不是他们蠢所以拍屁股做的决策，而是因为可以收回扣，有利益

我测过几家的显卡只能说阿里的 ppu 还是能用的,其他的都不太行.尤其吹的锣鼓震天响的华为.

政府项目不要瞎搞，你想部署哪个模型，联系对方咨询软硬件环境，人家也乐于多几个样板工程

纳税人的钱就这么被烧掉了

国产都有哪些 GPU ？华为腾、天数智芯，还有哪些，海光好像也有

如果现在上项目，那必须是腾 950dt ，fp8 都不错了，反正有技术支持，其他几个厂都要慢的多，如果你说自己玩，那还是 ppu ，cuda 生态容易点

有信创要求，你的选择也就这九个，你可以了解一下平头哥，据说比华为的坑少一点，https://www.itsec.gov.cn/aqkkcp/cpgg/202605/t20260526_259396.html

国内的卡基本都是偏科的，建议先去云服务上租不同型号，把自己的 POC 跑通。

这东西不是只需要考虑一上指标吗？哪家有利润要哪家的

@songray 有国产卡云服务租的渠道吗？

@abel533 有，华为云和阿里云就可以租到两家对应的型号

@Jiajin 这东西只有理论算力。。。实际极难发挥

@cpper 又不是你口袋里的钱，有啥浪费不浪费的。哪怕外企里买了 H100 部署，你能保证大部分情况下，不是浪费么？

@DeYiAo 武汉某高校去年 4000W 用在腾身上，技术支持都远远跟不上

@skuuhui 麻烦推荐几家？最好有武汉的，要真正技术实力强的

我们信创项目都用的昆仑芯 P800 只能说不太好用

看了好多评论，果然是殖人思想。难道一辈子都要受制于别人吗

用过海光、腾、平头哥。腾自建生态加上文档稀烂，体验就是一坨。另外两家 cuda 上能跑的代码随便改改就能跑起来，但比起 n 卡来性能和体验还是要差不少。

总有些人以为是在创新和防止卡脖子，其实背后全是利益和勾兑

@xiaomushen 我每年个人所得税交几十万，还不能关心下蛀虫浪费税收了？

有些人揣着明白装糊涂，信创都是些什么东西心里没点数吗

产品选型，不涉及其他的～～

@xiaomushen 外企就是把买的卡扔到水坑里都无所谓，只要不是花的税收的钱。但信创的那些单位花的钱来自于哪里你心里没数？

网上不是爆腾 910b 、910c 都是 TSMC 代工的 7nm 么（算能科技发包），工艺品控应该可以，就看你这边部署能不能适应软件生态了

七彩虹

@songray #33 这两家找过多个入口，都看不到能选 GPU 的地方。。想从头在一台机器部署大模型测试，方便提供一个选择型号的入口界面吗？问过 AI ，说有，根据步骤走不通。

阿里 平头哥

腾 910c 部署 deepseek 遇到了一个 bug ，直接影响使用，还是要谨慎些。
https://github.com/vllm-project/vllm-ascend/issues/9170

@abel533 华为云选购买弹性云服务器，区域选华北三。

找不到是因为限购，要用公司的账号找客户经理申请。