买了一台 256G 显存, 96G 内存电脑放家里, 如何对外出租出售剩余算力?

不太行 跑点不合规的家里宽带要没

放到机房托管，用 IDC 带宽会稳定点

不是我不信啊，是兄弟们想长长眼（狗头

丢算力租用的平台不就得了。。。

@honus 这个能有多大流量啊.

@ntedshen 有意思, 哪里有靠谱的算力租用平台可以出租?

一个半个没啥用，除非你有很多，跑 token 也跑不出多少来

同样有意买台机器放在家里自用，楼主能分享下 《装机配置清单》 吗？

这个配置跑不了啥给力的模型吧，最起码一线开源满血别想了，我感觉没啥用。。自己跑跑半血的做做实验啥的是可以，而且你的宽带上行撑得住吗，国内少有实际上行能跑到 1G 的吧，万兆都没普及。。。

@onedge 就打算跑点量化搞 crypto 和 ETF. 还有外贸上用的

@onedge 方便留个联系方式吗? 我看你做了客服系统, 可能我的朋友他需要.

等我的 H800 到货了，再告诉你

@Adelell 我看 x 上做 taoli.tools 的博主买了台 26 万多机器.

扣完电费挣不了多少钱

Ai 泡沫了吗

要 IDC 证和 ICP 证才能出售算力吧

自己在阿里云上租个轻量云机器，或是正常的机器也行，然后部署 frps 或是 nps

部署生成视频的大模型对外提供 API 服务。我有需求

是不是说反了？ 256G 内存+Pro A6K? 不然 96G 内存根本带不动这卡

给熟悉的人用

这种只能自己用，公司用，不适合对外出租。

网络能保证吗？
监管能保证吗？
用户体验能保证吗？

只能给熟人借用，你这个没有公网 IP ，也出组不了

部署一个中转站，号称 Claude Opus 4.7 ，往里面时不时掺一点本地模型。

这种配置要亏死你, 你的成本怎么可能做得过算力云供应商. 就算自己也用, 也是极其浪费的.

以前用过清华一个创业团队的软件”算了么“，把自己的 4090 租出去，还是有挺稳定的收益的，单纯好奇玩一下，后来就没关注了，可以看下

256G 显存？

上 vast.ai ，国内可以试试算了么

一台太少了，大户都懒得租，看能不能整个 API 站，跑点大模型图片视频生成之类的

电费太贵，不然可以开 api 出去，调用和返回本身没多大流量。

我们那个年代一般管 48G 显存 64G 内存以上的电脑叫服务器
然后服务器应该在机房

显卡型号是？

emm...256g 显存是怎么组的

emmmm 只有跑脏活的会找个人租 到时候说不定就不是运营商找你写保证书了嘿嘿

有风险，小心别人拿你 ip 做坏事

6000 pro 96g 显存

所以 8 张 32G 的。
或 16 张 16G 的。但是它们之间传递不快啊？

我觉得比还是先想想你这搭配能正常跑起来多大模型吧，256 显存你内存不得整个 1t

nvlink 互联的 v100 吗？请问有没有测试过 8bit 量化的 70b 模型（ deepseek/qwen/gemma)，200k 上下文能跑出多少 tps ？

@Livid 英伟达 V100 SXM 四卡 12G 风冷显卡拓展坞, 拓展到 256G, 可惜到货试了下, 有问题, 退货了.

@towser nvlink/mcio 都支持

其实都可以做，但是吃力不讨好。没啥实际意义。除非时间多 自己爱折腾。

V100 有啥用啊，好多 AI 模型都跑不起来了。

v100 劝你别买，只适合自己折腾玩玩，架构太老了