这是一个创建于 365 天前的主题，其中的信息可能已经有所发展或是发生改变。
看了一眼 阿里云的 gpu 服务器，倒吸一口凉气，感觉这个成本真的收的回来吗
 | 1 stimw 2024-12-02 12:55:54 +08:00 via Android  1 个人搞 aigc 肯定都是调 api 的，云服务器部署这个成本不太可能。 |
 | 2 hash 2024-12-02 13:37:17 +08:00 租 GPU 服务器是性价比最低的,甚至都不如自己弄一堆二手显卡放家里 |
 | 3 shadowyue 2024-12-02 13:41:04 +08:00 我觉得组 gpu 才是正解。你自己买显卡，二手出去得亏多少钱。 云服务好歹还能按需付费。 |
 | 4 rap16 2024-12-02 13:42:04 +08:00 套壳啊，套壳能赚钱干嘛还要自建 |
 | 5 codersun123 2024-12-02 13:44:29 +08:00 autoDL 类似这种的按需付费 |
 | 6 nrtEBH 2024-12-02 13:46:14 +08:00 |
 | 7 littlehans8 2024-12-02 13:46:52 +08:00 4 1. 调第三方 API ； 2. 我当时自己是搞了张 4090 放家里，然后内网穿透出去。当然最后项目黄了，显卡卖了还小赚一点，然后整个项目最赚钱的还是这张显卡。 手动狗头 :- |
 | 8 importmeta 2024-12-02 14:19:52 +08:00 个人 aigc 创业, 还要租阿里云服务器, 你没有营业执照, 能过备案这一关? |
| 9 importmeta 2024-12-02 14:21:07 +08:00 AI 要算法登记, 个人都没法申请. |
 | 10 dayeye2006199 2024-12-02 14:28:47 +08:00 需要 GPU 的可以重新考虑一下商业模式 |
 | 11 catamaran 2024-12-02 15:14:11 +08:00 IT 行业第一次进入重资产时代？ |
 | 12 alfa 2024-12-02 15:17:03 +08:00 @littlehans8 最后想下来，还不如 all in 4090() |
 | 13 Pbe2RsrnVcPrF 2024-12-02 15:18:35 +08:00 lambda labs |
 | 14 mickerwx 2024-12-02 16:17:50 +08:00 说实话 调接口是最方便和便宜的 接近 2w 的 4090 买接口调用的话 你都能调到你项目倒闭 |
 | 15 hoodjannn OP @littlehans8 请教大佬，这个调三方 api ，可以本地训练好自己想要的模型，再上传就能使用了是吗 |
 | 17 RatioPattern 364 天前 之前 P40 700 一块的时候买了两块，然后有 48G 显存了，然后配了 D1581 主板 16 核 32 线程的板子 4 个网口的加 128G 内存， 加硬盘电源杂七杂八用了 3000 块出头，待机功耗 50W 不到，天天开着跑 DOCKER 挂了 FRP 出去给小站跑图跑 llama 用 缺点就是可惜这个板子 PCIE 不是完整的 X16 ，然后 U 虽然核心多但是 IPC 低然后内存因为老一代加 ECC 的带宽有点低，然后 P40 这卡不支持半精度，但是胜在不跑训练的话速度不算慢，跑训练的话最好还是云服务跑了把模型拉下来用，硬要训练的话显存够搞好散热肯定能跑也不至于太慢，然后 48G 显存可以用很多大参数的模型，对个人来说前期投资和长期开机使用成本极致的低还是比较满意。 |
| 18 RatioPattern 364 天前 后来没啥兴趣了就出了没想到用了大半年 P40 这玩意竟然还翻了个倍。。。这年头啥都金融化了 |
 | 20 ibazhx 364 天前 自己部署 GPU 服务器的话，并发怎么搞定？除非是很有钱吧，能调 api 就别买 GPU 服务器了。要微调的话，可以看看线上各家的在线微调，使用成本也低。还有的话提醒楼主一下，要是还没把调三方 api 弄明白就不要轻易创业了。 |
 | 22 qiniu2025 364 天前 AI 免费不起,必须收费 |
 | 23 kssss 285 天前 Post Openai.com |
Select Language