
我认为,AI 的技术边界,最核心的一点,就是成本。理论上,随着技术成熟,算力成本应该指数下降,但是,目前来看,模型的训练成本、推理成本不但没有明显下降,反而更高,特别是推理成本,一方面模型本身的推理成本不断升高,其次,应用端越来越依赖上下文,导致单个任务的 token 使用量动辄以百万、千万级,完全吃掉硬件效率提升。 更关键的是,在可预见的时间内,推理成本不会出现明显的下降。 成本对 AI 技术的制约,将成本 AI 技术的推广和使用边界。
收益大于成本是商业的底层逻辑。 绝大多数 AI 应用目前 “越用越亏”,无法形成可持续商业模型。 由于成本制约,本质上注定了“这次一样”的结果。
1 cmdOptionKana 2 月 28 日 via Android 你的推理基础:在可预见的时间内,推理成本不会出现明显的下降。 但,这很可能错误。 |
2 zanbujiang 2 月 28 日 我的观点是推理成本越来越低,香蕉 2 不是出来半价了吗。 下一步要售卖 IA 助理了。 |
3 xiaowoli 2 月 28 日 成本是相对的 1. AI 的成本明显小于你我的成本 2. AI 的 ROI 明显大于你我的 ROI |
4 seven777 2 月 28 日 大模型厂家比我们研究的都透彻, 成本, 政策, 伦理, ROI, Risk 等等 我有个感觉, 普通人被资本和大模型厂家裹挟着, 恐吓着往前走, 实际上的目的可能就是每个大模型厂家都想排在最前, 都想趁早立势, 更简单的是趁早多拿些投资. |
5 Haku 2 月 28 日 via Android 同一代的模型成本在降低,新一代的模型成本相比旧的在上升 但,归根结底,它们是在下降的。至于下降以后的底部价格是不是上升那得看统计数据了 |
6 ritziiiiii 2 天前 via Android 谷歌,微软从轻资产向重资产转型是否正确? 1 ,现在 Ai 服务器商人们只看到设备折旧,却 没想过现在设备发展速度慢了很多很多 (显卡的摩尔定律失效,其他的硬件也基本停滞比如发动机),所以折旧不能按照几年前标准算了。 (不过听说 HBM 显存损坏率很高, 这里存疑。) 2 ,Ai 算法优化空间还非常大,马斯克,还有其他技术人员都有说过这一点,Ai 的算法优化/智力成长也有类似于“摩尔定律”的东西。 不过我对智力成长存疑,支持算法优化,而且算法优化是不会增加设备需求的。 基于以上两点,我认为 Ai 云服务器的逻辑和互联网泡沫的逻辑有点对不上,不知道有没有不同的看法。 附:根据目前互联网软件/服务器厂商的 PE ,泡沫率大概在 10-25%。 如果真有问题现在完全停止建设服务器,大概 3 年就能回本。 还有一件事,目前肉眼可见的是国内几乎所有 Ai 厂都降智了。 |