 | nevin47V2EX 第 84277 号会员，加入于 2014-11-29 00:35:07 +08:00 |
nevin47 最近回复了
1 天前 回复了 newmancode 创建的主题 问与答 [求助] 求成本可控，性能过关的本地 vibe coding 方案 |
一万的预算不够，本地大模型就算你一个单用户使用，你部署一个上百 B 的模型需要的显存一张 A100 都打不住，就算用 Mac 的 unimem 方案，假设你配置 128G 的内存来加载参数，也差不多 10W+的成本了，而且受限算力可用性也很差
如果涉及本地安全保密的需求，那你唯一的路径就是加预算，然后用 qwencoder-32B 这种小模型去跑
如果涉及本地安全保密的需求，那你唯一的路径就是加预算，然后用 qwencoder-32B 这种小模型去跑
1 天前 回复了 Nexora 创建的主题 生活 我是家中独子，婆媳关系不好，老婆不肯回家过年，怎么办？ |
@cfancc #195 老哥正解，明明两个人很互补的性格还能闹成这样
尤其看 OP 自己说的，老婆居然还愿意花心思学习理财，OP 还觉得嫌弃。妈的这是很多男人求都求不来的好吧，只能说 OP 太木了，先学会精神上的弑父吧
尤其看 OP 自己说的，老婆居然还愿意花心思学习理财，OP 还觉得嫌弃。妈的这是很多男人求都求不来的好吧，只能说 OP 太木了，先学会精神上的弑父吧
1 天前 回复了 eratpfus7 创建的主题 投资 这几天咋回事，金价一路狂飙，你们手上还持有多少 |
我是属于不知道买啥的时候就给老婆买个金首饰的那种，反正看着就开心
我自己平时也是喜欢戴金饰，没事儿盘着就开心……
我自己平时也是喜欢戴金饰，没事儿盘着就开心……
@hafuhafu #3 最早的 RAG 还停留在 prompt 生成上，现在已经不是了
@kdd0063 #24 看一下 engram 的 paper ，很大概率 Gemini 也用了类似的方案
上周 DS 公开了 engram 的方案
目前来看，几个头部的 LLM 应该都使用了类似的方案
目前来看，几个头部的 LLM 应该都使用了类似的方案
2 天前 回复了 BortonJones 创建的主题 旅行 想去三亚玩，求推荐酒店，攻略之类的 |
看看陵水吧，我是真心觉得三亚各方面不如陵水好玩
2 天前 回复了 NxxRngjnbgj 创建的主题 问与答 道德的缺失是否不影响体制内饭碗(得)失问题 |
OP 说反了，体制内如果因为私德问题被严重警告了，那基本上仕途就这样了，就算上面有人保，那也是伤筋动骨的事儿。如果有领导职位，基本上就是调离原岗，后续想要继续任命非常难
体制外，私德反而没啥影响，该干嘛干嘛，只要不违法，企业也基本不管这个
体制外，私德反而没啥影响，该干嘛干嘛，只要不违法，企业也基本不管这个
Select Language