V2EX bwnjnOEI 的所有回复第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

20 小时 17 分钟前

回复了 guoguobaba 创建的主题程序员想把我最近做的一个分布式网络爬虫系统开源，不知道有人有兴趣不

能过京东淘宝突然弹出来的人机检测吗

20 小时 32 分钟前

回复了 fingerxie 创建的主题程序员感觉 Kimi tinking 吹的很厉害，使用起来差强人意

月之暗面好像没出过 Kimi tinking 这个模型，最近出的是 kimi k2 thinking

21 小时 17 分钟前

回复了 mystical 创建的主题问与答如果你突然得到 50w，你会买什么

6 张 rtc pro 6000

7 天前

回复了 YanSeven 创建的主题问与答为什么 LLM 这么喜欢表情符号，尤其是 GPT

不出意外应该是 oai 开的头，researcher 觉得这样很好但感觉有时候挺 sb 的，谁让人家牛 b 呢

7 天前

回复了 wenyong3124 创建的主题游戏昨天的 TES 被 T1 零封抽陀螺，你们怎么看？

给 t1 队员都打笑了

9 天前

回复了 luckycloves 创建的主题英雄联盟 AL VS SKT 兄弟们 LPL 最后的牌面了 2:1 了

第五把 t1 选完下路双人，tabe 下台时表情就不好了。

9 天前

回复了 youzhiqing 创建的主题分享发现如何修改 X 算法推荐

没懂

9 天前

回复了 qdwang 创建的主题问与答目前医疗类 AI 哪个最好？

我觉得 aq 很拉，蚂蚁买完好大夫，好好的数据就这么浪费了，其他的国内没用过，考虑个人隐私这方面不打算用国内的（比如上传化验报告懒得/忘记去名字还是把个人信息给大洋对面）。感觉还是 chatgpt 好用，开源的话就 medgemma27b 消费级也能部署。

9 天前

回复了 scim 创建的主题问与答 wxauto 也归档了，大家怎么看

这种东西出来一个腾讯就会清除一个，我比较好奇他们都是怎么找到作者的，这比翻墙协议作者还严重吗

10 天前

回复了 Saunak 创建的主题 Local LLM 家用 AI 开发机， GPU 在“魔改 4090 48G”和“等 5090 32G”之间纠结，求大佬们给点建议！

@Saunak 现在官方店都是 5090d v2 吧，官方店好像只有超级雕有 d

10 天前

回复了 Saunak 创建的主题 Local LLM 家用 AI 开发机， GPU 在“魔改 4090 48G”和“等 5090 32G”之间纠结，求大佬们给点建议！

@Saunak 电源黑匣子吗？ 1600w 够了吧，尽可能买贵的，用显卡带的线安装时最好拍个视频（虽然也没啥用要是不放心再上个稳压器或者 ups 之类的（其实没啥大用显卡待机也就 2 3 十瓦你跑模型多说飙到 100w （我说的是推理，我微调或者 rl 都用实验室的卡或者买 gpu 云

12 天前

回复了 Saunak 创建的主题 Local LLM 家用 AI 开发机， GPU 在“魔改 4090 48G”和“等 5090 32G”之间纠结，求大佬们给点建议！

买新不买旧啊，那个 48g 的我也心动过，但是毕竟改装卡。只要是 moe 架构的模型都可以把专家权重卸载到 cpu 只把前 n 曾放在 gpu flash-atten kv 都不用设 q8 也就是说 60g 以内的模型在权衡质量和 tps 和预算的情况下你都能跑 gpt-oss-120b qwen3-30b ，4090 也能到 20-25tps ，当然还能优化

12 天前

回复了 coefu 创建的主题 Local LLM llama.cpp/ollama 对于类似 vllm tensor parallel 功能的支持。

ollama 就是给小白用的，每次有新模型 ollama 都是等 llama.cpp 有了才更新。llama.cpp 就是单卡最强，多卡就 vllm or sglang