主题总数 213 < href="/feed/localllm.xml" target="_blank">
这个节点讨论在本地电脑或者局域网里运行 LLM(大语言模型)的技术细节

| 10 万条记录, 我应该选择什么 Embedding 模型和向量数据库呢 mythjava 64 天前 最后回复来自 liulicaixiao | 3 |
| LLM 调用 MCP 的机制到底是什么?为什么有些 MCP 安装了却不调用? bulldragon 79 天前 最后回复来自 kermitlee | 4 |
| 本地部署了大模型如何有效利用? ragnarok19 79 天前 最后回复来自 YsHaNg | 1 |
| 大模型本地部署显存计算的问题 Suinn 80 天前 最后回复来自 Suinn | 2 |
| AI 本地化部署的方式 wenkgin 13 天前 最后回复来自 horizon | 44 |
| web search MCP 推荐 faoisdjioga 90 天前 最后回复来自 AJDX3906 | 1 |
| 批了 100 万预算让我负责搭建行业知识库大模型, 但是目前还没有思路 sodayo 80 天前 最后回复来自 Ricardoo | 30 |
| 如果想训练一个类似于智谱的模型 大概得耗费多少钱? gotoschool 96 天前 最后回复来自 coefu | 21 |
| 想自己本地跑大模型,学习大模型,做一些微调等操作,目前看到一款小主机在预算内, CPU AMD Ryzen Al Max+ 395,不知道这套配置是否适合用来学习大模型跑大模型,有没有懂的兄弟可以给点建议。 hmbb 100 天前 最后回复来自 objectgiga | 68 |
| 大语言模型中规模和模型大小的关系? SSang nlzy | 5 |
| 怎样部署 ai 大模型然后训练他 eedh 104 天前 最后回复来自 2020diyige | 15 |
| 有人实际部署过 GPT-OSS-20b 么? 需要什么配置能跑得比较流畅? totty PRO | 30 |
| 有没有好用的本地翻译模型? importmeta 47 天前 最后回复来自 xy2401 | 16 |
| AI ollama 运行的 qwen3:8b 如何关闭思考模式? dunhanson 112 天前 最后回复来自 lchynn | 7 |
| 大模型什么样的速度是靠谱的 guoguobaba 122 天前 最后回复来自 oldlamp | 2 |
| 请问: 要部署本地 AI, 投喂 AI 知识库的话, 目前适合个人电脑的最佳方法是啥? Lucy2025 136 天前 最后回复来自 shuimugan | 14 |
| 有没有人尝试过用 ai 去整理自己的知识库 rocloong 137 天前 最后回复来自 lezhou | 11 |