主题总数 215 < href="/feed/localllm.xml" target="_blank">
这个节点讨论在本地电脑或者局域网里运行 LLM(大语言模型)的技术细节

| 咨询 GPU 服务器方案 Legman 293 天前 最后回复来自 tool2dx | 11 |
| 大模型私有化是怎么集群部署的? mingtdlb 294 天前 最后回复来自 volvo007 | 6 |
| ollama+docker 部署的 dify+ Linux 放在外网,如何设置才安全? icemanpro 295 天前 最后回复来自 mmdsun | 9 |
| < href="/t/1111710#reply15" class="topic-link" id="topic-link-1111710">8 卡 H100 部署 DeepSeekR1 求助 zhyim 294 天前 最后回复来自 weiming | 15 |
| 公司一个台式机想作为服务器部署本地大模型,怎么在局域网使用呢 xinhaiw 287 天前 最后回复来自 cander0815 | 21 |
| 8 路 L40 部署 R1-671B 上限是多少呢 jinja27 302 天前 最后回复来自 jingzf0214 | 10 |
| LLM local 模型入门和使用 iv8d 107 天前 最后回复来自 miaoxiaomayi | 11 |
| 有开源的可联网搜索的 ollama UI 项目推荐吗 goashore 297 天前 最后回复来自 coefuqin | 14 |
| DIFY 这类产品会成为主流吗,交互逻辑咋这么复杂,感觉没自己写代码方便 wushenlun 302 天前 最后回复来自 ericguo | 2 |
| 各位大佬, m4mini32g 跑大模型还是 4060ti16g呀? songche 308 天前 最后回复来自 chor02 | 22 |
| 大佬们有没有基于大模型的推荐系统 demo spitfireuptown 309 天前 最后回复来自 murmur | 9 |
| ollama 如何手动下载模型? mrleft 306 天前 最后回复来自 h4ckm310n | 15 |
| 求助,做 AI 深度学习服务器跑大模型推理,选 RTX5080*2 还是一张 4090 duanrancosmos 312 天前 最后回复来自 Gnihton | 6 |
| Deepseek r1 14b 很有自己的想法 lostsquirrelX 313 天前 最后回复来自 lostsquirrelX | 2 |
| 请问如何本地部署 AI 图片或视频清晰化功能? littlemis 316 天前 最后回复来自 tycholiu | 12 |
| Deepseek R1 671B 本地部署计算机硬件配置? lucien94xxx 312 天前 最后回复来自 shuimugan | 9 |
| 想让本地运行的大语言模型可联网该怎么做? raw0xff 312 天前 最后回复来自 shuimugan | 4 |