这是一个创建于 246 天前的主题，其中的信息可能已经有所发展或是发生改变。
如题，我想通过把本地的个人文档（主要是 pdf ，md ，doc 文档）同步到云端，创建一个在线的个人知识库。在网上看了一些方法，在云端创建，需要上传本地的文件，但是我本地文件比较多（几千个，主要是一些论文）且经常更新，不可能每次问问题都全部重新上传一次。在本地部署，只能使用参数量较小的蒸馏模型。并且个人认为大模型的未来还是在云端的，不太可能每个人都本地搭建一个。所以问题来了：
现在有没有什么平台可以使用满血的开源大模型（比如 deepseek ，千问等），同时提供一定的存储空间（不需要很大，几个 GB 就行）？这样能够把自己的文档同步到云端，并且模型自动读取，以此实现通过本地调用 api 就能得到一个满血的个人知识库。
 | 1 liu731 PRO 可能你在说 RAG ，但是这个代价（ Money ）有点贵哦。 |
 | 2 nicholasxuu 246 天前 几 GB 的数据量，随便哪个云，云盘或者 oss ，都很便宜的，几乎可以忽略不计。 大模型如果是直接用开源的，估计很多云平台可以直接按量租，不便宜但也可能还能承受，至少不是买机器的天文数字。 这些数据怎么给大模型用是个技术问题， 作为 context 全部丢给它的话，token 处理量巨大。 用这些数据提前微调模型的话，需要一些更强机器的训练费用，最终效果未知。 是不是要搭配 RAG 使用？ |
 | 3 virusdefender 246 天前 阿里云百练之类的？ |
 | 4 jackey007 OP @nicholasxuu 您说的对，最大的问题是怎么把数据给大模型。 |
 | 5 loading 246 天前 AFFINE |
 | 7 buynonsense 246 天前 我所知的 1 monica 可以免费用 deepseek,然后有一个备忘录功能好像是 md ，适合小笔记记录的 2 obsidian 的一个插件 https://github.com/brianpetro/obsidian-smart-connections |
 | 8 uyoungco 245 天前 lobechat |
 | 9 musi 245 天前 难的是数据检索，目前仅靠向量和关键词检索并不能很好的召回数据 |
 | 10 huzhizhao 245 天前 难的不是怎么达到这个目的。 而是召回普遍比较烂 |
| 13 jackey007 OP @buynonsense 您可能理解错了，我要的不是记录，而是我给 ai 一堆材料，他能根据这些内容和我聊天 |
| 14 musi 245 天前 @jackey007 #11 你可以简单的理解为“针对用户的问题对知识库进行搜索的结果”，实际上目前的 RAG 对数据的检索基本达不到满意的效果。 所以从 GPT3.5 出来的时候一直在吹的 AI 客服之类的到现在还不能很好的落地，一方面是 LLM 幻觉严重，另一方面是企图用 RAG 降低 LLM 幻觉并没有取得很好的成效。 |
| 15 huzhizhao 245 天前 |
| 16 huzhizhao 245 天前 |
| 17 jackey007 OP @musi 了解了，多谢。AI 吹上天了，我还想着以后可以把一堆 paper 给 ai ，让他写一个关于某 topic 的 review 。从您的回答来看，现在的大模型连归纳总结都还做不好 |
 | 19 pianoer88 222 天前 微信的 ima 知识库可否一战？ |
Select Language