gemma2 2B 一键整合包（2.3G），能力超过 gpt3.5， cpu 也能跑得飞快
mumbler 2024-08-07 17:11:39 +08:00 2063 次点击这是一个创建于 431 天前的主题，其中的信息可能已经有所发展或是发生改变。
https://flashai.com.cn/model/gemma2_2b
不用 GU ，在 12 代 i7cpu 也能跑出 20+token/秒的速度
无需任何配置，开箱即用
支持 win10,win11 ，mac11+
图形界面，不用自己安装 webgui
自带 embedding 库，支持上传 pdf,docx,txt,md 创建知识库
文档翻译工作流，一次翻译整本书
知识树，从大模型压榨数据
离线使用，大模型基础功能永久免费
 | 1 asaworld 2024-08-07 20:04:51 +08:00 via iPhone 看着不错，有没有老哥测试下 |
 | 2 zhs227 2024-08-07 20:17:12 +08:00 mac 11.6.1 启动报错，大概就是执行模型加载错误了 |
| 3 zhs227 2024-08-07 20:26:17 +08:00 "/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model gemma2:2b-instruct-q4_K_M -path "/Applications/FlashAI B2.app/Contents/Resources/embeddings" zsh: segmentation fault "/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model -pat |
| 5 zhs227 2024-08-07 22:30:56 +08:00 启了无数次都是一样的。报 segmentation fault ，应该是哪里内存越界了。 |
 | 6 mumbler OP @zhs227 可以在 flashai.com.cn 主页扫二维码进交流群，帮你看看 |
 | 7 Pepsigold 355 天前 via Android 3090 部署的话，并发支持多少？ |
Select Language