falconwang0110 最近的时间轴更新 falconwang0110 最近的时间轴更新 | falconwang0110V2EX 第 507983 号会员，加入于 2020-09-14 13:46:15 +08:00今日活跃度排名 2945 |
| Wails2+Vue3 本地的绑定文件和 Vite 上的不一致 Go 编程语言 falconwang0110 11 天前 最后回复来自 falconwang0110 | 4 |
falconwang0110 最近回复了
12 小时 12 分钟前 回复了 aptupdate 创建的主题 信息安全 笑不出来，用了好多年的 Infinity 新标签页 疑似被投毒 |
我说呢，今儿早上 Edge 突然把这个插件给我自动禁用了然后报毒，光速卸载
11 天前 回复了 xfn 创建的主题 生活 大家在成长过程中有过"开窍"的那一刻吗？ |
有的兄弟有的，但是很难 pinpoint 出一个 “顿悟时刻”，对我来说应该是 “顿悟时段”
2024-12-03 04:05:54 +08:00 回复了 hoodjannn 创建的主题 程序员 ai 小白请教，大模型必须要 gpu 服务器吗，单纯推理是不是 cpu 就可以了。 |
无 GPU 推理有两个方案：
1. 调用 API ，这样你自己的服务端只需要接受用户输入并返回模型输出即可，1c2g 应该问题不大。
2. 线上推理，对于语言模型也可以用 CPU 进行 inference ，但是会很慢，量化为 INT4 后，4 代 Xeon 大概能做到每个 token 20~80ms （ 3B~20B 模型），reference: [Efficient LLM Inference on CPUs]
1. 调用 API ，这样你自己的服务端只需要接受用户输入并返回模型输出即可，1c2g 应该问题不大。
2. 线上推理，对于语言模型也可以用 CPU 进行 inference ，但是会很慢，量化为 INT4 后，4 代 Xeon 大概能做到每个 token 20~80ms （ 3B~20B 模型），reference: [Efficient LLM Inference on CPUs]
2024-10-17 04:06:25 +08:00 回复了 iqoo 创建的主题 分享创造 改进了之前「按耳机发摩尔斯码」程序 |
已 star ，有意思，后面有计划开发连续输入词组或句子吗。
2024-09-24 19:54:05 +08:00 回复了 moudy 创建的主题 问与答 激光彩打一体机哪家强？ |
不清楚你的使用频率 如果不是一两天就用一次的话还是上激光吧 喷墨的太久不用容易堵喷头
2024-09-24 19:52:53 +08:00 回复了 moudy 创建的主题 问与答 激光彩打一体机哪家强？ |
买兄弟的黑白激光，第三方硒鼓很便宜，可灌墨粉，wifi 打印，打印质量没问题
2024-09-11 06:02:13 +08:00 回复了 p0w1r2takuya 创建的主题 软件 语雀 bug 太多，有没有推荐的可以平替语雀的云笔记？ |
我一直用的飞书云文档，非常好用。和语雀的逻辑几乎一致，但是更强大也更流畅，docs.feishu.cn 就能直接用，全免费。缺点就是确实有点儿重
2022-11-07 14:53:50 +08:00 回复了 HamHam 创建的主题 iPhone 你现在睡觉还给手机开飞行模式吗？ |
iphone 快捷指令，关闭 wifi 、蜂窝、蓝牙和媒体音量，手动检查一下铃声就 ok
Select Language